Helpfeel、「Helpfeel AI」発表--制御可能なAIでハルシネーション回避
Helpfeelは6月21日、生成AIを活用した機能群「Helpfeel AI」を発表した。 生成AIは、文章や画像を自動生成する能力に優れている一方で、さまざまなリスクも存在するとHelpfeelはいう。特に、事実と異なる情報を生成する「ハルシネーション」やAI学習による「情報漏えい」が問題視され、AI規制への法整備が国内外で進められているという。このような背景から、企業や行政には生成AIのリスクを適切に管理しながら、より賢く、そして正しく生成AIを活用することが求められる時代になったと同社は述べる。 このような社会背景を踏まえ、「制御可能なAI」をHelpfeelは提唱する。これは、未成熟なAIによるハルシネーションや情報漏えいから企業や行政の信用低下リスクを防ぎ、正確な情報をAI利用者に届けるためのコンセプト。生成AIの活用に当たっては、生成AIを人間がコントロールできることが不可欠だと同社は考え、生成AIのリスクを最小限に抑えつつ、間違った答えを出す可能性がある場合には、企業や行政が事前に訂正できることが重要とする。 さらに、AIシステムの内部で何が行われているかが不透明なブラックボックス問題を防ぎ、人間が管理・監督できる仕組みを同社は新たに開発。これにより、「説明可能なAI」から進化した「制御可能なAI・Helpfeel AI」を実現するという。 Helpfeel AIは、よくある質問（FAQ）の検索システム「Helpfeel」で利用でき、行政機関、社内外からの問い合わせが多いエンタープライズ企業や金融機関、EC事業者、ならびにその問い合わせ対応を担うコンタクトセンターやカスタマーサポート部署における生成AIの活用を推進する。 これまでに400以上のサイトに導入され、サポート業務のDX化をけん引してきたHelpfeelの利便性が飛躍的に向上すると同社はアピールする。現在までに5つのAIソリューションを提供しており、今後1年間の計画として、AIを用いた新機能やサービスをさらに3つリリースする予定だという。 Helpfeelでは、ワーキンググループを数年前から立ち上げ、高度な自然言語処理および生成AI活用（機械学習・深層学習技術）に関するアルゴリズムを研究開発している。主に、AIのための統合的なデータ編集・分析・改善環境の開発と、「制御可能なAI」のための誰にとっても使いやすいインターフェース開発に注力しているという。
