RAG技術の登場からみる「チャットボットの未来」
チャットボットは私たちの暮らしのなかで、一般的なツールとして認識されるようになっている。とはいえ、筆者も、自分が住むオランダの郵便局のチャットボットを利用したことがあるが、荷物が紛失していないかというシンプルな質問にも関わらず、まったく関係ない答えが返ってきたり、違う角度から同じ質問をすると、毎回異なる回答になったりした。これがチャットボットの限界だと早々に諦めた記憶があるが、目的に合っていない、精度が低い、適切な回答を得られないなどの理由から、チャットボットの精度に疑問を抱く人も少なくないはずだ。 しかし、今、そのチャットボットが脚光を浴びている。Statistaによると、チャットボットの市場規模は2016年には1億9,080万ドルだったが、2025年には約12.5億ドルに成長すると予測されている。この成長の背景にはAIの進化がある。あらかじめプログラムされたルールやスクリプトに基づいて回答するチャットボットから、生成AIによるチャットボットへと進化しているのだ。 今年2月、アメリカを拠点とするAIプラットフォーマーのVectaraが、生成AIによる高精度のチャットボットを構築・展開する新モジュールを発表した。このプラットフォームは、最新情報をAIに学習させ、ハルシネーションリスクを低減するRetrieval Augmented Generation（RAG）技術とBoomerangベクトルエンベディングを使用するという。
ハルシネーションを抑止する技術
AIシステムが大規模なデータから学習する際、トレーニングデータに偏りや不足があったり、文脈の誤解により、誤った情報を生成することがある。このような現象はハルシネーションと呼ばれるが、データや計算リソースの制約、事柄の複雑な関係性などにより、避けることはできないと言われている。 Vectaraが新しいモジュールに用いるRAGは、関連する外部の知識ベースから事実を検索、最新の正確な情報に基づいて新しい情報を生成する技術で、誤情報によるハルシネーション抑止に効果があると言われる。また抑止するだけではなく、様々なトピックや領域に対応する豊富な情報を提供できる利点もある。 RAG技術に加え、Vectaraが開発したベクトルエンディング技術の1つで、言葉の意味を理解して関連する情報を見つけるBoomerangを組み込むことで、ユーザーが求める情報やサポートを正確に理解し、適切な回答やアドバイスを提供することができるようになるとVectaraは語る。
