生成AIのブラックボックス問題への対応

Cohereのbuild-your-own connectorsは、大規模言語モデルの「ブラックボックス」問題を解消するものでもある。 ChatGPTなどのテキスト生成AIツールは、さまざまなアウトプットを生成することができるが、そのアウトプットの内容がどのような情報を参照して生成されたのか、「引用」がない場合がほとんど。これが「ブラックボックス」と呼ばれる所以だ。 エンタープライズの文脈では、引用がないというのは著作権問題を引き起こすリスクにつながるため、引用があるかないかは非常に重要なポイントとなる。 この点、build-your-own connectorsでは、さまざまなデータにアクセスする一方で、生成するアウトプットには、どのデータを参照したのか、引用を表示するようになっており、ユーザーは情報の出所を確認し、幻覚症状の有無をチェックしつつ、著作権リスクを低減することができるようになる。 現時点におけるCohereの生成AIモデルの日本語対応能力は、OpenAIのGPTモデルに比べると劣るところがあり、日本語前提のアプリケーションでの利用には注意が必要だ。しかし、OpenAI、Anthropicに並び、Cohereも豊富な資金力も持っている。近いうちに日本語を含めた多言語能力の大幅な改善が予想される。