生成AIに熟慮促す仕組みが登場 Quiet-STaRで出力前の再考が可能に AGIへの試金石となるか?
新しいテクニックで期待される生成AIの進化
では、Quiet-STaRのようにAIモデルに熟慮を促すアプローチは、生成AIの発展にどのような変化をもたらすのだろうか。 Quiet-STaRの効果としてまず挙げられるのが、モデルによる文脈の読み取り力の向上だ。従来、言語モデルは目の前のテキストから直接的に情報を抽出するだけだったが、一文一文に立ち止まって根拠を示す訓練を受けたモデルは、より深いレベルで文脈を理解し、言外の意味までも汲み取れるようになる。 これは質問応答や要約、文書分類など、高度なテキスト処理タスクでの精度向上につながるとみられる。カスタマーサポートなど、文脈や言外の意味の理解が重要となる分野で重宝されることになるかもしれない。 また、熟慮を重ねることで論理的な思考力も鍛えられる。Quiet-STaRの実験では、モデルの思考に割り当てる言葉数が多いほど推論タスクの正答率が上がる傾向が見られたが、これはより長く深く考えることが合理的な判断を導く上で効果的だからだろう。ビジネスや科学分野など専門性の高い領域での活用にも道が開けそうだ。 さらに、推論能力の向上は生成AIの説明責任の強化にもつながることが期待される。AIがどのような思考プロセスを経て回答を導出したのかを示せるようになれば、システムの判断の妥当性を人間が評価しやすくなる。医療や金融、自動運転など、AIの判断ミスが重大な結果を招きかねない分野での応用にも弾みがつくだろう。
文:細谷元(Livit)
【関連記事】
- アップルも注目する最近の生成AIトレンド「小型LLM」、オフラインでも利用できる生成AIの登場とスマホ/ラップトップ市場へのインパクト
- メタに挑戦、Databricksもオープンソースモデル開発に参戦 最新モデルが示す意外な日本語能力
- ChatGPTを10倍以上高速化、秒速1,000兆回の演算ができるAIチップを開発 シリコンバレーで注目されるAIスタートアップGroqとは
- ビル・ゲイツ氏も注目のInflection、GPT-4に匹敵する新モデル「Inflection-2.5」をリリース STEMで高い性能、計算量は40%に抑制
- AWSとマイクロソフトがクラウドサービスに導入 Mistralオープンソースモデルの強み