ChatGPTの飛躍的な進化とその限界。いま顧みられていないAIの可能性とは？

ハロルド・コーエン　AARON Gijon　2007　ホイットニー美術館蔵　© Harold Cohen Trust

──前編では、歴史の連続性からAIをとらえ直すことが重要で、「いままでにない」「新しい」とむやみに持ち上げたり恐れたりする必要はないということがわかりました。いっぽうで、やはりその技術的な進歩に注目が集まる状況も無視できないのではないでしょうか。 久保田：大規模言語モデルによるChatGPTが、それを開発した技術者自身の想定を超える機能を発揮したのは確かです。トランスフォーマーという、次の語を予測するモデルを用いたGPTの最初のバージョンが公開されたのは2018年6月でしたが、2020年6月にベータ版がリリースされたGPT-3あたりから、突然その能力が向上しました。トランスフォーマの性能は、神経細胞の数に相当するパラメータ数、学習に用いたデータセットの大きさ、学習に用いた計算量という3つの変数のべき乗側にしたがっているのですが、その連続性の中で何か質的な変化が起こったのです。 さらに幅広い一般知識や専門的な問題解決能力もった最新のGPT-4では、自分で問題をつくってそれを学習する自己教師あり学習によって、学習のプロセス自体を学習するメタ学習や、モデルの汎化、会話をしながら学習していく能力など、コンピュータ科学者もまだうまく説明できないような、驚くべき能力が発現しました。それはある種の計算による創発現象と言えるのかもしれません。技術者が興奮するのは良くわかります。 ただ、これまでのGPTのような規模の拡張による技術の進化は、そろそろ打ち止めになりそうな感じもしています。OpenAIもGPT-5の商標の登録申請は行ったものの「直近の予定には入っていない」とアナウンスしていています。先日のサム・アルトマンCEOの解任劇の背景などを見ていると、たんなる量的拡大では、もうこれ以上の機能の進化はないことに、OpenAI自らが気づいているように感じます。 人間は、物理法則を知らなくても、悪路を走ったり、様々な姿勢でボールを投げたりすることができます。しかし人間の知はそうした経験的、つまり反復とメタファーによるものだけではなく、数学、物理学、論理学のような、明示的な形式知によっても拡張してきました。大量のデータを用いた帰納的な学習だけでなく、設定された記号システムのなかで、因果関係や演繹的な可能性を探求したり、さらにはアブダクションと呼ばれる不完全な情報や断片的な観察からそれらを説明する仮説を推論していくような知は、いまのニューラルネットワークだけでは（ある程度は言語モデルの枠組みの中で学習できたとしても）実装が難しいといわれています。 たとえばリアリスティックな写真を生成しようとするときに、既存の写真の学習だけで様々な光の加減を調整するのではなく、システムが光学の原理を学んだり、3DCGのような世界モデルを持つことで、そこからボトムアップに世界を構築することができれば、さらに精度や柔軟性があがるだけでなく、ハルシネーション（幻覚）のような、今日のAIの問題を緩和することができるかもしれません。 かつてのAIは、むしろそうした問題に取り組んでいました。コンピュータを用いたAIの出発点は、数学的、形式的推論の機械化でしたし、90年代に精力的に取り組まれたエキスパートシステムも、職人や専門家が持っている暗黙知を言語化して、それを「Prolog」のような推論エンジンに乗せることで、ある領域に特化した演繹的知能を構築しようとするもの──その代表例が日本政府の第五世代コンピュータプロジェクトでした。ChatGPTを拡張するプラグイン、たとえばWolframプラグインのような計算知能システムの組み込みによって、そうした過去のアプローチが、もう一度、新たな形で利用されるようになるでしょう。 いまOpenAIやGoogleが注目しているのは、AIのマルチモーダル化です。画像・音・テキストなどの複数の種類の情報を一緒に学習することで、より統合的な知能を構築しようとしています。そのためには、異なる種類のデータを関係づけることが必要ですが、そこには画像でいえば網膜外のできごと、音でいえば鼓膜外のできごと、つまり背後にある意味や文脈の解釈や、全身体的な知覚や経験が必要不可欠です。機械学習も、画像だけ、テキストだけでわっと盛り上がる時期がそろそろ終わり、人文学と理工学が協働して「枯れた技術の水平思考」を進めるべきだと思っています。