AIシステムが、人間の利益と相反する行動を取り始めるリスクが指摘されている（Shutterstock.com）

2025年の人工知能（AI）の世界において、テクノロジーからビジネス、政策など、さまざまな観点から予測した10の出来事を紹介する（本稿では7～10を掲載、1～3はここから、4～6はここから）。 7. AIが自動的に「より優れたAIを生み出す」分野で大きな進歩が起こる 再帰的に自己改善するAIは、長年にわたりAI界隈で繰り返し論じられてきた。 たとえば1965年、アラン・チューリングの共同研究者だったI.J.グッドは次のように述べている。 「超知能マシンを、どんな優秀な人間の知的活動もはるかに凌駕できる機械と定義しよう。機械の設計は知的活動の1つであるから、超知能マシンはさらに優れた機械を設計できる。そして『知能の爆発』が起き、人間の知能は取り残されることになるだろう」 AIがさらに高度なAIを発明する、というアイデアは理論的に魅力的でありながら、今でもSF的な雰囲気を帯びている。しかし、実際にはこのビジョンに向けた進捗が少しずつ現実化し始めている。 2025年は、この「AIがAIを研究・開発する」という方向性が一気にメインストリーム化すると予想している。 もっとも注目すべき実例の1つは、Sakana AIの「AIサイエンティスト」だ。2024年8月に発表されたこの研究は、AIシステムがAI研究の全工程を完全に自律的に実行できることを示す、興味深い実験結果である。 AI Scientistは、既存の文献を読み込んで新たな研究アイデアを考案し、それを検証する実験を設計して実行し、結果を研究論文としてまとめ、さらに自ら査読プロセスを行う。これらすべてを人間の手を借りずに完結させる。AIサイエンティストが執筆した論文のいくつかは公開されており、内容を確認できる。 OpenAIやAnthropicなども、「自律的なAI研究者」を目指したプロジェクトを進めているという噂があるが、まだ公式には認められていない。 2025年には、こうした取り組みが大きく飛躍し、スタートアップの参入も相次ぐだろう。AIによるAI研究の自動化が現実的になってきた、と広く認識される年になるわけだ。 特に象徴的な出来事として、「AIエージェントが単独で執筆した論文がトップクラスのAI学会で採択される」可能性がある。学会の査読は匿名で行われるため、採択後に「これがAI執筆だ」と判明する展開も十分考えられる。NeurIPSやCVPR、ICMLのような主要学会で歴史的な事例が生まれてもおかしくない。