人間をしのぐAI開発の脅威について語るサンノゼ州立大学アフマド・バナファ教授

AIのリスクを研究するサンノゼ州立大学のアフマド・バナファ教授は「アルトマン氏の解任劇は、AIの開発に慎重なかつての取締役たちが、アルトマン氏の開発主義を戒めるものだったのでは」と分析し、次のように話した。 「人間より賢いAIの開発段階に入っているとみている。あの解任劇は、アルトマン氏が研究プロジェクト“Q＊（キュースター）”を取締役たちに極秘裏に進めていたことが発端だったのだから」 ロイター通信によると、“Q＊”は小学生レベルの数学を理解するAIで、AGIの実現に向けたプロジェクトだという。AGIは、人が担っている作業を取って代わることができ、大きな生産性の向上が見込まれる一方、人間をはるかにしのぐ知能を持ったAIへと進化し、人間と対立するのではという懸念もある。 バナファ教授は、アルトマン氏の復帰で「オープンAIのAGI開発は加速する」との見方を示し、それがAIの暴走につながる可能性もあると警鐘を鳴らす。 「最悪のシナリオは、戦場で人に判断を仰ぐことなく攻撃する無人機や、工場で私たちが想定していないものを勝手に作り出すAIロボットなどが現れることだ」

■あふれる“ニセ動画”…過度な開発、どう規制？　2024年にはアメリカ大統領選も

2024年11月にはアメリカ大統領選挙を控えているが、野党・共和党の候補者選びで、トランプ氏のライバルとなるデサンティス・フロリダ州知事の支持団体は、生成AIで作成したとされるトランプ氏のニセの動画をSNSに投稿。トランプ氏側もAIで作ったとみられるデサンティス氏のニセ画像を投稿するなど、印象操作につながりかねないニセの画像や動画がSNS上にあふれている。 動画投稿サイトのYouTube、インスタグラムやフェイスブックを運営する「メタ」社は、生成AIで作られた動画に“AIで作ったこと”などを明示するラベルの添付を制作者に義務付けた。 バイデン大統領は2023年10月30日、高度なAIの安全性を確保するための大統領令に署名。AIの開発に際し、安全性評価の提出を開発企業に義務付けた。技術革新を促しながら、リスクを回避したいとしている。 バナファ教授は「AIの一般利用は始まったばかりだ」とした上で、「2024年は対話型のAIだけでなく、もっとさまざまなアプリが生まれる。そして利用者が増えれば増えるほど、リスクも増えていく」と指摘した。 AIによるリスクをコントロールしながら開発を進められるのか、人類の英知をかけた挑戦となる。