世界中で利用者が増加しているオープンAIの「チャットGPT」サイトの入り口画面（オープンAI提供）

　その一方で、生成AIの意図的な悪用により、偽情報や誤情報、そして偽動画が巧妙化し、拡散して人々の認識や行動に直接影響するリスクが世界的に高まっている。比較的最近の国内例では東京都知事選挙や能登半島地震後に、国外例では米大統領選挙やパレスチナ自治区ガザなどの戦火の下でも偽情報や偽画像が拡散した。人類に恩恵をもたらす光が強いだけに同時に影も生じている。

「制御不能」への危惧メッセージも

　ノーベル賞は、平和賞ほどではないにしても、自然科学分野の各賞も世界に向けた何らかのメッセージが込められていると感じさせることが少なくない。今年の物理学賞、化学賞の授賞理由や物理学賞の選考委員会の説明からは、科学・科学技術の発展を加速するAIの進歩に対する積極的評価だけでなく、あまりにも速い進展に対する戸惑いや危惧のメッセージを読み取ることもできる。

2019年11月に本田賞の授賞式出席のために来日し、受賞記念講演をするジェフリー・ヒントン氏

　一時米グーグルの副社長も務め「AIのゴッドファーザー」と呼ばれるヒントン氏はAIの性能向上によって危険性が高まるとの懸念を抱いたと伝えられる。2023年3月に強力なAIシステムの開発を一時停止するよう求めた公開書簡に著名なAI研究者とともに署名し、その約2カ月後にグーグルを退社している。その後もAIの危険性について積極的に発言してきたが、スウェーデン王立科学アカデミーの発表直後のインタビューに次のように述べている。

ジョン・ホップフィールド氏（同氏の妻のメアリー・ウォルサムさん撮影、ノーベル財団提供）

　「気候変動に対して何をすべきか分かっている。しかしここで（AIにより）何が起きるのか、起きたことに何をすべきか、私たちは何も分かっていない。AIが制御不能になり、支配的になるという実存的脅威を前に私たちは歴史的分岐点にある。今後数年間でその脅威に対する方法を考える必要がある」。この発言の直後に共同受賞者の米国のホップフィールド氏も「彼の心配に共感している。心配なのはAIの潜在能力が分からないことだ」と語っている。

深刻な軍事利用の拡大

　真偽が不明な多くの情報が世界で政治利用されるだけでなく、AIの威力そのものが最新鋭兵器など、軍事に利用されている懸念が増大している。