TikTokからも学ぶグーグルのGemini、「AIによる概要」に今も残る問題
グーグルのAIモデル、Geminiがピザの材料に接着剤を使うことを提案したのは6カ月前だが、この機能は今でも事実とフィクションをうまく区別できていないようだ。 「バックフリップ(バク転)を発明したのは誰か?」と検索すると、数週間前まではGeminiが、1316年の中世ヨーロッパでこの技を初めて習得したジョン・バックフリップについて教えてくれた。そして「ジョン・バックフリップとは誰か?」と検索すると、グーグルのAIは彼がこの体操技を発明したと認識していた。しかしながらこの情報源は、体操選手イアン・ガンサーがフィクションとして作ったTikTokの動画なのだ。 彼はフォーブスに対して「僕は体操に関する風刺的な動画を作るのが好きなんです。スポーツについて冗談を言ったりふざけたりしてもいいでしょう?」と語った。 グーグルのGeminiは過去6カ月間、検索結果の上部に「AIによる概要」を表示してきたが、そのスタートは決して順調とは言えなかった。AIの概要が「岩石を食べると栄養がある」とか「バラク・オバマは米国初のムスリム大統領だった」と主張したことで、グーグルはオンライン上で嘲笑の的となり、それらは大規模言語モデルの限界を象徴する事例となった。 かつて米国代表チームに所属し、2023年にNCAA(全米大学体育協会)選手権で優勝したガンサーは、2023年5月にベイエリアのジムで行なったトレーニング後、「ジョン・バックフリップ」の裏話を作り上げた。「体操の多くの技は、国際大会でその技を初めて競技した人物の名前がつけられます。それで、家に帰ってバックフリップを発明したという架空の話を作ってみたんです」とガンサーは述べた。 このジョークを見ていない人のために補足するなら、ガンサーはさらに「ヘンリー・マッスルアップ」「リチャード・プレスハンドスタンド」「アルフォンソ・エルグリップ」など、他の体操技の初期における(架空の)先駆者も挙げている。この動画はトレーニングや競技会のクリップを投稿している彼のYouTubeやTikTokで、そこそこの人気を博したが、7月にメッセージを受け取るまで、彼はその動画のことはほとんど忘れていた。 「それはAI出力のスクリーンショットで、『ああ、なんてことをしてしまったんだ? 僕はデマの拡散者になってしまったのか?』と思いました」と彼は語った。 ジョン・バックフリップに関する「AIによる概要」のスクリーンショットがRedditや他のソーシャルネットワークで共有され、辞書出版社メリアム・ウェブスターからも訂正ツイートが投稿されている。