グーグルのAIによる概要の設計上のいくつかの弱点

現在、グーグルのAIでバックフリップの発明者を検索（「who invented the backflip」）すると、これはインターネットミーム（インターネット上で急速に広まるネタ）であると記載されているが、ジョン・バックフリップに関する検索（[「who is John Backflip」）では依然としてガンサーの動画をそのまま引用している（翻訳時、すでに「十分な情報がない」という結果が返ってくる）。フォーブスがOpenAI、Anthropic、Perplexityといった競合のAIプラットフォームをテストしたところ、これらのプラットフォームはこれをジョークであると言うか、あるいはバックフリップを最初に行った人物についての正確な情報源がないことを指摘する。 ガンサーはグーグルがなぜこの動画を取り上げたのかいまだに困惑している。「まあ、僕の動画を何らかの情報源として使うべきではなかったと思いますけどね」と彼は述べた。 この動画は、グーグルのAIによる概要の設計上のいくつかの弱点を突いているようだ。グーグルの副社長リズ・リードが5月のブログ投稿で説明したところによれば、このような奇妙な結果は「data voids（データの空白）」と呼ばれる、検索に良質なコンテンツがほとんど存在しないか、唯一のコンテンツが風刺的なものである場合に生じるという。 「少数のケースでは、『AIによる概要』がウェブページ上の言葉を誤解し、不正確な情報を提示することがありました。私たちはこれらの問題に迅速に対処し、アルゴリズムの改良や、ポリシーに準拠しない回答を削除するための既存のプロセスを通じて対応しました」とリードはブログ投稿で述べた。 リードは、グーグルがAIによる概要に関して無意味なクエリを検出し、特にニュースや健康に関するトピックで、ユーモアを含むコンテンツやユーザー生成のアドバイスの使用を抑制するための安全策を導入したとも述べた。また、グーグルはAIによる概要のリリース後に「Generative AI is experimental.（生成AIは実験的なものです）」という警告ラベルを追加した。 グーグルの広報担当者オリヴィア・オブライエンはフォーブスに対し声明で、「大多数のAIによる概要は高品質であり、その正確性はFeatured Snippets（「強調スニペット」、検索結果に表示される要約情報）など他の検索機能と同等です」と述べている。 ガンサーは、自分のジョークがAIによって有名になったことを喜んでいる。「いつの日か、学校でジョン・バックフリップが教えられるようになったら嬉しいですね」とガンサーは冗談を言った。