GoogleのAI検索（SGE）がマルウェアや詐欺を助長している可能性が！？

Googleは3月はじめから、AIが生成する検索結果を一部のページに導入する新しい「検索ジェネレーティブ・エクスペリエンス（SGE）」を展開しています。 残念ながら、この新機能にはすでにいくつかの不具合が見つかっているようで、生成された回答で詐欺サイトやマルウェアを提供するサイトを宣伝している可能性があるとの報告があります。

Google SGEにはどんな問題があるのか？

Googleが最新モデルをPixel 8に搭載しないという事実も含め、GoogleのAIがどの程度使えるものなのか、多くの疑問が投げかけられてきたこともあるなか、この報告により明らかにGoogleのAI検索結果の印象は悪くなってしまいました。 しかし、そうした懸念があるにもかかわらず、GoogleはAIの開発を推進し続けているようです。 BleepingComputerの報告によると、Googleの検索結果は、そのさまざまな回答の中でスパムや悪意のあるサイトを推奨しているように見えるとのこと。 そのため、ユーザーが詐欺に引っかかりやすくなっており、AIの利用にそれほど慣れていないユーザー層は特にそのリスクが高くなっていると思われます。 BleepingComputerの報告では、子犬の売買を検索しようとすると、すぐにAIが生成した回答が表示され、マルウェアに汚染されている可能性のあるスパムサイトに誘導されることが指摘されています。 これらのリンクをクリックすると、何度もリダイレクトされた挙句に詐欺サイトに辿り着いてしまうようです。これらのサイトの多くは、YouTubeのプッシュ通知を模倣し、ユーザーにサイトからの通知を許可させようとしているようです。 BleedingComputerは、「ユーザーがサイトの1つを購読すると、技術サポート詐欺の広告や、ユーザーが何かを獲得したと主張する偽の景品ページでスパムを受信しはじめた」と報告しています。 なお、この記事を執筆中、私はGoogle ChromeのSGE機能（※）をオンにしていましたが、私が入力した検索では、この種の回答は出てきませんでした。 ※現在のところ、Search Labsとその試験運用版は、Google Workspace for Educationアカウントを含む Google Workspaceアカウントでは利用できない。 実際、私のすべての検索は「AIの回答を生成できない」と答えていたので、もしかするとGoogleがこの問題の解決に取り組んでいる可能性があります。 それでも、このような事態が発生したことは残念であり、スパムやマルウェアに蹂躙されたウェブサイトに関してGoogleが現在も引き続き苦戦していることを物語っています。 詳しくは、BleepingComputerの詳細な分析を読むことをおすすめします。 多くの実体験がわかる分析ではありますが、残念ながらSGEは私には回答を出してくれないので、私自身は同じような体験はできていません。 Source: BleepingComputer