「ディープフェイク」でライバル候補の“印象操作”も 米大統領選への影響懸念 日本でもSNS拡散 どう見分ける？
日テレNEWS
実在しない映像や音声を生成する技術は「ディープフェイク」と呼ばれ、アメリカ大統領選が来年に迫る中、選挙の情勢にも影響することが危惧されています。一方で、検知する技術の開発も進んでいます。このディープフェイクをめぐる問題は、日本も他人事ではありません。
■AI生成の映像 アメリカでは政治CMに使われ…
アメリカでは実際に、AIによって作られたCMが流れています。 「国境警備隊は8万人の不法移民に圧倒されました」とのナレーションと共に表現されていたのは、バイデン大統領が来年の大統領選で再選した後の世界です。 経済が落ち込み治安が悪化したアメリカを描いたAIによる架空の映像で、政権奪還を狙う共和党が制作しました。
一方、別のCMで使われていたのは、トランプ氏の画像と「彼女を推薦し集会もやってあげた。だから彼女は選挙に勝てた」との音声。“トランプ氏に似せた声”をAIが生成したものです。作ったのは、共和党の候補者選びでトランプ氏のライバルのデサンティス知事の支持団体です。 ライバル候補の印象操作になりかねない演出の数々。実在しない映像や音声を生成する技術は「ディープフェイク」と呼ばれ、来年に迫る大統領選への影響が危惧されています。 こうしたCMを見た有権者からは、次のような声が聞かれました。 アメリカの有権者 「怖いことです。人々が信じてしまい、ネガティブな意見を持ってしまうかもしれませんよね」
■わずか3分で…「笑顔で支持者とふれあうバイデン大統領」生成
ディープフェイクはどのように作られるのでしょうか。AIで作品を作り、その利点と危険性を伝える活動を行うAIアーティストのブシェ氏に実演してもらいました。 一般的なAI画像生成のサービスを使い、「バイデン大統領が選挙活動で握手する場面」と指示すると、わずか3分ほどで様々なパターンの画像が出てきました。そして、笑顔で支持者とふれあうバイデン大統領のディープフェイク画像が生成されました。 AIアーティスト ティム・ブシェ氏 「彼らのような有名人でディープフェイクを作るのは、難しいことではないんです。大統領選までにはAIが作る動画も、人を騙せる精度になるでしょう」
