童謡「サメのかぞく」をバイデン大統領が「国歌」だと歌い出す―ディープフェイクスの本当の深刻さとは？
バイデン米大統領がスピーチの最中に突然、「偉大な国歌」と称して童謡「サメのかぞく」を歌い出す――そんなフェイク動画の拡散が波紋を呼んでいる。
AP通信によれば、これはバイデン氏がインフレ抑制法についてスピーチした際の動画を使った、AIフェイク動画「ディープフェイクス」だった。
動画は「バイデン氏は正気を失った」など、同氏の健康状態を疑うコメントとともにソーシャルメディアに拡散し、40万回以上も視聴されたという。
ディープフェイクスによる改ざん動画は、作成がより手軽に、そして精巧になり、拡散は後を絶たない。
大統領など政治指導者が、実際には口にしていないことを、話したかのように見せることで、社会に混乱を引き起こす危険もある。ロシアによるウクライナ侵攻では、「降伏を呼びかけるゼレンスキー大統領」のディープフェイクス動画が拡散された。
だが、ディープフェイクスの本当の問題は、さらに深いところにあった。その問題とは？
●「偉大な国歌を」
では列席のみなさん、ここで偉大な国歌を。ベイビー・シャーク、ドゥードゥッドゥドゥードゥドゥー……。
18秒のその動画は、バイデン氏が10月14日、カリフォルニア州のアーバインバレー・カレッジで行った「インフレ抑制法」についてのスピーチの様子を映し出す。
だがマイクを手にしたバイデン氏が「偉大な国歌」として歌い出したのは、「星条旗」ではなく童謡「サメのかぞく」だった。
AP通信が10月20日付の記事で検証したところ、この動画は、英国在住の公務員、アリ・アル・リカビ氏が作成したディープフェイクスだったという。
音声はもちろん偽物だ。誰でも利用可能なテクノロジーを使って生成した。
アル・リカビ氏はAP通信のインタビューにそう述べている。
バイデン氏のスピーチを配信したニュースチャンネル「C-SPAN」の映像をもとに、音声生成、さらに音声と唇の動きを同期させるオープンソースのAIソフトを使って、ディープフェイクスを作成したのだという。
まずティックトックに公開し、さらにインスタグラムなどにも公開したという。ティックトックでは10月19日時点で約41万6,000回の視聴があったとしている。
画面下部には、ニュース番組のスタイルで「バイデン氏『マイニングにより充電器の価格は下落』」との奇妙なテロップと、米国の風刺サイトとして広く知られる「ジ・オニオン」の玉ねぎを模したロゴが表示してある。
この動画がジョークである、という「ヒント」だったようだ。
だが、ネットメディア「デイリードット」によると、動画のバイデン氏の振る舞いが「認知症の症状」だとして拡散するユーザーもいたという。
これが本物だと、真に受けている人たちもいた。このテクノロジーの発達ぶりを示す証しだと思う。多くの人は、ディープフェイクスにあまり馴染みがないのだろう。でもだからこそ、ジ・オニオンのロゴのような手がかりを残したのだが。
アル・リカビ氏は、インタビューにそう答えている。
●本物を否定する
現実に起きていないことを、まるで本当に起きたように見せる――ディープフェイクスが懸念されるのは、動画のインパクトの強さと、真偽を見分けることの難しさだ。
ディープフェイクスは急速に進化し、見分けづらさも格段に上がっている。
一方で、バイデン氏の動画をめぐっては、まったく正反対の騒動も起きている。
米民主党は7月末、バイデン氏が米連邦議会議事堂乱入事件をめぐり、トランプ前大統領が暴徒を抑制しようとせず傍観していた、と非難する動画を公開している。
英BBCによれば、この動画でバイデン氏が「まばたき」をしておらず不自然だ、などとして保守系メディアなどを中心に「ディープフェイクス動画だ」との主張が拡散したという。
ディープフェイクスの登場初期には、そのチェックポイントとして、成人なら1分間に12回程度行うとされる「まばたき」が、極端に少ないか全くない、などの不自然さが注目された。
※参照：「ディープフェイクス」の弱点をＡＩが見破り、そしてフェイクＡＩ「ディープヌード」が新たな騒動を呼ぶ（06/27/2019 新聞紙学的）
だが、テクノロジーの向上とともに、現在ではディープフェイクス動画でも比較的自然な「まばたき」ができるようになっている。
そして、上記のバイデン氏の動画は、17秒という短尺に編集されたものだったため、たまたま「まばたき」の場面がカットされていたようだ。
問題は、本物の動画が「ディープフェイクスだ」と主張され、本物であることを疑われてしまうという点だ。
ディープフェイクスが「本物」として拡散する一方で、本物の動画が「ディープフェイクス」として疑われる。真偽の境界のあいまい化は、社会の混乱の引き金になる。
その結果、クーデター未遂にまで至ったケースもある。
中部アフリカのガボンで2019年1月7日、軍の兵士らが国営ラジオ局を一時占拠、クーデターを宣言した。だが、間もなく政権側に鎮圧され、クーデターは未遂に終わった。
そのきっかけとなったのが、病気療養のためにモロッコに長期滞在中だったアリ・ボンゴ大統領が、年末に公開したスピーチ動画だった。
久々にその健在ぶりをアピールする動画は、「まばたき」が少ないなどの不自然さを指摘する声が上がり、長期政権に不満を持つ軍部による、年明け早々のクーデター未遂につながったという。
だがこのスピーチ動画の検証を複数の専門家に依頼したワシントン・ポストによると、ディープフェイクスの痕跡は確認できなかった、という。
●どちらが本物
ディープフェイクスは、戦場の「武器」としても使用されている。
3月、ロシアによるウクライナ侵攻の中で、ウクライナの「ゼレンスキー大統領」が兵士に降伏を呼びかけるディープフェイクス動画が拡散したことが注目を集めた。
※参照：ウクライナ侵攻「AI偽ゼレンスキー」動画拡散、その先にある本当の脅威とは？（03/18/2022 新聞紙学的）
しかも、その約2時間後には、ロシアの「プーチン大統領」が和平合意を宣言するディープフェイクス動画が拡散。「武器」としてのディープフェイクスの応酬となった。
ゼレンスキー氏は自らのディープフェイクス拡散の直後、自撮りによる本物としての動画を配信し、ディープフェイクス動画を否定している。
どちらが本物で、どちらが偽物か。そこで浮かぶ疑念そのものが、情報戦における「武器」ともなる。
目にするものの真偽を、どこまでも冷静に問い続けなければならない世界が、すでに始まっている。
（※2022年10月28日付「新聞紙学的」より加筆・修正のうえ転載）
