ウクライナ侵攻「AI偽ゼレンスキー」動画拡散、その先にある本当の脅威とは？

平和博

桜美林大学教授　ジャーナリスト

2022/3/18(金) 7:16

米連邦議会でオンライン演説をするウクライナのゼレンスキー大統領＝3月16日（写真:代表撮影/ロイター/アフロ）

ウクライナ侵攻で「AI偽ゼレンスキー」動画が拡散した、その背後にある本当の脅威とは――。

AI（人工知能）によるフェイク動画の手法「ディープフェイクス」を使った、ウクライナ大統領のウォロディミル・ゼレンスキー氏の「偽者」動画が3月16日にネットで公開され、フェイスブック、ユーチューブなどが相次いで削除する騒動があった。

「AI偽ゼレンスキー」が「降伏声明」を出すというフェイク動画だった。

国の指導者になりすました「AIフェイク」が拡散することによる、安全保障などへの危険性は、数年前から繰り返し指摘されてきた。

その懸念が今回、現実のものになった。

だがその先には、さらに社会を揺るがす本当の脅威があるという。

「偽旗作戦」「偽ファクトチェック」そして「AIフェイク」。ウクライナ侵攻の情報戦は、さらに複雑化している。

●「稚拙な挑発」

私は難しい決断をしなければならない。まず、私はドンバスを返還することにした。（中略）そして今、私は皆さんに別れを告げる決心をした。武器を捨てて家族のもとに帰ることを勧める。

「AI偽ゼレンスキー」がそんな「偽降伏声明」を語るフェイク動画が3月16日、ネット上に公開された。

国際問題の米シンクタンク「大西洋評議会」の研究所「デジタル・フォレンジクス・リサーチ・ラボ（DFRラボ）」のロマン・アサチュク氏の記事などによると、動画は16日午後1時半、22万人のフォロワーがいる親ロシア派のアカウントにより、ロシア発祥のメッセージアプリ「テレグラム」に投稿された。

フェイク動画は1分7秒。「AI偽ゼレンスキー」は、カーキ色のTシャツ姿で演壇に立ち、顔の部分は音声と連動して動くものの、上半身部分は微動だにしないという不自然なものだ。メタデータを確認すると、動画の作成時間は、投稿の2時間前の同日午前11時27分になっている。

これに先立つ同日午後0時31分ごろ、ウクライナのテレビ局「ウクライナ24」の番組の画面やウェブサイトがサイバー攻撃を受け、「ゼレンスキー大統領」の名前を使った「偽降伏声明」が、ニュースティッカー（文字ニュース）やテキストとして流れた。

同じ親ロシア派アカウントなどが、「ウクライナ24」の番組の画面上に「偽降伏声明」のニュースティッカーが流れる様子の動画も投稿している。

3月18日朝までに、同アカウントが「テレグラム」に投稿した「AI偽ゼレンスキー」動画は45万回以上、「ティッカー動画」は16万回近く閲覧されている。

これに対して、ゼレンスキー氏本人は「ウクライナ24」に「偽降伏声明」が流れてから30分もたっていない午後0時58分に、これを否定する自撮りの動画を「テレグラム」などに投稿している。

米テックメディア「マザーボード」の記事によれば、ゼレンスキー氏は「偽降伏声明」を「稚拙な挑発」とした上で、「私が武器を置き、家に帰れと言うことができるのはロシア連邦軍に対してだけだ」と否定している。

またフェイスブック、ユーチューブ、ツイッターは、相次いで「AI偽ゼレンスキー」動画の削除を表明している。

●まばたきの意味

ウクライナ侵攻をめぐっては、AIを使ったもっと単純なフェイクがすでに明らかになっている。

メタのセキュリティ政策担当のナサニエル・グライシャー氏らはロシアによるウクライナ侵攻開始から3日後の2月27日、ウクライナ・キーウ（キエフ）を拠点に、メディアサイトを装って「西側はウクライナを裏切り、ウクライナは失敗国家」などと、親ロシアの主張を繰り返してきたフェイクアカウントを停止した、と発表している。

米NBCニュースのシニアレポーター、ベン・コリンズ氏によると、このメディアサイトの「編集長」とされていた女性と「コラムニスト」とされていた男性のアカウントのプロフィール写真は、いずれも自動生成の「AIフェイク顔」だった、という。

この時は、静止画像のAIフェイクだった。このケースでコリンズ氏は、ネット上の「AIフェイク顔」の自動生成サービスなどから流用してきた可能性も指摘している。

たとえ流用であったとしても、「AIフェイク顔」の影響は深刻だ。

英ランカスター大学と米カリフォルニア大学の研究チームは2022年2月に発表した調査で、AIで合成された顔は、本物の顔と見分けがつかず、より信頼性がある、と見られる傾向があることを明らかにしている。

今回の騒動に先立ち、ウクライナ政府は3月3日、軍や情報機関などが相次いで、ディープフェイクスを使った「AI偽ゼレンスキー」による「偽降伏声明」が拡散される危険があるとし、警戒するよう呼びかけを行っていた。この騒動は、あらかじめある程度は織り込み済みだったことになる。

ただ今回の「AI偽ゼレンスキー」動画は、やや手が込んでいる。顔と首の肌の色合いが異なるなど、全体として不自然さが残るものの、声と口元、表情は連動しており、比較的自然に、まばたきまでしている。

ディープフェイクスが社会的な注目を集めるようになったのは2017年秋ごろからだ。この時期には、まだ生成のテクノロジーが発達途上で、本物とフェイクを見分けるポイントとして、このまばたきの不自然さが挙げられていた。

※参照：AIによる“フェイクポルノ”は選挙に影響を及ぼすか？（06/30/2018　新聞紙学的）

だが、このテクノロジーは急速な発達を遂げ、比較的自然なまばたきも取り込むようになる。

※参照：「ディープフェイクス」の弱点をAIが見破り、そしてフェイクAI「ディープヌード」が新たな騒動を呼ぶ（06/27/2019　新聞紙学的）

今回の「AI偽ゼレンスキー」は、そんなテクノロジーの成果を反映している。

各メディアの報道も、「低品質」との評価では一致するものの、さらに手間をかけ、より見分けづらいディープフェイクス動画が登場する可能性をはらんだ不気味さを指摘する。

●本当の脅威とは

AIの悪用の中で、最も実現性と危険度が高い犯罪とは何か――英ロンドン大学の研究チームが2020年8月、ワークショップの成果として挙げたのが、AIによる動画・音声のなりすまし、すなわちディープフェイクスだった。

ディープフェイクスによる被害はすでに現実のものになっている。

インドでは、ディープフェイクスが政治的な攻撃のツールとして使われた事例が明らかになっている。標的とされたのはモディ政権批判を続ける女性ジャーナリスト、ラナ・アユーブ氏だ。

ネット上では政権支持派によるアユーブ氏への攻撃が激化。2018年4月下旬には、アユーブ氏の顔をポルノ動画に合成したディープフェイクス動画が投稿された。

ツイッター、フェイスブック、インスタグラム、ワッツアップ。あらゆるソーシャルメディアでディープフェイクス動画が拡散。さらにアユーブ氏の電話番号や住所までがさらされ、レイプの脅迫が押し寄せたという。

これに対して、国連の人権高等弁務官事務所が、アユーブ氏擁護の声明を発表。フェイクポルノ動画を「新たな脅威」と指摘する事態となった。

※参照：集団リンチ、ディープフェイクス――「武器化」するフェイクニュース（12/01/2018　新聞紙学的）

それだけではない。米バズフィードは2018年4月、元米大統領、バラク・オバマ氏のディープフェイクス動画を作成。「AI偽オバマ」が「トランプはクソだ」と話す内容が、大きな注目を集めた。

今回の「AI偽ゼレンスキー」のように、国の指導者が実際には話していないことを、「AI偽者」が表明するようになることで、安全保障などへの影響を懸念する声はこの頃からあった。

テキサス大学教授のボビー・チェスニー氏とボストン大学教授のダニエル・シトロン氏は早くから、ディープフェイクスが、国際紛争や選挙などで、深刻な混乱を引き起こす可能性を指摘してきた。

そして両氏は、その先にあるディープフェイクスの脅威の深刻さについても述べている。2020年8月のブログメディア「ローフェア」への寄稿で、こう指摘する。

ディープフェイクスの脅威に対する認識が高まることは、それ自体が有害である可能性がある。私たち2人（チェスニーとシトロン）が「嘘つきの配当」と呼ぶ現象の餌食になる可能性が高まるからだ。人々はディープフェイクスに「だまされる」のではなく、あらゆるビデオやオーディオの記録に不信感を抱くようになるかもしれない。真実の崩壊は、道徳的に堕落した者にとっては好都合だ。嘘つきは、不正行為に対する説明責任から逃れ、自分たちの悪事の本当の証拠を「ただのディープフェイクスだ」と言って退けることができる。

※参照：96％はポルノ、膨張する「ディープフェイクス」の本当の危険性（10/23/2019　新聞紙学的）

ワシントン大学、ペンシルベニア州立大学、ハーバード大学の研究チームは2021年1月、「政治的なディープフェイクス動画が信じられる割合は、他のフェイクニュースと変わらない」とする調査結果を明らかにしている。一方、この研究では、政治的な傾向によって、本物のニュース動画を「フェイク」と間違って判断してしまう割合が目立って高かった、とも述べている。本物がフェイクに見えてしまうのだ。

※参照：ディープフェイクスにどれだけ騙される？　意外な実験結果とは（01/18/2021　新聞紙学的）

高度なディープフェイクスが登場することによる、だまされる危険性。そして、現場の被害状況を記録した、本物の動画についてまで、「ただのディープフェイクスだ」との主張が広がる危険性。

ウクライナ侵攻をめぐる情報戦にディープフェイクスが紛れ込むことで、その両方の危険性が、同時に突き付けられることになる。