月額4,000円の「ディープフェイクス」サービスを使った、親中国の世論工作が行われていた――。

米調査会社グラフィカは2月7日に公開した報告書で、親中国の世論工作（影響工作）に絡んでAIフェイク動画「ディープフェイクス」が使われていたことを明らかにした。

グラフィカは「スパモフラージュ」と呼ぶ、ソーシャルメディアを舞台にした親中国の影響工作ネットワークの実態を、数年前から指摘してきた。

今回の特徴は、それが一般のユーザーにも手が届く、月額課金のサブスクサービスを利用した影響工作だったという点だ。

同じサブスクサービスを利用した発信元不明な影響工作が、これまでにも西アフリカを舞台に展開されているという。

間もなく1年となるロシアによるウクライナ侵攻でも、ディープフェイクスが使用され、大きな注目を集めた。

それがサブスクサービスを使うことで、より手軽に安価に展開できてしまう――そんな状況を迎えている。

●メディアを偽装するAIフェイク動画

オオカミのアイコンがついた「ウルフニュース」というロゴとともに、髪の毛をなでつけ、無精ひげでスーツ姿のキャスターの男性が、重厚なBGMとともに、そう訴えかける。

米調査会社グラフィカが2月7日に公開した報告書によれば、この動画は、ユーチューブ、ツイッター、フェイスブックなど複数のソーシャルメディアにまたがる親中国の影響工作ネットワーク「スパモフラージュ」の試みの一環だという。

報告書によれば、このほかにも女性キャスターによる、同様の動画が確認できたという。

グラフィカは2019年以来、親中国のフェイクアカウントを使い、香港民主化運動への攻撃などを展開してきたこの影響工作ネットワーク「スパモフラージュ」の実態を、継続的に報告している。

※参照：「SNS情報工作のサブスク」125万円、中国警察の入札が示す相場と業務（12/27/2021　新聞紙学的）

今回の報告書によれば、この男女のキャスターを使った動画は2022年末、スパモフラージュの現状を調査する中で発見したという。

さらにこれらのキャスターは、英国のAIベンチャー「シンセシア」のサービスを使った、ディープフェイクスの動画であることも明らかになったとしている。

シンセシアは、ディープフェイクスの技術を商用サービスとして提供するベンチャーとして知られる。

同社はこれまで、BBCやロイター通信とともに、ニュース動画の多言語展開の開発に取り組んだ実績がある。また2019年には、サッカーの元イングランド代表のデービッド・ベッカム氏が、英語のほか、スペイン語やアラビア語など9カ国語を使って、マラリア撲滅を訴える動画の制作にも協力している。

※参照：ニュース、選挙戦、観光誘致…ディープフェイクスが日常に入り込む（02/20/2020　新聞紙学的）

その同じ技術が、今回は影響工作のツールとして使われていた。

●セリフを入力、作成は数分で

シンセシアは、ベッカム氏のケースのように、実在の人物をモデルにした100を超すAIアバターが、120を超す言語で話すディープフェイクス作成サービスを提供している。

その料金は、個人の利用なら月額30ドル（約4,000円）、法人契約は「応相談」となっている。

グラフィカの調査によると、「スパモフラージュ」で使われていたディープフェイクスは、このアバターサービスを利用したものだった。

シンセシアはそれぞれのアバターに名前を付けており、前述の無精ひげの男性キャスターは「ジェイソン」、もう一つの女性キャスターは「アンナ」となっている。

ユーザーは、これらのアバターを指定し、しゃべらせたいセリフのテキストを入力する。するとものの数分で、アバターがテキストの内容を話すリアルな動画が生成されるという。

当初、ディープフェイクスの作成には、ハイスペックのパソコンと一定の専門知識が必要とされた。だが、その敷居は徐々に低くなり、今や一般ユーザーでも手が届くサブスク型サービスが提供される。

それらは、どのような用途で使われているのか。

グラフィカが、「ジェイソン」と「アンナ」のキャラクターを使ったディープフェイクスをネットで調査したところ、中国とは関係のない、一般的な企業のマーケティングやプロモーション用の動画が多数見つかったという。

従来であればプロの俳優などを起用していたこれらの動画を、安価に作成する需要があるようだ。その効果が、影響工作にも及んでいるということだ。

シンセシアは同社のサイト上で、サービスによる生成コンテンツには社内審査が行われ、「政治的、性的、個人的、犯罪的、差別的な内容は許容されず、承認されない」と表明している。

ニューヨーク・タイムズの取材に対して、シンセシアの担当者は、4人のチームが違法コンテンツのチェックに当たっているが、今回の動画については、「これが誤情報だと確定するのは極めて困難だ」と述べている。

グラフィカからの通知を受け、シンセシアは該当する利用アカウントを停止したという。

●ブルキナファソ、マリでも

シンセシアのアバターを使ったフェイクニュースの拡散事例は、2021年末から西アフリカ・マリでも確認されている。

また最近では、2023年1月末ごろからマリの南のブルキナファソで、「米国人」を自称するアカウントが、軍事政権を支持する内容のシンセシアのアバター動画を拡散させていた事例が明らかになっている。

今回の報告書で、グラフィカはこう指摘している。

ただ今回の事例では、300回以上再生された動画はなく、試行的取り組みの一環と位置付けているという。

●影響工作とディープフェイクス

ディープフェイクスは2017年秋ごろからネット上で知られるようになり、当初は主にフェイクポルノの作成に使われた。

※参照：AI対AIの行方：AIで氾濫させるフェイクポルノは、AIで排除できるのか（02/24/2018　新聞紙学的）

※参照：96％はポルノ、膨張する「ディープフェイクス」の本当の危険性（10/23/2019　新聞紙学的）

だがそれに加えて、政治や安全保障への影響についても指摘されるようになる。

※参照：「フェイクAI」が民主主義を脅かす―米有力議員たちが声を上げる（08/04/2018　新聞紙学的）

その懸念は現実のものとなる。

2022年３月半ばに、ロシアによるウクライナ侵攻の中で、ウクライナのゼレンスキー大統領が「降伏宣言」をするディープフェイクスが拡散。その数時間後にはロシアのプーチン大統領が「和平合意宣言」をするディープフェイクスも拡散した。

戦争を舞台にした、ディープフェイクスの応酬だ。

※参照：ウクライナ侵攻「AI偽ゼレンスキー」動画拡散、その先にある本当の脅威とは？（03/18/2022　新聞紙学的）

フェイクコンテンツを生成するAIは、加速度的に高度化し続ける。

大きな注目を集めている生成AI「チャットGPT」を開発したAIベンチャー「オープンAI」は2023年1月、スタンフォード大学、ジョージタウン大学とともに、生成AIが影響工作に与えるインパクトについての報告書をまとめている。

この報告書が指摘したのは、フェイクコンテンツを大規模、安価、高速に生成できるコストパフォーマンスの高さだった。

※参照：生成AIが世論操作のコスパを上げる、その本当の危険度とは？（01/20/2023　新聞紙学的）

サブスク型ディープフェイクスの世論工作への導入は、そのような懸念が、極めて現実的な脅威であることを示している。

（※2023年2月8日付「新聞紙学的」より加筆・修正のうえ転載）