Yahoo!ニュース

偽装メディア・偽スウィフト...親ロシア影響工作ネット「ドッペルゲンガー」にも生成AIの影

平和博桜美林大学教授 ジャーナリスト
偽装メディアが氾濫する(写真:ロイター/アフロ)

偽装ニュースメディアや偽テイラー・スウィフト...親ロシアの影響工作ネットワーク「ドッペルゲンガー」が偽装コンテンツを量産する――。

米情報セキュリティ会社「レコーディッド・フューチャー」や、米メディア、ワイアードは、「ドッペルゲンガー」と呼ばれる親ロシアの影響工作ネットワークが、10月末から一気に攻勢を強めている、と相次いで伝えている。

その特徴は「クローン(偽装コンテンツ)」の拡散だ。主要メディアを模した偽装メディアサイトに加えて、テイラー・スウィフト、ビヨンセといったセレブリティの画像を盗用し、「反ウクライナ」キャンペーンなどを展開。

さらにその標的を従来のウクライナやEUから、米国やイスラエルにも拡大。「反ユダヤ主義」にも焦点を当てたプロパガンダを拡散させているという。

その中には、AI生成が疑われるコンテンツも指摘される。

ネットに広がる情報戦は、衰える気配がない。

●2024年米大統領選を標的に

米国とドイツのユーザーを標的にしたキャンペーンでは、「ドッペルゲンガー」は、悪意のあるコンテンツを制作する6つの独自で真偽不明のニュースメディアを作成した。米国を標的にしたキャンペーンでは、2024年の米国の選挙(大統領選)を前に社会的・政治的分裂の利用を目的として、反LGBTQ+感情を煽り、米国の軍事力を批判し、ウクライナ支援をめぐる政治的分裂を増幅させようとしている。

米情報セキュリティ会社「レコーディッド・フューチャー」の脅威調査部門「インシクト・グループ」は12月5日、親ロシアのプロパガンダを拡散する影響工作ネットワーク「ドッペルゲンガー」についての報告書で、そう指摘している。

報告書では、このネットワークで使われている2,000件にのぼる不正なソーシャルメディアのアカウントを特定し、追跡したという。

「ドッペルゲンガー」は、後述のように、2022年4月ごろからEUやウクライナを中心に活動が確認され、2023年7月末にはEUの制裁対象にもなっているが、10月末から11月にかけて再び急速に勢いを増したという。

報告書は、米国を標的としたサイトの1つ「エレクション・ウォッチ」で、生成AIが使われている可能性がある、と述べる。同サイトは2月末に立ち上がり、バイデン米大統領の劣勢とトランプ前米大統領の優勢をうたうコンテンツが並ぶ。

(生成AI検知の)ゼロGPTのようなツールは、サイト上の多くの記事が部分的に、あるいはほぼ完全にAIによって書かれたものであることを示す。

報告書は、その例として「バイデン政権、人道援助の遅れが深刻化する中東の危機と闘う」というコンテンツを挙げる。生成AIテキストの検知ツールとして知られる「ゼロGPT」にかけると、400語足らずのテキストの66.06%がAI生成の可能性がある、と判定された。

筆者も、このコンテンツを剽窃検知ソフト「ターンイットイン」の生成AI検知機能で調べてみたところ、AI生成の可能性は100%とされた(ただ、「(バイデン氏)支持低迷」とする別のコンテンツでは、「ゼロGPT」は45.25%、「ターンイットイン」では0%と判定が割れた)。

「ドッペルゲンガー」のこのような(AIへの)適応性は、世論と行動を徐々に変化させることに戦略的重点を置く、ロシアの情報戦の持続的な特徴を示している。コンテンツ作成への生成AIの使用は、情報戦キャンペーンにAIを活用していくという、より幅広い傾向を反映した戦術の進化を意味する。

報告書は、そう評価している。

●テイラー・スウィフト、ビヨンセ、オプラ

「ウクライナ人への支援は容認できない」といったメッセージが、セレブリティたちのプロフィール写真とともに、フェイスブックとXに広告として大量に拡散した。

米ワイアードは12月6日、そんな調査結果を伝えている。

プロフィール写真を使われていたセレブリティには、テイラー・スウィフト、セレーナ・ゴメス、キム・カーダシアン、ビヨンセ、オプラ・ウィンフリー、ジジ・ハディッド、レディー・ガガ、ジェニファー・ロペス、ジャスティン・ビーバー、シャキーラ、グウィネス・パルトロウ、クリスティアーノ・ロナウドなどの名前が並ぶ。

フェイクニュース対策に取り組むNPO「リセット」と分析グループ「ボットブロッカー/アンチボット・フォー・ナワリヌイ」によれば、これも「ドッペルゲンガー」のキャンペーンの一環だという。

「リセット」が運営する広告データベースによると、11月に始まったこのプロパガンダのキャンペーンは、フェイスブックだけでも760万人にリーチした、という。

「ボットブロッカー/アンチボット・フォー・ナワリヌイ」は、これらの投稿がAI生成によるものだと見ている

イスラエルのメディア「ハアレツ」によれば、同グループは、このキャンペーンによる「ドッペルゲンガー」の大量拡散には、AIが大きな役割を果たしていると考える

同グループの分析では、6,000超のアカウントが2万7,000を超すの投稿を発信。平均1分あたり60件超の投稿が、7時間超続いたという。

●主要メディアのクローンを次々と

「瓜二つ」の意味を持つ「ドッペルゲンガー」の名前は、このネットワークが主要メディアをコピーした偽装サイトを次々立ち上げ、親ロシアのプロパガンダを拡散してきた手法に由来する。

「ドッペルゲンガー」が知られるようになったのは、ベルギーのNPO「EUディスインフォラボ」が2022年9月に公表した報告だった。

遅くとも同年5月から独ビルト、英ガーディアン、伊ANSA通信、仏20ミニュート、RBCウクライナなど少なくとも17の主要メディアの「クローン」を立ち上げ、サイトのデザイン、アドレス(ドメインスクワッティング)も本物そっくりにコピー。それらをフェイスブックやツイッター(X)などのソーシャルメディアで拡散させていた、という。

その狙いは同年2月から始まったウクライナ侵攻における、ロシアのプロパガンダの拡散だ。

メタも同年9月に「ドッペルゲンガー」の排除を発表。60に上るサイトを使い、フェイスブック、インスタグラム、ユーチューブ、テレグラム、ツイッターなどで拡散を展開していたと公表した。

さらに同年12月には、このネットワークが「ストラクトゥーラ・ナショナル・テクノロジーズ」「ソーシャル・デザイン・エージェンシー」という2つのロシア企業とつながっている、と指摘している。

また2023年8月の報告書は「ドッペルゲンガー」について、「2017年以降、我々が阻止した中で最大かつ最も攻撃的で執拗なロシアによる工作」だと位置づけている

●フランス政府、米国政府も相次いで乗り出す

政府も対策に乗り出した。

フランス国防国家安全保障総局(SGDSN)の偽誤情報に対処する組織「ヴィジナム(VIGINUM、外国のデジタル干渉に対する警戒および保護サービス)」は2023年6月13日、メディアサイトに加えて、フランスを含む政府サイトの偽装サイトを展開していたと公表した。

EUでは、「ドッペルゲンガー」の呼び名のほか、同ネットワークの主要サイトの名称「リライアブル・リーゼント・ニュース」から「RRN/ドッペルゲンガー」とも呼ばれる。

EUは7月28日、「RRN/ドッペルゲンガー」に関与したとして、ロシアの情報機関である軍参謀本部情報総局(GRU)につながる通信社「インフォロス」に加えて、「ストラクトゥーラ・ナショナル・テクノロジーズ」「ソーシャル・デザイン・エージェンシー」を資産凍結などの制裁対象とした。

さらに米国務省も11月7日、中南米(アルゼンチン、ボリビア、チリ、コロンビア、キューバ、メキシコ、ベネズエラ、ブラジル、エクアドル、パナマ、パラグアイ、ペルー、ウルグアイ)を標的に、ウクライナ支持を低下させ、反米、反NATO感情の扇動を狙った「ストラクトゥーラ・ナショナル・テクノロジーズ」「ソーシャル・デザイン・エージェンシー」などによる「ドッペルゲンガー」の動きを公表している。

●「反ユダヤ主義」に焦点

「ドッペルゲンガー」は10月末から11月にかけて、急激に勢いを増してきたという。その焦点は「反ユダヤ主義」だ。

ル・モンドやイスラエルのハアレツによると、パリや郊外で建物に青いスプレーで「ダビデの星」を描く、ナチスによるユダヤ人迫害を想起させる落書きが250カ所にわたって行われ、その画像が「RRN/ドッペルゲンガー」で拡散されていたという。

米FOXニュースを偽装したサイトでは「米議会はイスラエルを選択:ウクライナ支援は終了」といったフェイクニュースを掲載。イスラエルの人気サイト「ワラニュース」を偽装したヘブライ語のサイトからも、フェイクニュースが拡散されたという。

「ドッペルゲンガー」が使用する偽装サイトは、このほかにも、シュピーゲル、ヴェルトといったドイツメディア、フランスのル・パリジャン、英BBCなどの主要メディアが続々と並ぶ。

マイクロソフトが12月7日に公表した報告でも、「ドッペルゲンガー(マイクロソフトは「Storm-1099」と呼ぶ)」の動きを取り上げている

●終わりのない情報戦

フランス、ドイツ、ウクライナなどを標的としてきた「ドッペルゲンガー」は、米国や中南米へと標的を広げ、イスラエル・ハマスの軍事衝突や2024年のパリ五輪や米大統領選なども、プロパガンダに取り込もうとしている。

冒頭の「レコーディッド・フューチャー」の報告は、「ドッペルゲンガー」が新たに米国を標的としたキャンペーンは、今のところ、さほどの広がりを見せていないとも指摘している。

だが、執拗に続くキャンペーンは、衰えを見せてはいないようだ。

(※2023年12月14日付「新聞紙学的」より加筆・修正のうえ転載)

桜美林大学教授 ジャーナリスト

桜美林大学リベラルアーツ学群教授、ジャーナリスト。早稲田大卒業後、朝日新聞。シリコンバレー駐在、デジタルウオッチャー。2019年4月から現職。2022年から日本ファクトチェックセンター運営委員。2023年5月からJST-RISTEXプログラムアドバイザー。最新刊『チャットGPTvs.人類』(6/20、文春新書)、既刊『悪のAI論 あなたはここまで支配されている』(朝日新書、以下同)『信じてはいけない 民主主義を壊すフェイクニュースの正体』『朝日新聞記者のネット情報活用術』、訳書『あなたがメディア! ソーシャル新時代の情報術』『ブログ 世界を変える個人メディア』(ダン・ギルモア著、朝日新聞出版)

平和博の最近の記事