Yahoo!ニュース

「世論工作のアバター」4万件とAI生成フェイクを操作、世界の選挙に介入する「影の組織」とは?

平和博桜美林大学教授 ジャーナリスト
「チーム・ホルヘ」が作成したアバターのフェイスブックアカウント(筆者が一部加工)

4万件におよぶ「世論工作アバター」とAI自動生成のフェイクニュースを駆使して、世界の選挙に介入する「影の組織」――。

国際的な調査報道メディアのコンソーシアムが、「世界33の主要選挙に介入した」というイスラエルの世論工作グループ「チーム・ホルヘ」の実態について、一斉にキャンペーン報道を展開している。

「チーム・ホルヘ」は独自のシステムを使い、代表的なソーシャルメディアアカウントや携帯電話番号までを持った4万件に及ぶ架空のアバター(キャラクター)を生成。このシステムには、AIによって世論工作用のツイートなどを自動生成、拡散する機能もあるという。

これらのアバター軍団とフェイクニュースを自在に操作し、クライアントの注文に応じて、世界的に世論工作を展開しているという。

「チーム・ホルヘ」は、アフリカの大統領選介入をめぐって、フェイスブックのユーザーデータ不正利用で知られる「ケンブリッジ・アナリティカ」との接点があったことも明らかになった。

そして、多言語で展開される世論工作では、日本語も使われているのだという。

●約4万件のアバターを操る

試しに一人、一緒につくってみましょう。英国、女性、で(名前を)検索すると...イスラ・ソイヤー? よくない...ソフィア・ワイルド...これがいい! 英国風ですね。プロフィールのグループは欧州。この女性はどの街にいる? リーズ、いやロンドンだ。もう彼女は、メールアドレス、生年月日、なんでも揃っている。

「AIMS(アドバンスト・インパクト・メディア・ソリューションズ)」とロゴのあるシステムの操作画面で、カーソルの動きに合わせて、男性の声がアバターの作成方法を説明していく。

次々に条件を設定した後、顔写真の選択画面で白人女性を選ぶと、プロフィールが出来上がった。

彼女はどんなアカウントでも開設できます。888カジノ、エアビーアンドビー、アマゾン...どれがいいです? フェイクブックのアカウント? 英国の電話番号を持っているから、SMS(ショートメッセージ)が使える。(アカウント開設時の入力用)コードも受け取れます。

「ホルヘ」と名乗ったこの男性、タル・ハナン氏は、イスラエル軍の特殊部隊出身で、爆発物処理の専門家としても知られ、イスラエルのセキュリティ会社「デモマン・インターナショナル」の創業者兼CEOを務める。

「AIMS」でこのように作り出され、様々なソーシャルメディアのアカウントを持つ架空の人物(アバター)は、2022年12月時点で3万9,000件に上っていたという。

セキュリティ会社CEOの顔とは別に、ハナン氏が率いるグループ「チーム・ホルヘ」の実態は、パリに拠点を置く国際調査報道コンソーシアム「フォービドゥン・ストーリーズ」のプロジェクトとして、2月15日から一斉に公開された

取材の中心になったのは、イスラエル紙、ハアレツのオマル・ベンジャコブ氏と同紙傘下のヘブライ語紙、ザ・マーカーのグル・メギド氏、ラジオ・フランスのイスラエル特派員、フレデリック・メテゾー氏の3人だ。

この3人が、選挙の延期か中止を望むアフリカの指導者の代理人に扮して、「チーム・ホルヘ」に接触。半年にわたる覆面取材の結果が、今回のスクープとなった。

この取材プロジェクトにはこのほかに、英ガーディアン、独デア・シュピーゲル、ディー・ツァイト、仏ル・モンド、組織犯罪・汚職報道プロジェクト(OCCRP)、さらにケニア、米国、インドネシア、タンザニア、スペインなど30のメディアから約100人のジャーナリストが参加しているという。

「フォービドゥン・ストーリーズ」による検証の結果、この「AIMS」というシステムによって作成された1,800件のアバターが関与した、19件の世論工作が確認できたという。

●AIでツイートを自動生成

「AIMS」には、AIによって、ソーシャルメディアへの投稿、記事、コメントなどを自動生成し、拡散する機能もあるという。

キーワードを入力し、「ポジティブ」「ネガティブ」「ニュートラル」と文面のトーンを選択することで、ツイートなどの文面を自動生成する仕組みだ。

ハナン氏が、「チャド」「大統領」「兄弟」「デビ」などのキーワードで、ネガティブなツイートを10本生成するよう指定すると、「チャドの人々は、デビ大統領兄弟の支配下でひどく苦しんできた」などの文面が12秒で生成されたという。

1人のオペレーターが300の(アバターの)プロファイルを使えるので、2時間あれば国中が(私たちの)望むメッセージやナラティブを話すようになる。

「チーム・ホルヘ」のメンバーは、そう述べたという。

ハナン氏が覆面取材チームに示した、アフリカでの選挙介入のための工作費用は600万ユーロ(約8億6,000万円)だったという。

●「選挙を盗む」工作

「チーム・ホルヘ」がサービスとして顧客に提供するのは、①標的のメッセージアプリ・メールのハッキング②乗っ取ったアカウントでのコンテンツ操作③ハッキングによる情報暴露④アバター軍団によるソーシャルメディア操作⑤投票・選挙妨害⑥選挙結果の否定工作、などだという。

いわば、選挙などへの介入工作のワンストップショップだ。

「チーム・ホルヘ」が覆面取材チームにこれらの介入事例として示したのが、2022年8月ケニア大統領選だ。

前副大統領のウィリアム・ルト氏が元首相のライラ・オディンガ氏に勝利。だがオディンガ氏は選挙結果を否定し、受け入れを拒否混乱が続く

プレゼンを行ったハナン氏は、現大統領であるルト氏の右腕、ファルーク・キベット氏やエネルギー・石油相のデイビス・チャーシル氏ら5人のGメールとテレグラムのアカウントに侵入、操作する様子を披露したという。

「チーム・ホルヘ」はケニア大統領選と、その後の選挙結果をめぐる混乱で、現在のルト政権を攻撃する介入工作に携わっているようだ。

●「ケンブリッジ・アナリティカ」との協力

「チーム・ホルヘ」はこれ以前から、選挙介入に関わってきたという。

その事例として取り上げられているのが、2015年のナイジェリア大統領選だ。

野党のムハンマド・ブハリ氏が、現職だったグッドラック・ジョナサン氏を破った選挙で、「チーム・ホルヘ」はジョナサン氏再選を支援する工作に関与していた、という。

選挙直前、ブハリ氏の全進歩会議(APC)の幹部らの電話回線が、発信元不明のアクセス集中で不通となる事態が起きた。この工作に「チーム・ホルヘ」が関わっていたという。

この時、やはりジョナサン氏再選を支援していたのが、英国の選挙コンサルティング会社「ケンブリッジ・アナリティカ」だった。

「ケンブリッジ・アナリティカ」は3年後の2018年に明らかになった、フェイスブックの8,700万人分に及ぶユーザーデータ不正取得と、2016年の英国民投票でのEU離脱派や同年の米大統領選でのドナルド・トランプ陣営の後押しで知られる。

※参照:トランプ大統領を誕生させたビッグデータは、フェイスブックから不正取得されたのか(03/18/2018 新聞紙学的

ガーディアンとオブザーバーは当時、「ケンブリッジ・アナリティカ」が2015年のナイジェリア大統領選への介入の中で、「イスラエルのハッカー」からブハリ氏の医療情報を含む内部文書を提供されていた、と報じていた。

今回の調査で、この「イスラエルのハッカー」が「チーム・ホルヘ」であることが明らかになった、としている。

さらに当時、「ケンブリッジ・アナリティカ」で「チーム・ホルヘ」との窓口役を務めていたのが、後に告発本『告発 フェイスブックを揺るがした巨大スキャンダル』を出版したブリタニー・カイザー氏だった、という。

●「アバター」の動員

「チーム・ホルヘ」が「AIMS」で作成したアバターの動員規模は、世論操作の工作によって、かなりの開きがある。

「フォービドゥン・ストーリーズ」の検証によると、最も多い350のアバターの動員が確認されたのは、2019年から2020年にかけてカナダと米国で展開された工作だ。

標的となったのは、長年にわたる成人女性と少女への性犯罪が指摘され、「カナダのジェフリー・エプスタイン」とも呼ばれたファッション業界の著名人、ピーター・ナイガード氏だ。

「チーム・ホルヘ」はナイガード氏追及のキャンペーンを推進したという。ナイガード氏は2020年12月に逮捕された

さらに2021年から2022年にかけて工作の標的になったのは、米カリフォルニア州知事のギャビン・ニューサム氏だ。

ニューサム氏は、電力供給逼迫の中で、閉鎖が予定されていた州内唯一の原発、ディアブロキャニオン原発の5年間の操業延長を推進していた。

このニューサム氏の原発操業延長施策に反対するキャンペーンに、「チーム・ホルヘ」は166件のアバターを動員したことが確認できたという。

だが、ニューサム氏は2022年9月にディアブロキャニオン原発の操業延長法案に署名し、成立している。

●「エミュー」死亡説をトレンドに入れる

覆面取材チームは、ハナン氏が説明する「チーム・ホルヘ」のスキルを確認するために、ある要求を出したという。

それが「エミューのエマニュエル」の死亡説の拡散だ。

エミューはダチョウに似た大型の鳥。南フロリダの農場で飼育されているエマニュエルは、ソーシャルメディアで人気を博し、「世界一有名なエミュー」だという。農場が運営するティックトックのフォロワーは250万人に上る。

「チーム・ホルヘ」は、このソーシャルメディアの人気者のフェイク死亡説を実際に拡散。そのために使ったハッシュタグ「#RIP_Emmanuel(エマニュエルの冥福を)」は、スロバキアではツイッターのトレンド入りをしたようだ。

ハナン氏は、このフェイク死亡説が700万人に届いた、と説明しているという。

取材チームは、この時に拡散に使われたツイッターアカウントなどを手がかりに、その「チーム・ホルヘ」によるアバターのネットワーク解明に切り込んでいくことができたのだという。

ただしこの取材手法については、記事の中で農場に謝罪を表明している。

●日本語での展開

フェイクニュースなどを使った世論工作の請負産業は、急速に拡大している。

英オックスフォード大学インターネット研究所教授のフィリップ・ハワード氏らのチームが2021年1月に発表した報告書によると、フェイクニュースを政治的なプロバガンダの手段として展開している国は、2020年で81カ国。前年の70カ国から10カ国以上増加している。

さらにハワード氏らによれば、フェイクニュースなどの情報操作が民間企業によって行われた国は2020年が48カ国。前年の25カ国からほぼ倍増している。

※参照:フェイクニュース請負産業が急膨張、市長選にも浸透する(05/16/2021 新聞紙学的

今回明らかになった「チーム・ホルヘ」の工作は多言語で展開され、その中には日本語によるものも含まれるという。

今のところ、その詳細は明らかにされていない。だが、その一端が垣間見えるような事例もある。

「チーム・ホルヘ」は、ウクライナ侵攻に絡んで制裁対象となっているロシアの新興財閥(オリガルヒ)の高級ヨット売却に関わっているとされた、高級ヨット販売の米企業「バージェス」を標的とした工作も手がけていたという。

2022年12月に投稿された、この工作の関連ツイートでは、「#STOPBurgess(バージェスを止めろ)」のハッシュタグとともに、なぜか「#キンプリミリオンおめでとう」「#エルピス」「#PICU」といった日本のハッシュタグも使われていた。

その意図はよくわからない。

(※2023年2月20日付「新聞紙学的」より加筆・修正のうえ転載)

桜美林大学教授 ジャーナリスト

桜美林大学リベラルアーツ学群教授、ジャーナリスト。早稲田大卒業後、朝日新聞。シリコンバレー駐在、デジタルウオッチャー。2019年4月から現職。2022年から日本ファクトチェックセンター運営委員。2023年5月からJST-RISTEXプログラムアドバイザー。最新刊『チャットGPTvs.人類』(6/20、文春新書)、既刊『悪のAI論 あなたはここまで支配されている』(朝日新書、以下同)『信じてはいけない 民主主義を壊すフェイクニュースの正体』『朝日新聞記者のネット情報活用術』、訳書『あなたがメディア! ソーシャル新時代の情報術』『ブログ 世界を変える個人メディア』(ダン・ギルモア著、朝日新聞出版)

平和博の最近の記事