「原発処理水」非難、中ロの影響工作にチャットGPT、そのインパクトとは？
「原発処理水」非難の影響工作に、チャットGPTが使われていた――。
オープンAIは、中国、ロシア、イランなどの外国勢力が、同社の生成AI「チャットGPT」などを使った、欧米や日本などの世論に影響を与えることを狙う「影響工作（IO）」キャンペーンの実態を、初めて報告書にまとめた。
報告書では、「スパモフラージュ」（中国）、「ドッペルゲンガー」（ロシア）などの、これまで指摘されてきた影響工作ネットワークでのチャットGPTなどの使用実態の一端を明らかにしている。
特に「スパモフラージュ」では、福島第一原発処理水の海洋放出を巡る非難投稿に、日本のアメーバブログが使われたと指摘する。
これは筆者が当時、アメーバブログ上で確認した投稿と一致する。筆者が確認したアカウントは、同ブログ上で英語、オリヤー語、オロモ語、バスク語と多言語での投稿を行っており、生成AIの使用がうかがえた。
世界50カ国以上で国政選挙が行われる2024年は「選挙の年」と呼ばれ、影響工作への生成AIの導入により、偽情報・誤情報（フェイクニュース）拡散の深刻化が懸念されている。
少なくとも、その懸念がまったくの杞憂ではないことを、報告書は裏付けている。
オープンAIの報告書が明らかにした、その実態とは。
●日本の「アメブロ」でも
このキャンペーンでは、私たちのモデルを使ってコンテンツを作成し、それをソーシャルメディアのプラットフォームやフォーラムに投稿した。例えば、2023年後半には、日本が福島原発からの排水を放出することで海洋環境を破壊していると非難する記事を作成した。私たちは、ミディアム、ブログスポット、アメーバブログを含むプラットフォーム上の記事を特定した。
オープンAIが5月30日に公開した報告書は、中国の影響工作ネットワーク「スパモフラージュ」における生成AIの使用について、そう指摘している。
2023年8月の福島第一原発処理水の海洋放出に対して、中国からの反発は強く、ソーシャルメディアを含めて混乱を引き起こした。その中には、チャットGPTなどによる自動生成の投稿も含まれていた、との指摘だ。
アメーバブログ上の生成AIを使ったと見られる非難投稿は、筆者もこの時、確認している。
海洋放出と同じ2023年8月、ハワイの山火事が「気象兵器によるもの」とする陰謀論が拡散。米サイト評価会社「ニュースガード」は、これが「スパモフラージュ」に連なるアカウントによるもの、との調査をまとめた。
筆者がこの陰謀論拡散アカウントの国内の状況を調べる中で、アメーバブログで「気象兵器」拡散アカウントが、「海洋放出」を非難する英語の投稿をしていたことを確認した。
筆者が調べたところ、同じアカウントは、インドの公用語の1つ、オリヤー語、エチオピアやケニアに使われるオロモ語、さらにバスク語による投稿も行っていた。
この時、筆者はこう投稿している。
英語の投稿をしたアカウントは、7月31日付で「武漢地震監視センターにサイバー攻撃」という投稿を、インドの公用語の1つであるオリヤー語、エチオピアやケニアで使われるオロモ語、バスク語の3言語で投稿。さらに9月4日と6日には、福島第一原発の処理水放出を批判する計4本の英語による投稿をしていた。
※参照：アメブロ、ピクシブ、楽天ブログ…「ハワイの山火事は気象兵器」中国発の陰謀論、日本も標的（09/15/2023 新聞紙学的）
「スパモフラージュ」と見られる「海洋放出」非難の投稿は、一部は削除されているものの、現在でもアメーバブログ上で閲覧できるものが残っている。
「スパモフラージュ」は複数のソーシャルメディアにまたがる親中国の影響工作ネットワークとして知られる。
米調査会社「グラフィカ」が2019年以来、香港民主化運動への攻撃などを展開してきたこの影響工作ネットワークの実態を、継続的に報告している。その調査を手がけてきたのが、今回、オープンAIの報告書をまとめたベン・ニモ氏だ。
※参照：サブスク型「ディープフェイクス」の世論工作が月額4,000円、親中国ネットワークの狙いとは？（02/08/2023 新聞紙学的）
※参照：「SNS情報工作のサブスク」125万円、中国警察の入札が示す相場と業務（12/27/2021 新聞紙学的）
今回の報告書によれば、「スパモフラージュ」は、英語や日本語のほか、中国語、韓国語でもテキストを生成して、アメーバブログなどのブログサイトに加えて、Xなどにも投稿を行っていたという。
「スパモフラージュ」は、イスラエルによるガザ攻撃を巡る米大学でのデモに関連しても、影響工作を展開しているという。
※参照：「ガザ攻撃」大学デモに介入、工作ネット「ドッペルゲンガー」「スパモフラージュ」の影響力とは？（05/07/2024 新聞紙学的）
●ロシアの「ドッペルゲンガー」でも
過去3カ月間、影響工作アクターに対する当社の取り組みにより、多様な言語の短いコメントや長い記事の生成、ソーシャルメディア・アカウントの名前や経歴の作成、オープンソース・リサーチの実施、単純なコードの修正（デバッグ）、テキストの翻訳と校正など、幅広いタスクにAIモデルを使用しようとする秘密影響工作を阻止できた。
オープンAIの報告書のリリースは、そう述べている。
中国以外に報告書で取り上げているのが、ロシアだ。
ロシアの影響工作ネットワークとしては、「ドッペルゲンガー」が知られている。
「ドッペルゲンガー」の展開に取り組む人々は、Xや（香港のソーシャルメディア）9GAGに投稿された英語、フランス語、ドイツ語、イタリア語、ポーランド語のコメントの生成、この工作に関連するサイトに投稿された英語とフランス語の記事の翻訳と編集、見出しの生成、ニュース記事のフェイスブック投稿への変換に当社のモデルを使用した。
オープンAIのリリースはそう述べている。
「ドッペルゲンガー」はメディアを偽装したサイトを使い、ウクライナ支援国を標的とした影響工作を展開することなどで知られる。
米情報セキュリティ会社「レコーディッド・フューチャー」も2023年12月の報告書で、「ドッペルゲンガー」での生成AI導入を指摘していた。
※参照：偽装メディア・偽スウィフト…親ロシア影響工作ネット「ドッペルゲンガー」にも生成AIの影（12/14/2023 新聞紙学的）
※参照：1週間で閲覧1億超、ロシア「内部文書」が示す偽情報拡散のPDCAとは ウクライナ侵攻3年目に（02/26/2024 新聞紙学的）
オープンAIの報告書では、ロシアの新たな動きとして、ロシア発祥のソーシャルメディア「テレグラム」上で活動し、ウクライナ、モルドバ、バルト諸国、米国を標的とする影響工作「バッドグラマー」を確認した、と述べている。
●影響工作の傾向
報告書は、中ロに加えて、イランの組織「国際バーチャルメディア連合」やイスラエルの民間企業による活動「ゼロゼノ」などについても取り上げている。
影響工作で共通するチャットGPTなどの使用法については、ソーシャルメディア投稿などの「コンテンツ生成」、「いいね」やコメントなどのユーザーの反応を偽装する「エンゲージメント偽装」、プログラムの修正といった「生産性の向上」などが目立つという。
ただ、報告書は、生成AIの使用は、さほどの効果を上げてないと述べる。
これまでのところ、これらの影響工作が、当社のサービスを使ったことで、ユーザーのエンゲージメントやリーチが著しく増加するなどの恩恵を受けたようには見えない。
報告書は、米シンクタンク「ブルッキングス研究所」が公開している影響工作のインパクトを測る「1（最低）」から「6（最高）」までの6段階の指標では、「2」を超えるものはなかった、としている。
その背景として、チャットGPTなどが特定のプロンプト（指示）を拒否する安全対策や、AI生成コンテンツの検知にAIを活用する対策などを挙げている。
オープンAIが指摘するように、生成AIは影響工作とその対策の、両方で使われる。悪用と対策には、いたちごっこの側面がある。
いたちごっこの危うい均衡は、どこまで続くか。
（※2024年5月31日付「新聞紙学的」より加筆・修正のうえ転載）
