ロシア「AIボットファーム」の偽アカウント968件を米国などが摘発と発表

平和博

桜美林大学教授　ジャーナリスト

7/10(水) 12:21

ロシア「AIボットファーム（工場）」の偽アカウント968件を米国などが摘発した――。

米司法省などは7月9日、ロシアによるAIを使った偽情報拡散のためのボットファームが判明したとして、関連する2件のドメイン名と、968件のソーシャルメディアアカウントの摘発を発表した。

司法省によれば、この「AIボットファーム」はロシア国営メディア「RT」副編集長がAIを使った専用ソフト開発を主導し、政府の資金提供を受け、ロシア連邦保安庁（FSB）諜報部の職員が組織的な主導をしていたとしている。

「AIボットファーム」は米国のほか、ポーランド、ドイツ、オランダ、スペイン、ウクライナ、イスラエルなどを標的に偽情報の拡散をしていたという。

この「AIボットファーム」はXを舞台に展開されており、Xはこれらのアカウントを停止したとしている。

●"本物らしい"ペルソナ大量作成

2022年の時点で、「RT」は米国、ポーランド、ドイツ、オランダ、スペイン、ウクライナ、イスラエルを含む多くの国に偽情報を広めるためのAI対応ボットファーム生成・管理ソフトウェアである「メリオレーター（Meliorator）」へのアクセスを行っていた。「メリオレーター」はソーシャルメディアのネットワーク上で使用され、"本物らしい"ペルソナを大量に作成し、偽情報の伝播を可能にするように設計されており、ロシアが情報操作の一環として分断を悪化させ、世論を変えようとするのを支援する可能性がある。2024年6月現在、「メリオレーター」はX（旧Twitter）でのみ動作している。しかし、追加分析によれば、このソフトウェアの機能は他のソーシャルメディア・ネットワークにも拡張される可能性が高い。

米連邦捜査局（FBI）と米国防総省サイバーナショナルミッションフォース（CNMF）が、カナダのサイバーセキュリティセンター(CCCS)、オランダの総合情報保安局 (AIVD)、軍情報保安局 (MIVD)、国家警察 (DNP)が、7月9日に発表した「共同サイバーセキュリティ勧告」の中で、そう述べている。

今回の摘発で焦点が当てられているのは、偽情報生成・拡散までをワンストップで担うとされるソフト「メリオレーター」だ。実名は明らかにされていない「RT」の副編集長が開発を主導。アカウントの量産、コンテンツ生成、拡散までの機能を持つという。

「メリオレーター」のアカウントの設定機能では、居住地、政治的イデオロギー、バイオグラフィーなどを作成。さらに、生成・拡散機能として下記のようなものがあるという。

・オリジナルの投稿の生成、他のユーザーのフォロー、「いいね」、コメント、リポスト、フォロワーの獲得など、典型的なソーシャルメディアユーザーと同様のコンテンツを展開する。
・メッセージング、返信、リポスト、経歴を通じて、他のボットペルソナの偽情報をミラーリングする。
・ロシアの偽情報を増幅するために、既存の偽ナラティブの使用を継続させる。
・ボットの特定のアーキタイプに基づいて、トピックやフレーミングを含むメッセージングを策定する。

「AIボットファーム」はどのような偽情報を拡散したのか。

今回の発表で取り上げているのは、ミネソタ州ミネアポリス在住としたボットアカウント事例だ。ロシアのプーチン大統領が、ポーランド、ウクライナ、リトアニアの特定の地理的地域は、第二次世界大戦中にナチスの支配から解放したロシア軍からの「贈り物」であるとの主張を語る動画を投稿していたという。

また、これとは別の米国居住者と称するボットアカウントの例では、ウクライナ軍の外国人戦闘員が公称よりも大幅に少ないと主張するビデオを投稿していたという。