AIが自動生成する実在しない「フェイク顔」のアカウントが、フェイスブックを舞台に大量発生し、トランプ大統領の再選を支持する――。

こんな新たな動きが注目を集めている。

フェイスブックはこの動きに対し、600を超すアカウント、さらに関連するフェイクブックページやグループの削除を発表した。

またフェイスブックの発表と合わせて、大手シンクタンクなどが調査報告書を公表。AIによる「フェイク顔」アカウントが大量発生する仕組みを解き明かしている。

「フェイク顔」「アカウント」「投稿」と、AIが絡んだ自動化によって拡散の波をつくりだす、フェイクネットワークの“製造工程”。その一端を、この騒動から垣間見ることができる。

フェイクニュースの生態系は、加速度的に複雑さを増している。

●610のアカウント削除

フェイスブックは20日、「組織的不正行為（CIB）」に対する、大規模なアカウント削除などの措置を発表した。

その中で注目されるのが、ベトナムと米国を発信元としたフェイクアカウントなどの削除だ。

610のアカウント、89のページ、156のグループ、72のインスタグラムのアカウントが、その削除対象。5,500万アカウントがこれらのページをフォロー、38万アカウントがグループに参加していた、という。

フェイスブックは、これらのアカウント、ページ、グループが、もっぱら「The BL（ビューティ・オブ・ライフ）」というネットメディアのコンテンツ拡散を担っていたと指摘。米国のメディア企業「エポック・メディア・グループ」を、その運営主体として名指ししている。

拡散の内容は、米国政治、特にトランプ大統領に対する弾劾裁判や、保守派イデオロギー、候補者、選挙に関するものだったという。

この「The BL」を中心とした拡散ネットワークは、以前から組織的不正行為やスパム、フェイクアカウントといったフェイスブックの規約違反を繰り返しており、「The BL」自体のアカウントもフェイスブックによって削除されている、という。

そしてフェイスブックは、削除したフェイクアカウントには、AIで生成したプロフィール画像も含まれていた、と述べている。

●「フェイク顔」作戦

フェイスブックの発表と同日、国際問題の米シンクタンク「大西洋評議会」の研究所「デジタル・フォレンジクス・リサーチ・ラボ（DFRラボ）」とソーシャルメディア調査会社「グラフィカ」が共同で、「#FFS作戦:フェイク・フェイス・スウォーム（フェイク顔の大群）」と題した共同報告書を公表。「フェイク顔」の問題を掘り下げている。

それによると、拡散ネットワークの中心となったネットメディア「The BL」は、英語のほか、中国語、スペイン語、ベトナム語版のサイトを運営。中国語版では中国政府批判のコンテンツ、そして、英語版ではトランプ大統領支持のコンテンツを展開しているという。

そして、フェイクアカウントによる拡散ネットワークは、フェイスブック上に「2020年大統領選にはトランプ大統領」など、トランプ氏支持の86のグループを立ち上げていた、という。

さらに、AIが自動生成する実在しない「フェイク顔」が、フェイクアカウントで大規模に使われていたとし、これを新たな動きと位置付けている。

報告書がAI自動生成の「フェイク顔」の調達先として挙げるのが、2019年2月に立ち上がったサイト「thispersondoesnotexist.com（この人物は存在しない・ドット・コム）」だ。

同サイトは、ウーバーのエンジニア、フィリップ・ワン氏が開設したもので、ディープフェイクスなどにも使われているAI技術「敵対的生成ネットワーク（GAN）」によって、実在しない人物の顔写真を次々に作り出していく。

報告書は、GANによって自動生成された「フェイク顔」を収集し、フェイクアカウントの作成に流用したのが、今回の「フェイク顔」作戦だとしている。

●「フェイク顔」を見破る

GANによる「フェイク顔」はかなり精巧で、一見すると本物のようにしか見えない。

だが詳細に見ていくと、手がかりとなるいくつかのポイントがあるという。その一つが、「フェイク顔」の“非対称性”だ。

「フェイク顔」は膨大な顔画像の学習をもとに生成されており、「顔」の各パーツが不自然に組み合わされている画像も目に付く。

分かりやすいのが、眼鏡のフレームや女性のイヤリングなど、本来は対称であるはずのものが、非対称になってしまっている「フェイク顔」だ。

報告書では、これらの「フェイク顔」の特徴のほか、画像の圧縮度合いの違いからAIによる生成を検知する方法などを紹介する。

「The BL」をめぐる「フェイク顔」アカウントの問題は、フェイスブックによる一斉削除に先立ち、ファクトチェックメディア「スノープス」などで繰り返し指摘されてきた。

この中で、ネット検証の専門家であるサラ・トンプソン氏らが、「thispersondoesnotexist.com」と「The BL」ネットワークとのつながりを特定していった。

トンプソン氏が調査を開始した2019年10月ごろは、「The BL」の拡散ネットワークのフェイクアカウントは、大半が写真共有サイト「アンスプラッシュ」からの流用写真を使っていた、という。

だが翌11月になると、AI生成による「フェイク顔」が目立ってきた。そして、判定の決め手となったポイントは「フェイク顔」の“目”の位置だ。

「thispersondoesnotexist.com」で自動生成される顔の画像を大量に重ね合わせると、目の位置がすべて一致。これと、「The BL」のコンテンツを拡散していたフェイクアカウントの「フェイク顔」を比較したところ、やはり目の位置がぴたりと一致したのだという。

●アカウントの自動設定、自動配信

DFRラボとグラフィカの共同報告書や、サラ・トンプソン氏らの検証によれば、「フェイク顔」のアカウントからは、さらに拡散ネットワークの様々な特徴が明らかになっているという。

その一つが、粗雑なフェイクアカウントの自動生成だ。

同じAI生成の「フェイク顔」が複数のアカウントで使用されていたり、男性名のアカウントに女性の「フェイク顔」、その逆で女性名のアカウントに初老の男性の「フェイク顔」などの事例が確認された、という。

これらの事例からは、人間が介在しない、自動化プログラムによるアカウントの自動生成が疑われるという。

また、「フェイク顔」アカウントの投稿にも同様の特徴がみられた。

同じフェイスブックグループのメンバーである二つのアカウントが、まったく同じ「The BL」のコンテンツを、同時に、複数回にわたって投稿しているケースもあり、同じスケジュール投稿用のサービスが使われていた、という。

共同報告書は、「The BL」のフェイクアカウントによる拡散ネットワークについて、こう指摘している。

●AIが作り出したスパイ

AIが自動生成した「フェイク顔」アカウントが注目を集めたのは、これが初めてではない。

AP通信が2019年6月、すでに同じような「フェイク顔」の事例を報じている。

舞台となったのはマイクロソフト傘下のビジネス用ソーシャルメディア「リンクトイン」だ。

著名なワシントンのシンクタンク、戦略国際問題研究所（CSIS）の“ロシアとユーラシア担当の研究員”と名乗っていた赤毛の女性「ケイティ・ジョーンズ」。

「ケイティ・ジョーンズ」と“つながり”のあった52人のうちの1人が、同じワシントンの保守系シンクタンク、ヘリテージ財団のディレクターで、連邦準備制度理事会（FRB）理事候補としても名前のあがったポール・ウィンフリー氏。

やはり「ケイティ・ジョーンズ」から“つながり”のリクエストを受けた英国のシンクタンク、王立国際問題研究所（チャタムハウス）のロシア専門家、キール・ジャイルズ氏は、同じ研究分野でありながら聞き覚えのない名前に疑念を抱いた、という。

APが問い合わせたところ、CSISにそのような人物は存在せず、プロフィールにあったミシガン大学にも在籍記録はなかった、という。

そして、APが「ケイティ・ジョーンズ」本人に問い合わせをしたところ、間もなくリンクトインのアカウントは消えた、という。

「ケイティ・ジョーンズ」がリンクトインで掲載していた顔写真は、緑と青の瞳、赤銅色の髪の笑顔。だが、専門家の見立てでは、イヤリングがぼやけ、頬の部分に不自然なしみがある、などの特徴から、この顔写真はGANで自動生成された実在しない「フェイク顔」だと判定されたいう。

そして、このようなリンクトインを舞台にした人的ネットワークへの侵入は、スパイ活動の典型的なケースだという。

今回の「The BL」の拡散ネットワークは、同種の「フェイク顔」アカウントが一気に大規模増殖した事例ということになる。

「ケイティ・ジョーンズ」の「フェイク顔」の出所は明らかにされていない。

そして、GANによる実在しない「フェイク顔」を公開しているサイトはほかにもある。「ジェネレーテッド・フォトス」は、10万人分の「フェイク顔」のストック写真を、無料で提供するサービスを展開している。

●実在しない「顔」の氾濫

今回の騒動の中心となった「The BL」について、運営元としてフェイスブックが名指ししている「エポック・メディア・グループ（EMG）」は、その関係を否定。「The BL」はベトナムに拠点を置く「ベトナム・エポック・タイムズ」が運営にかかわっているが、EMGと「ベトナム・エポック・タイムズ」との関係は2018年に終了している、との声明を発表している。

フェイスブックによれば、「The BL」拡散ネットワークの関連で使われた広告費は、トランプ氏支持の内容などで計約950万ドル（約10億円）だという。

実在しない「フェイク顔」アカウントの氾濫は、2020年の米大統領選に向けた他の動きとも呼応する。

地元メディアが不在となった「ニュースの砂漠」の地域では、AIでニュースを量産する即席サイトが急増。“地元メディア”を装うタイトルで各地域に広がる「ニュースのディープフェイクス」といえる現象が起きつつある。

※参照：「ニュースのディープフェイクス」AIで量産、200の偽“地元メディア”が増殖（12/20/2019）

フェイクニュースの生態系は、ますます複雑なものになっていく。

（※2019年12月27日付「新聞紙学的」より加筆・修正のうえ転載）