AIフェイクが偽画像の3割超にも、急増のインパクトとは
AIフェイクが偽画像の3割超にも――。
グーグルと米デューク大学、インド、英国、スペインのファクトチェック団体は、5月19日に公表した査読前論文で、そんな調査結果を明らかにした。
研究チームは約30年にわたるファクトチェック結果から、画像・動画・音声を使った誤情報（フェイクニュース）の動向を分析した。
その結果、生成AIの急激な普及に合わせて、AIを使った偽画像も急増していたことが明らかになったという。
調査では2023年までを対象としているが、世界50カ国以上で国政選挙が行われる「選挙の年」2024年には、生成AIによる偽画像・偽動画（ディープフェイクス）の蔓延が指摘されている。
●AI生成画像の急上昇
状況は2023年に急変し、ローマ法王の「ダウンジャケット」（※後述）（のAI生成）画像の流行とほぼ同じ時期に、評価対象の偽画像全体に占めるAI生成画像の割合が急上昇し始めた。（中略）AI生成画像は現在、誤報関連画像のかなりの割合を占めている。
筆頭著者を含むグーグルの研究者7人と米デューク大学、さらにファクトチェックの国際団体「国際ファクトチェックネットワーク」に加盟する「ファクトリー・メディア＆リサーチ」（インド）、「フルファクト」（英国）、「マルディタ.es」（スペイン）の研究チームは5月19日、論文サイト「アーカイブ」に公開した査読前論文で、そう述べている。
研究チームが調査したのは、誤情報における画像・動画・音声などのマルチメディア使用の実態だ。
調査対象としたのは、1995年以来のファクトチェック団体・メディアによる13万5,838件のファクトチェック結果だ。
その大半は、グーグル、ビングなどの検索結果でファクトチェック結果であることを示すタグ「クレイムレビュー」が導入された2016年以降に集中している、という。2016年は、米大統領選などで偽情報・誤情報の拡散が世界的な注目を集めた年でもある。
調査結果によると、2019年半ば以降、ファクトチェック結果の約80％で、画像・動画・音声のマルチメディアが使われる状態が続いていた。
さらに2022年以降は動画の使用が急増し、同年後半にはそれまで主流だった画像と動画の割合が逆転。2023年後半には、マルチメディアを使用した誤情報の60％超を動画が占めていた。
調査の中でも、急増ぶりが目を引くのが、AIを使った偽画像だ。
●2023年を境にして
調査では、画像の改ざん・作成（コンテンツ操作）の具体的な手法の割合も分析している。
一般的な画像操作（いわゆる "フォトショップ "など）とテキスト操作（特に、画像内にあるテキスト部分への編集）もよく見られ、かなりの割合を占めている。（テレビのスクリーンショット画像での）テロップ操作の割合は、全体として比較的小さい。AIによって生成された画像は、2022年初めまではコンテンツ操作全体のごくわずかな割合だった。2023年の少し前から、ファクトチェックされた画像操作全体に占める生成AIによる画像の割合が、急速に増加し始めた。AI生成画像の総数は、テロップ操作よりもはるかに多くなり、テキストや一般的なコンテンツ操作とほぼ同程度となっている。
画像内にあるテキストを改ざんする誤情報は、2020年半ば以降、50～60％を占めて最も多く、次いで一般的な画像改ざんが40～50％を占めていた。
だが、2022年末から2023年にかけて様相が一変する。
それまでほとんど存在感のなかったAI生成画像が爆発的に増加。2023年半ばには、一般的な画像操作、テキスト操作と同じレベルの、30％程度を占めるようになった。
一方で研究チームは、AI画像へのファクトチェックの集中ぶりも指摘する。
論文の中では、画像操作、テキスト操作、テロップ操作、AI画像の4タイプの操作について、対象画像当たりのファクトチェック件数を示す「ハイプ（誇大宣伝）指数」をまとめている。
それによると、「ハイプ指数」は2018年から2022年末までは2～4、すなわち対象画像当たり2件から4件程度の範囲に収まっており、タイプも画像操作、テキスト操作、テロップ操作が主なものとなっている。
だが、2023年に入ってすぐに、AI画像が急上昇し、「ハイプ指数」は12を超えている。
「ハイプ指数」は、ファクトチェッカーによるAI生成画像に関わる誤情報の報告が、2023年以降間もなく非常に急増したことを示している。これは、 "ダウンジャケット姿のローマ教皇"画像のようなバイラルなAI生成画像の急増とよく一致している。
2023年3月、米シカゴの建設作業員が生成AI「ミッドジャーニー」を使って、「ローマ教皇がバレンシアガの純白のダウンジャケットを着ている」という偽画像をフェイスブックやネット掲示板「レディット」に投稿し、騒動となった。
「ハイプ指数」の急増は、その騒動のタイミングに重なっているという。
今回の調査はファクトチェック結果を対象としているため、ファクトチェックの集中が、生成AIのデータに影響があることを示している。
●ハードルは下がり、見分けられない
この論文の話題は、「国際ファクトチェックネットワーク」やグーグルを経て、コーネル大学の研究プロジェクトのディレクターを務めるアレクシオス・マンツァリス氏がニュースレター「フェイクドアップ」で取り上げ、テックメディア「404」が報じたものだ。
生成AIの広がりで、偽情報・誤情報の作成・拡散のハードルは下がり、その見極めも難しくなった。
2024年は50カ国以上で国政選挙があり、20億人以上が投票を行う「選挙の年」だ。現在行われているインド総選挙でも、AIを使ったディープフェイクスの拡散が報じられている。
ニューヨーク・メトロポリタン美術館にセレブリティが集まり、ファッションを競った5月6日のイベント「メットガラ」でも、出席していなかった歌手のケイティ・ペリー氏のディープフェイクスなどが注目を集めた。
ただし、今回の研究チームの中心となるグーグルも、批判の渦中にある。
グーグルが新たに公開したAIチャットサービス「AIオーバービュー」は、相次いで誤情報を出力したことが指摘されている。
見分けのつかない情報汚染が、メディア空間の日常風景になりつつある。
【情報開示＝筆者はGoogle.org、LINEヤフー、Metaが資金援助する「国際ファクトチェックネットワーク」加盟の日本ファクトチェックセンターで運営委員を務めている】
（※2024年5月30日付「新聞紙学的」より加筆・修正のうえ転載）
