ディープフェイクスにどれだけ騙される? 意外な実験結果とは

By francois karm (CC BY 2.0)

「AIフェイク動画」として知られるディープフェイクスで、人はどのぐらい騙されるのか。そんな実験をしたところ、ディープフェイクスよりも、問題はむしろ別のところにあることがわかったという。それは――。

ワシントン大学、ペンシルベニア州立大学、ハーバード大学の研究チームは13日、「政治的なディープフェイクス動画は人々に誤った情報を伝える、だがそれは他のフェイクメディアと変わらない」と題した研究結果を公開した。

AIを使ったフェイクポルノ動画などの作成で知られ、日本でも摘発が行われたディープフェイクス。だがそれだけではなく、選挙などへの悪用やその影響も懸念されている。

そこで、政治家の登場するディープフェイクス動画を作成した上で、5,750人を対象とした実験を実施。ディープフェイクスと音声やテキストのフェイクニュースを比較したところ、人々が騙される割合に大きな違いは見られなかった、という。

ところが、実験からは別の結果もわかった。政治的な傾向によって、著名政治家のスキャンダルをめぐる本物のニュース動画を「フェイク」と間違って判断してしまう割合が目立って高かった、という。

AIテクノロジーよりも人を騙すもの、それはその人自身の思い込みだった、ということになる。

●ウォーレン氏のフェイク動画

実験を行ったのは、ワシントン大学セントルイス校助教のクリストファー・ルーカス氏らの研究チーム。ルーカス氏らは、5,750人を対象として2つの実験を行っている。

1つは、ディープフェイクスが他のメディア形式のフェイクニュースと比べて、人々がどのぐらい「本物」と信じるのかという実験。

もう1つは、本物の政治家の動画とディープフェイクスで改ざんした動画について、それぞれ真偽の見分けがつくかどうか、という実験だ。

第1の実験では、2020年米大統領選の民主党候補者指名をジョー・バイデン氏らと争った党内左派の上院議員、エリザベス・ウォーレン氏を題材に、「2019年の選挙戦でトランプ氏のことを**野郎で小児性愛者と発言、流出動画で発覚」など5パターンのシナリオによるスキャンダル仕立てのフェイクニュースから1つを被験者らに見せた。

ウォーレン氏は先住民を祖先に持つ家系であることを明らかにしており、このことに対してトランプ氏が中傷した経緯がある。

フェイクニュースは、ソーシャルメディア風のニュースフィードの中に表示した。

フェイクニュースのメディア形式は4つ。1つは別人がウォーレン氏のものまねを演じた10秒の再現動画で、タイトルに「ものまね再現」との表示がある。もう1つはものまね動画の顔をウォーレン氏のものに差し替えたディープフェイクス動画で、「流出」とのスクープ風見出し。さらに動画を削除して音声とテキストにしたものと、テキストのみにしたもの。

また、比較のために、実際に配信されたウォーレン氏への中傷動画広告、さらにフェイクニュースを表示しないグループ、と6つのグループに分けて実験を行った。

このうち、ウォーレン氏のフェイクニュースを見た4グループ(ディープフェイクス・音声・テキスト・ものまね再現、3,732人)の反応を比較。すると、「どの程度フェイクだと思ったか」との5段階評価の質問に、ディープフェイクスでは回答者の平均値は3.22。フェイクではなく本物と評価した割合としては、47%だった。

これに対し、音声では3.34(48%)、テキストでは3.30(43%)。そして評価の基準点となる、ものまねであることを開示した動画では2.57(30%)。

「騙し」の効果としては、ディープフェイクス、音声、テキストはほぼ似たような結果となった。むしろ、作成に手間のかかるディープフェイクスよりも、シンプルな音声の方が「騙し」の効果が見られた。

被験者を属性別に見ていくと、性差別的かどうか、支持政党の違い、などによって騙される傾向に違いは見られる。性差別的、あるいは共和党支持の方が、騙される傾向が強いことがデータから示されている。

だが、それらの場合でも、ディープフェイクスよりも音声、あるいはテキストの方が「騙し」の効果はやや強いものの、ほぼ違いはなかった。

ルーカス氏らは、「(ディープフェイクス動画は)調査対象を騙すという点で、音声、テキストで示された同様の情報を統計的に上回るものではなかった」と述べている。

●本物の動画での間違い

ルーカス氏らが同じ被験者を対象に、第2の実験として行ったのが、「フェイク動画探し」の実験だ。

この実験では、被験者らは政治家が登場する8本の動画を見せられ、本物かフェイクかを判断する。用意されたのは本物の動画9本と、すでにネットなどで出回っているディープフェイクス動画6本。

この実験では5,750人の被験者を、ディープフェイクス動画なし(本物8本)、ディープフェイクス動画少(本物6本)、ディープフェイクス動画多(本物2本)の3グループに分けて、ニュースフィード形式で動画を見せた。

その結果、属性別では、政治の知識が豊富な人々が最も動画判別の正確度が高く63%だった。また、デジタルリテラシーが豊富なグループも、識別の正確度が高かった。

先行研究からは、共和党支持者がより多くのフェイクニュースを共有する傾向が分かっているが、ルーカス氏らの実験結果では、むしろ民主党支持者よりも動画判別の正確度が高かった。

ただ、フェイク動画に限って判定結果をみると、支持政党による違いはさほど大きくはなかった。

むしろ大きな違いは、本物の動画の判定結果に表れていた。本物の動画を「フェイク」と回答してしまう誤判定の高さだ。

これは特に、被験者の支持政党の著名政治家に関する本物のスキャンダル動画で顕著だった、という。

例えば、オバマ前大統領が2012年3月、韓国で開かれた核安全保障サミットの場で、当時のメドベージェフ・ロシア首相に対し、ミサイル防衛問題について「(11月の米大統領)選挙が終われば、もっと柔軟に対応できる」と小声で話しかけた音声を、テレビ局のマイクが拾っていたスキャンダル動画

これはニュースでも報じられ、共和党陣営が批判を強めたスキャンダルだった。この動画を本物と正しく判定できたのは共和党支持者が58%だったのに対し、民主党支持者はわずか22%だった。

この党派による正答率の格差は、動画の主役によって逆転する。

2019年3月、トランプ大統領がアップルCEOのティム・クック氏の名前を「ティム・アップル」と言い間違えたことがあった。この件も、ニュースで報じられている。

この動画を本物と正しく判定できたのは、民主党支持者では87%だったが、共和党支持者では51%だった。

また、スキャンダルだけではなく、ポジティブな政治家発言の動画の判定にも、被験者の党派性が影を落としていた。

トランプ大統領が新型コロナ予防に備えるよう米国民に呼びかけた本物の動画については、共和党支持者は82%が本物と正しく判定できたが、民主党支持者では正答率は60%だった。

ルーカス氏らは、こう指摘する。

動画の登場人物のスキャンダルが事実かどうかの判断を間違う原因として、党派的な動機付けが影響を与えることが分かった。この党派性は、ディープフェイクス動画を本物と信じてしまうよりも、むしろ本物の動画をフェイクと誤判定する方に強く働いてしまうのだ。

●フェイクに騙される、事実を否定する

フェイクニュース対策としてこれまで主眼を置かれてきたのは、ディープフェイクスなどのフェイクニュースのコンテンツ排除だ。

だがルーカス氏らの研究から見えてくる問題の深刻さは、特に党派的な思い込みから、事実を否定してしまう傾向だ。

これらを踏まえて、ルーカス氏らは、政策面での取り組みとしても、本物のニュース動画の信頼性の促進に注力する必要性があることを指摘している。

フェイクニュース氾濫の背景には"メディア嫌い"が根強くあることが、これまでも指摘されてきた。

※参照:“メディア嫌い”とフェイクニュース:「信頼」をデータ化し、グーグル・フェイスブックに組み込む(10/10/2019 新聞紙学的

※参照:“メディア嫌い”がフェイクを支える、その処方箋と2029年の「人工メディア」:#ONA19 報告(09/14/2019 新聞紙学的) 

社会が、事実を事実として受け入れることの重要性が、改めて浮き彫りになる。

(※2021年1月18日付「新聞紙学的」より加筆・修正のうえ転載)