現実を「AI生成」と否定する、「噓つきの分け前」が改めて注目を集めている――。

米民主党の大統領候補、カマラ・ハリス氏と副大統領候補のティム・ウォルズ氏が参加した激戦州、ミシガン州デトロイトの集会写真を、共和党大統領候補、ドナルド・トランプ氏が「AI生成」と根拠なく主張した騒動は、多くのファクトチェックで即座に否定された。

トランプ氏はその後、AI生成とみられるハリス氏の偽画像や、テイラー・スウィフト氏のファンがトランプ氏を支持しているかのようなAI画像を相次いで投稿している。

この気まぐれのような一連の「AI」投稿は、「嘘つきの分け前」と呼ばれるAIリスクと結びついている、と専門家らは指摘する。

それだけではなく、大統領選後も見据えた動きだと警戒する声もある。

●根拠なく「AI加工」と主張する

ハリス氏陣営のXアカウントは8月11日午後1時（米東部時間）、トランプ氏の投稿のキャプチャ（保存）画像を添付して、そう投稿した。

その50分前、トランプ氏は自身のソーシャルメディア「トゥルースソーシャル」に、「飛行機の周りには誰もいないのに、彼女はそれを "AI加工"し、いわゆるフォロワーの大規模な"群衆"がいるようにみせかけた」などと投稿していた。

ラストベルト（錆びた工業地帯）の激戦州の1つ、ミシガン州の動向は大統領選のカギとなる。ハリス氏らは8月7日、デトロイト・メトロ空港を会場に集会を開催した。

ハリス氏のXアカウントは、集会の模様をライブ中継しており、ハリス陣営は「トゥルースソーシャル」のアカウントでも副大統領機（エアフォースツー）到着を迎える聴衆の動画を投稿し、トランプ氏に反論した。

集会は多くの報道陣も取材当たっており、ニューヨーク・タイムズやAP通信、英BBC、仏AFP通信など、国内外のメディアのファクトチェックも、トランプ氏の主張に根拠がないことを確認している。

トランプ氏はなぜこんな主張をしたのか。騒動には前段があった。

トランプ氏が8月3日、やはり激戦州のジョージア州アトランタで集会を行った際、ハリス陣営のXアカウントは、「数百もの空席がある」「4日前のハリス氏の集会は満席だった」と写真つきで投稿していた。

実際には、投稿された写真はまだ早い時間帯のもので、トランプ氏の演説時にはほぼ満席だったという。トランプ氏はこの演説でも、同じ会場で行われたハリス氏の集会は空席が目立った、と主張していたという。

「AI加工」投稿は、アトランタでの集会動員数をめぐる応酬の、意趣返しの意味合いもあったようだ。

トランプ氏は動員数には強いこだわりがある。

ロイター通信は2017年1月、トランプ氏の大統領就任式の際の群衆の写真を、2009年1月のバラク・オバマ元大統領の就任式の際の群衆写真（180万人）と並べて掲載。オバマ氏の時と比べて半分以下ほどにしか見えない人出が話題になると、トランプ氏は「150万人はいた」「不誠実なメディアだ」と非難していた。

●相次ぐ「AI」投稿

トランプ氏の「AI」関連投稿は、これだけではない。

トランプ氏は、ハリス氏のデトロイト集会の写真への虚偽コメントから5日後の8月17日深夜に「トゥルースソーシャル」、翌18日にはXにも、共産主義のシンボルである「鎌と槌」のマークと「シカゴ」と書かれた集会で演説をするハリス氏の画像を投稿した。AI生成とみられている。

8月19日からイリノイ州シカゴで開催された民主党全国大会に絡めた揶揄だったようだ。

また、18日には「トゥルースソーシャル」に、テイラー・スウィフト氏のファンと見られる女性たちが「スウィフティーズ・フォー・トランプ」と書かれたTシャツを着ている画像投稿を並べ、「歓迎！」と投稿している。

専門家らが指摘したのが、「噓つきの分け前（liar's dividend）」というキーワードだ。

マイクロソフトの最高科学責任者（CSO）でバイデン政権の科学技術担当補佐官、エリック・ホロヴィッツ氏は、トランプ氏の「AI加工」投稿を巡るBBCのファクトチェック記事を引いて、こう投稿した。

●「嘘つきの分け前」とディープフェイクス

テキサス大学教授のボビー・チェスニー氏とバージニア大学教授、ダニエル・シトロン氏は2018年、AIを使った偽画像・偽動画「ディープフェイクス」のリスクをまとめた論文の中で、こう述べている。「これが、私たちが『嘘つきの分け前』と呼んでいるものだ」

※参照：96％はポルノ、膨張する「ディープフェイクス」の本当の危険性（10/23/2019　新聞紙学的）

ディープフェイクスには、大きく分けて2つのリスクが指摘される。現実を捏造するリスクと、現実を否定するリスクだ。

前者は、一般的に指摘されるように、AIがつくりだす本物そっくりの画像や動画によって、実在しない場面や人物の言動が、実際にあったかのように人々をだまそうとする。

後者は、証拠となる実際の写真や動画を「ディープフェイクスだ」と主張し、その信憑性を否定しようとする。

チェスニー氏とシトロン氏は、この後者のリスクを「嘘つきの分け前」と名付けた。

トランプ氏が「嘘つきの分け前」の文脈で語られるのは、今回が初めてではない。

2016年の大統領選の期間中、トランプ氏がかつて出演したNBCの番組「アクセス・ハリウッド」の収録現場で、「スターならやらせてくれる。何でもできる」などと卑猥な発言をしていたテープが明らかになった。

トランプ氏は当初、このテープが本物であることを認めていた。だがニューヨーク・タイムズの2017年11月25日付の記事によれば、大統領当選後、上院議員や側近たちに、テープは本物ではない、と繰り返すようになっていたのだという。

今回の「AI加工」投稿は、自らの疑惑に関するものではないが、実際の写真の信憑性を否定するという点で、「嘘つきの分け前」の最新の事例だ。

●情報空間を濁らせる

トランプ氏は、ハリス氏のデトロイト集会の写真を「AI加工」と根拠なく主張する一方で、自らもAI生成画像を次々に投稿する。

その狙いは何か？

ワシントン・ポストのテクノロジーライター、ウィル・オレマス氏は、「フェイクや偽物が蔓延すると、真実を捏造として却下しやすくなり、『嘘つきの分け前』を後押しする」と見立てる。

ディープフェイクス検証で知られるカリフォルニア大学バークレー校教授、ハニー・ファリド氏は、今回のデトロイト集会の画像や、「スウィフティーズ」の画像の検証を行っている。

ファリド氏もNPRの取材に対し、「これは、ディープフェイクや生成AIが存在するだけで、人々が現実を否定できる例だ」とし、「有権者に疑念を抱かせたい場合には、かなりうまい戦略だ」と述べている。

また、「噓つきの分け前」について、リンクトインへの投稿でこう指摘する。

今回の大統領選で、トランプ氏がもし敗北すれば、前回大統領選と同様に「選挙不正」を根拠なく主張する、その布石であるとの見立てだ。

同様の見立ては、民主党の中にもある。民主党上院議員のバーニー・サンダース氏は8月13日、Xにこんな声明を公表している。

情報空間を濁らせ、人々を困惑させ、事実を否定する。

ワシントン大学インフォームド・パブリック・センターのリサーチ・サイエンティスト、マイク・コーフィールド氏は、大半の誤情報の目的は、人々の信念を変えることではなく、人々がすでに持っている信念が揺らがぬよう維持することに重きを置いていると指摘する。

トランプ氏の目線は、自らの支持者に向いている、との見立てだ。その上で、すぐにそれとわかる低品質のディープフェイクスが溢れる状況について、こう述べる。

●「ディープフェイクス抗弁」

「嘘つきの分け前」と同様に、証拠の画像・動画を否認する動きは法廷にも広がり、「ディープフェイクス抗弁」と呼ばれるという。

コロンビア特別区上級裁判所判事、ハーバート・ディクソン氏は、米国法曹協会（ABA）サイトへの寄稿で、2021年1月のトランプ氏支持者らによる連邦議会議事堂乱入事件の裁判で、被告らの弁護士の一部が、証拠とされた動画が偽造・改ざんされたものではない、との保証がない、と主張しているという。

ただ、今のところ、成功した事例は見当たらないようだ。

「嘘つきの分け前」を提唱するチェスニー氏とシトロン氏は、前述の2018年の論文で、こうも指摘していた。

損なわれるのは、情報への信頼だ。

（※2024年8月26日付「新聞紙学的」より加筆・修正のうえ転載）