「選挙イヤー」となる2024年に、生成AIによるフェイク政治広告が混乱を巻き起こす――。

米大統領選や欧州議会選など、2024年は主要な選挙が目白押しだ。だが、急速に広がる生成AIの悪用、特に政治広告への影響が、懸念を広げている。

グーグルは9月6日、政治広告にAIなどを使った場合に、ラベル表示を義務付けるポリシー変更の方針を明らかにした。

フェイクニュースによって混乱した2016年の米大統領選では、ロシアによるとみられるソーシャルメディア上の大量の政治広告が判明。ソーシャルメディア各社は対応を迫られた。

急速に広まる生成AIは、さらなる脅威として、対策を求める声が強まっている。

「2024年の選挙は混乱するだろう」。元グーグルCEO、エリック・シュミット氏はそう警戒感を示す。

混乱は予想されている。その混乱は、どのようなものになるのか。

●「明確かつ目立つ開示」

グーグルは9月6日、政治広告に関するポリシーの変更を明らかにした。

これには「画像のサイズ変更、トリミング、色や明るさの補正、欠陥補正（たとえば「赤目」の除去）」などのAIによる画像調整は含まれない。

想定されるのは生成AIによる画像、動画、音声のフェイクコンテンツ「ディープフェイクス」を使った選挙広告の氾濫だ。

実際には発言していないことや、行っていないことを、現実にあったかような画像や動画として描くディープフェイクスのリスクは、以前から指摘されてきた。

※参照：AIによる”フェイクポルノ”は選挙に影響を及ぼすか？（06/30/2018　新聞紙学的）

生成AIの登場によって、それがこれまでよりも大規模、安価、巧妙、迅速に拡散する恐れがある。

2024年の米大統領選に向け、米国ではそんな実例が次々に広がっている。

共和党全国委員会は4月25日、「打倒バイデン」と題したキャンペーン動画をユーチューブの公式チャンネルで公開。「バイデン大統領再選」の未来だとして示す、ディストピアを思わせるすべての画像を、AI生成したという。

共和党候補指名争いに出馬表明をしているフロリダ州知事、ロン・デサンティス氏の陣営も6月5日、やはり出馬表明をしているドナルド・トランプ前大統領を攻撃する動画を公開。

この中で、新型コロナウイルス対策に当たった前大統領首席医療顧問、アンソニー・ファウチ氏とトランプ氏が抱き合う様子などの3枚の画像が、ファクトチェックによって、AI生成したものとみられている。

グーグルはすでに3月14日付で、生成AIの使用禁止用途として「違法な行為」「悪意のある行為」などを挙げたポリシーを公開している。

今回のラベル表示義務は、政治広告にさらなる規制の枠をかけるものだ。

ただ、規制は政治広告に限定され、それ以外の広告や一般のコンテンツには適用されない。

●米大統領選に向けた動き

生成AIのリスクへの、取り組みの動きも目立ってきた。

連邦選挙管理委員会は8月、生成AIによるディープフェイクス政治広告の規制に関わる手続きを開始した。

米消費者NPO「パブリック・シチズン」は７月、選挙運動でのAIによるディープフェイクス使用が、連邦選挙運動法が禁じる「不正な虚偽表示」に該当することを明確化するよう求めた請願を提出している。

連邦選挙管理委員会はこれを受け、パブリックコメントの手続きに入った。

また、AIの法整備を掲げる米民主党上院トップの院内総務、チャック・シューマー氏は9月13日、主要プラットフォーム企業トップなどを集めた「AIインサイトフォーラム」を、メディアには非公開で開催する。

このフォーラムにはアルファベット・グーグルCEOのスンダー・ピチャイ氏のほか、メタCEO、マーク・ザッカーバーグ氏、マイクロソフトCEO、サティア・ナデラ氏、オープンAICEOのサム・アルトマン氏、テスラCEOのイーロン・マスク氏ら、主要IT企業のトップがこぞって出席することが予定されている。

今回の政治広告規制の表明は、ピチャイ氏も参加するこのフォーラムのちょうど1週間前。そして実施時期は、米大統領選（2024年11月5日投開票）まで1年を切る11月中旬、というタイミングになる。

●きっかけはロシアの政治広告介入

ソーシャルメディア上の政治広告に注目が集まったのは、2016年の米大統領選へのロシアによる介入だ。

その際に使われたのが、人種や移民などの米国で議論を呼ぶ問題に焦点を当て、社会の分断を狙った政治広告の配信だった。

投稿としてのフェイクニュースの拡散に加えて、政治広告として配信することで特定のユーザー層へのマイクロターゲティングが可能になる。

※参照：米社会分断に狙い、ロシア製3,500件のフェイスブック広告からわかること（05/14/2018　新聞紙学的）

※参照：AIがターゲティングするフェイク広告が選挙をゆがめるのか（11/13/2019　新聞紙学的）

その手法に加わったのが、ディープフェイクスと呼ばれるAIフェイク画像や動画だった。

フェイスブックは前回の米大統領選の年である2020年1月、本物と見分けがつかず、誤解を与えるディープフェイクス動画を削除対象とした。

一方、政治広告については前年の2019年9月、「表現の自由」を掲げてファクトチェックの対象としないことを表明している。

※参照：TwitterとFacebook、政治広告への真逆の対応が民主主義に及ぼす悪影響（11/01/2019　新聞紙学的）

ただ2020年米大統領選では、「混乱を避けるため」などとして、投開票日前から政治広告の掲載を停止。2021年1月のトランプ氏支持派による米連邦議会乱入事件を経て、同年3月になって掲載停止を解除した。

だが米国、ブラジル、イスラエル、イタリアでは、選挙の投票を阻害するなどの政治広告は、引き続き禁止されている。

ツイッターも2020年2月、ディープフェイクス動画などのコンテンツについて、削除からラベル表示まで、その影響度に応じた規制を打ち出している。

同社はそれに先立つ2019年10月、CEOのジャック・ドーシー氏が政治広告そのものを世界的に禁止すると表明している。

だが、イーロン・マスク氏の買収とコンテンツ規制からの後退方針の中で、2023年8月29日には政治広告禁止の解除を表明した。

ティックトックは3月21日にポリシーを更新し、実在の人物のディープフェイクスなどを禁止している。また、政治広告は禁止されている。

●選挙の年とコンテンツ管理の後退

元グーグルCEOのエリック・シュミット氏は6月、CNBCの番組の中でそう述べた。

2024年は、世界的にも注目の選挙が目白押しだ。

米大統領選に加えて、台湾総統選（1月）、インドネシア大統領選（2月）、ロシア大統領選（3月）、インド総選挙（4～5月）、欧州議会選（6月）、さらに年内には英総選挙も予定されている。

生成AIの影響への警戒感は広がる。

EUでは8月25日から、違法・有害コンテンツ対策強化を目指した「デジタルサービス法」の適用が、域内利用者4,500万人を超える「超大規模オンライン・プラットフォーム（VLOP）」17社と「超大規模オンライン検索エンジン（VLOSE）」2社に対して始まっている。

同法第35条（リスクの軽減策）では、超大規模事業者に対して、AIなどで生成された画像、音声、動画についての「明確な表示」を義務付けている。

だがEUは、法適用に先立つ6月、すでにこれらの「表示」を超大規模事業者に前倒しで要請している。

一方でこれらの超大規模事業者は、昨年から今年にかけて、こぞって大幅なリストラを断行。フェイクニュース対策後退の気配も色濃い。

政治広告への生成AI使用表示の義務化を打ち出したグーグル傘下のユーチューブは、現在も根強く残る2020年米大統領選に関する根拠のない「不正選挙」の主張を削除する方針を、2023年6月に取り下げている。

そして、フェイクニュース対策後退の先頭に立つのが、マスク氏が買収したX（ツイッター）だ。

※参照：「マスク流」フェイクニュース対策の後退がMeta、YouTubeに広がるわけとは？（08/28/2023　新聞紙学的）

豪クイーンズランド工科大学准教授、ティモシー・グラハム氏らは9月6日、米大統領選に絡んでXで氾濫する、陰謀論などのネットワークの調査結果を公開した。

グラハム氏らが調査したのは、8月23日夜に大統領選の共和党候補をめぐってXで送信された約95万件の投稿と、ソーシャルニュースサイト「レディット」で送信された2万件の投稿だ。

同日夜には、テレビ中継された共和党候補者討論会が開催され、同じ時間帯に、この討論会を欠席したドナルド・トランプ氏のインタビュー動画がXで公開されていた。

調査結果によると、X上では、2020年米大統領選で「トランプ氏が勝利した」とする陰謀論を宣伝する1,200件を超すアカウントが連携したネットワークが確認でき、それらの投稿は300万以上のインプレッション（閲覧）を獲得していたという。

また、トランプ支持派などのグループで構成される1,300件を超すボットアカウントのネットワークも広がっていたという。

だが、レディットの投稿では、そのようなネットワークは確認できなかった。

グラハム氏らは、そう指摘する。

混乱は起きるだろう。

問題は、それがどれだけの規模になるのか、ということだ。

（※2023年9月11日付「新聞紙学的」より加筆・修正のうえ転載）