米大統領選の生成AI悪用に危機感、ビッグテックは個別に対応。ディープフェイク対策は機能するか？
生成AIの劇的な進化が、2024年の米大統領選（投票日11月5日）をカオスに陥れる可能性が出てきた。 選挙関連のディープフェイク動画はすでに複数出回っているが、昨年6月には共和党のナンバー2候補とされるフロリダ州知事、ロン・デサンティス氏陣営が作ったフェイク画像が登場。候補者指名争いで圧倒的トップを走るトランプ前大統領のフェイク画像を、その旨の表示なしにツイッター（当時）に投稿し、印象操作を行ったと報道された。
今はまだ、共和党と民主党がそれぞれ候補者指名を争っている段階だが、選挙戦後半の民主党vs共和党の決選では、強力かつ有効なネガティブキャンペーン・ツールとして、生成AIを活用したディープフェイクが氾濫する可能性がある。 大統領候補の各陣営や支持者、利害関係者だけでなく、自国に有利となる介入や揺さぶりを狙う外国勢力、さらには再生数を稼ぎたい無関係な個人なども参戦し、各方面が入り乱れたでっち上げ合戦の様相となる可能性も否定できない。
対して、米国には選挙戦での生成AI利用に関する明確な規定は存在せず、ファクトチェックの態勢が整っているとも言いがたい。こうした中、ChatGPTのOpenAIや、グーグル、メタなどのビッグテックは、個別に対応する意向。一部利用制限を加えるとともに、選挙関連の広告主に対し、生成AIを利用した場合の表示を求める方針だ。 ただ、それが果たして機能するのか。大統領選におけるディープフェイクの影響と、ビッグテック各社の対策に目を向けたい。
民主主義への「脅威」、ディープフェイクが政治的分断の火種に
米大統領選でフェイク情報が飛び交うのは今に始まった話ではなく、8年前、4年前にも話題となった。ただ、生成AIはここ数年で劇的に高度化、簡易化、低コスト化しており、いまや誰もが簡単に、高レベルのディープフェイク動画を作成することが可能だ。 フェイク情報やフェイク動画でゆがめられた事実が、広く有権者の投票行動に影響を及ぼす事態となれば、「選挙の正当性が揺らぐ恐れがある」（チャック・シューマー上院院内総務）、「民主主義の礎に対する深刻な脅威になり得る」（アリシア・ソロウ＝ニーダーマン ジョージ・ワシントン大学ロースクール准教授）と、当局者や識者は指摘する。 米調査会社ユーラシア・グループは「2024年の世界10大リスク」のトップに、「米国の政治的分断」を挙げたが、ディープフェイクがこれを後押しする可能性すらある。
