７６カ国スーパー選挙の年…「ディープフェイク」、民主主義に致命傷負わせるか
トルコとスロバキアの選挙…投票直前の「偽動画」が結果を左右 マスコミと政党への不信感が大きいほど威力を発揮…「ディープフェイク禁止」規制まちまち
2024年は世界76カ国で選挙が行われる「スーパー選挙の年」だ。このうち、世界の関心が集中する米大統領選挙は、人工知能（AI）を活用した「ディープフェイク」が本格的に動員される史上初の選挙になる可能性が高い。ディープフェイクを活用すれば、有権者の関心を高め、広報費用を減らせるため、効率性が高くなる。一方、政治二極化と嫌悪に便乗してネガティブキャンペーンの拡散および世論操作につながりかねないため、懸念が高まっている。 ■ディープフェイクと世論操作 昨年10月30日、ジョー・バイデン米大統領はAIの開発を規制する行政命令に署名した。AIが作り出したコンテンツに「AI使用」という表示を義務付け、コンテンツの出所を確認する技術標準も設けるよう指示した。大統領選挙を控えて、生成AIで制作されたディープフェイクで虚偽の情報があっという間に拡散する恐れがあるという懸念もその背景になった。バイデン大統領は、自分が書店で認知症関連の本を選んでいるような場面が描かれた偽動画などを見て、大きな衝撃を受けたという。AIが人類に恩恵を与えるか、それとも災いになるかは意見の分かれる未来の話だが、選挙と政治に及ぼす影響は目の前に迫る現実だ。 昨年5月、トルコ大統領選挙では投票直前に「テロ集団が野党候補を支持する」というディープフェイク動画が広がった。捏造された動画が政権与党の勝利に決定的な影響を及ぼしたというのが大方の見解だ。昨年9月のスロバキア総選挙でも同様のことが起きた。投票2日前、親米として知られる野党代表が「わが党が選挙に勝つためには（疎外階層の）ロマ族に金を与えなければならない」と語った音声ファイルが公開された。間もなく偽物であることが判明したが、政権与党の勝利に大きな影響を及ぼしたという。嫌悪を煽るネガティブキャンペーンと虚偽の情報がディープフェイクという先端技術と出会い、事実上選挙結果を左右したわけだ。 米大統領選挙でも、すでに捏造された映像を利用した選挙運動が横行している。米共和党全国委員会が昨年5月に公開した選挙広告には、米軍が重武装してサンフランシスコ通りをパトロールする場面、移民者たちが南部国境を占領した場面などが出てくる。捏造された偽のイメージを通じて、有権者がバイデン政権で起こるディストピアを現実のように感じる可能性もある。 通常、選挙で政党や候補者たちは相手をけなし、否定的な側面を強調するネガティブキャンペーンの誘惑にかられる。政策やビジョンなどを打ち出すより、簡単に票を獲得できると考えているからだ。ネガティブ戦略が虚偽の情報を盛り込んだディープフェイクに乗って拡散した場合、既存の選挙運動方式は無用の長物になりかねない。 ■ 政治への不信感と民主主義の危機 2016年と2020年の米大統領選挙は「ソーシャルメディア選挙」と呼ばれる。虚偽の情報がソーシャルメディアを通じて拡散し、選挙結果にも大きな影響を及ぼした。米国インターネットニュース「バズフィード」によると、2016年の大統領選挙で人気を集めたフェイクニュースは、ソーシャルメディアを通じて、主要メディアが生産した記事よりも急速に拡散し、波及力も大きかった。 AIを活用すれば、記者がいなくても「ニュースボット」を通じて虚偽の情報や偽記事を驚くべき速度で作り上げることができる。大量生産されたフェイクニュース、虚偽の情報と嫌悪を盛り込んだディープフェイクが、ソーシャルメディアに乗って拡散すれば、本物と偽物の区分自体がぼやけてしまう。何でも偽物である可能性があると疑うことになれば、たとえ真実だとしても、受け入れ難い内容は「フェイクニュース」と片付けて拒否しやすくなる。信頼が崩れたところでは民主主義の運命も危うくなる。 専門家たちは、マスコミと政党に対する不信感が高い国ほど、ディープフェイクが致命的な影響を及ぼしうると語る。ディープフェイクで捏造された「もっともらしい」偽情報を選択的に受け入れ、極端な意見に囲われた場合、政治の二極化はさらに悪化する恐れがある。また、敗北した陣営は不利なイメージや動画が捏造されたものだと主張し、選挙結果に従わず暴力事態を起こすことも考えられる。2020年の大統領選挙で、トランプ前大統領が選挙結果を不服とし、支持者が議会を占拠したことからも確認できる。 ■ ディープフェイクに対する規制 韓国も前回の大統領選挙で「AI尹錫悦（ユン・ソクヨル）」、「AIイ・ジェミョン」など、ディープフェイク動画が登場し関心を集めた。しかし、今回の総選挙からは投票日の90日前からディープフェイクを利用した選挙運動が全面禁止される。米国の場合、先月30日に確認した米国市民団体「パブリックシチズン」の情報によれば、選挙に関してディープフェイク規制法がある地域は、テキサス、ミシガン、ワシントン、ミネソタ、イリノイの5州だけだ。連邦レベルの規制はまだ制定されていない。 規制措置が導入されたとしても、投票直前に候補者を批判または攻撃するディープフェイクが登場し、選挙の形勢を揺るがす可能性は依然として残っている。例えば、バイデン大統領の失格理由を暗示するディープフェイクが投票日直前に公開された場合、接戦の選挙に致命的な影響を及ぼす恐れがあると多くの専門家は懸念している。 ハン・グィヨン｜人とデジタル研究所研究委員 (お問い合わせ japan@hani.co.kr )
