「暗号通貨宣伝」「女性スキャンダル」のAIデマが拡散…台湾総統選にディープフェイクスが次々と流れ込んでいる。

2024年は、世界で40億人以上が投票に向かうという「選挙の年」だ。その口火を切ることになる台湾総統選の投票が1月13日に行われる。

2024年の最大の懸念は、生成AIを使った偽情報・誤情報による選挙の混乱だ。

台湾総統選をめぐっても、「暗号通貨を宣伝する候補者」「候補者の女性スキャンダル」などのディープフェイクス動画、さらに音声ディープフェイクスなど、AIを使ったフェイク拡散が次々に明らかにされている。

民主主義の脅威として、AIは着実に広がりを見せている。

●候補者ら標的にフェイク動画

「暗号通貨に250ドルを投資し、毎月2万ドル稼ぐ」――そんなうたい文句の動画が拡散した、と2023年11月、台湾内政部の刑事警察局が公表している。

台湾の大手紙「自由時報」の11月18日付の報道によると、動画には、台湾総統選に与党・民主進歩党（民主進歩党）から立候補している現副総統の頼清徳氏が、暗号通貨投資を呼びかける様子が映し出されていた。

さらにこの動画には、現総統の蔡英文氏も登場していたという。

だが刑事警察局は検証の結果、これがAIを使った改ざんフェイク動画「ディープフェイクス」であると認定。中国発の投資詐欺の疑いがあると同時に、選挙の混乱を狙った疑いがあるという。

台湾のファクトチェック団体「マイゴーペン」の11月16日付の検証結果によると、これらの動画には、Xのオーナー、イーロン・マスク氏や、半導体受託生産の世界最大手、台湾積体電路製造（TSMC）創業者、張忠謀氏のディープフェイクスも登場するという。

台湾総統選を巡る偽情報・誤情報が氾濫する。その標的として注目されるのが、世論調査でもトップを走り、中国との距離を置く民進党の頼氏だ。

12月18日に約9,800人のフォロワーがいるフェイスブックのコミュニティページに投稿された2分34秒の動画には、そんな警告が表示されている。

動画は頼氏に「3人の愛人がいた」と主張する。動画では、様々な画像が次々に表示される中で、書斎らしき場所を背景にした若い女性がナレーションを続けていく。

だが、マイゴーペンが公開した検証結果によると、女性ナレーターを含むこの動画は、AIを使ったディープフェイクスだと認定している。

検証によれば、動画の主張の大半も裏付けとなる根拠がないと結論づけている。

自由時報などによると、台湾法務部調査局も12月20日、この動画が「外国勢力」によるディープフェイクスの拡散であると公表。

フェイスブックやツイッター（X）の40以上の有力アカウントから拡散されていたという。法務部は台北地検に捜査を指示したという。

●音声ディープフェイクスも拡散

台湾総統選を巡るディープフェイクスの拡散は、動画だけではない。

台湾のファクトチェック団体「台湾ファクトチェックセンター」の10月17日付の検証によると、音声ファイルを偽造した、音声ディープフェイクスによる偽情報も出回っているという。

それによると、総統選に立候補している第3勢力・台湾民衆党の柯文哲・前台北市長のものとされる音声ファイルが8月、メディア関係者に拡散。外遊中だった頼氏が、米国で金を払って支援者を集めている、とする内容だったという。

法務部調査局はこれが、音声ディープフェイクスの可能性があるとして、捜査に乗り出したという。

台湾では6月、選挙でのディープフェイクスの悪用に懲役７年以下となる法改正を行っている。

台湾ではこれまでも、中国発と見られる偽情報・誤情報の氾濫に悩まされてきた。

2022年8月の米下院議長、ナンシー・ペロシ氏の台湾訪問をめぐっては、中国軍による大規模な軍事演習が展開されたほか、台湾政府などへのサイバー攻撃、さらにはフェイクニュース（偽情報・誤情報）の氾濫も注目された。

※参照：「ペロシ台湾訪問」に殺到したフェイクニュース、その中身とは？（08/08/2022　新聞紙学的）

そこに、脅威としてのAIが影を落とす。

●選挙の年のAIの脅威

2024年は1月13日の台湾総統選や11月5日の米大統領選など、各国で83の選挙が相次いで予定されている「選挙の年」だ。

有権者の合計は世界人口の半数以上、40億人を超すとの推計もあるという。

だが、そこで懸念されているのが、AIによる偽情報・誤情報の拡散だ。

国連教育科学文化機関（ユネスコ）と仏調査会社「イプソス」が2023年9月に公表した、2024年に選挙を予定する米国やインド、欧州連合（EU）などの16カ国を対象とした調査では、87％が「来る選挙への偽情報の影響を懸念している」と回答。47％は「非常に懸念している」と回答している。

AIを民主主義の抑圧に使う、という動きもすでに表面化している。

米人権擁護団体「フリーダムハウス」は2023年10月に公表した報告書「フリーダム・オン・ザ・ネット」の中で、AIを使った人権抑圧の動きをまとめている。

報告書はそう指摘する。この16カ国には、米国（大統領選）やインド（総選挙）、メキシコ（大統領選）など2024年に選挙が予定されている国々も含まれる。

また、メディアのコピーサイトを次々に立ち上げ、偽情報・誤情報の拡散を手掛ける親ロシアの影響工作のための大規模ネットワーク「ドッペルゲンガー」でも、生成AIにコンテンツ作成の可能性が指摘されている。

※参照：偽装メディア・偽スウィフト…親ロシア影響工作ネット「ドッペルゲンガー」にも生成AIの影（12/14/2023　新聞紙学的）

●分断、紛争、AI

国際政治学者のイアン・ブレマー氏が率いる米コンサルティング会社「ユーラシアグループ」は2024年1月8日に発表した同年の10大リスクのトップに「米国の分断（米国 vs. 米国）」、その中心に米大統領選を挙げた。

2位は「瀬戸際の中東」、3位は「ウクライナ分割」、そして4位を「ガバナンス不在のAI」としている。

AI規制のルールづくりも、進んではいる。G7広島プロセスの「包括的政策枠組み」が2023年12月に合意。また、欧州連合（EU）では同月、AIの包括的な規制法案「AI法」に大筋合意している。

だがユーラシアグループは、AIの進化が、規制の枠組みを上回るスピードを見せるだろうと指摘する。

そしてAIの脅威は、同グループが最大のリスクとする米の分断と選挙、さらに紛争の、いずれにも濃い影を落としている。

選挙は民主主義の土台だ。AIの脅威の下での、その最初の試金石が、台湾総統選となる。

（※2024年1月11日付「新聞紙学的」より加筆・修正のうえ転載）