北朝鮮の金正恩朝鮮労働党委員長が民主主義を語る――という内容のニセ動画が米国で出回り、議論を呼んでいる。大統領選の投票を促す広告用につくられた「ディープフェイク」動画だが、あくまでも内容が虚偽であるだけに米主要メディアは採用を取り止めている。

◇笑み浮かべ「民主主義は簡単に崩壊」

　ディープフェイクとは、人工知能（AI）の深層学習（ディープ・ラーニング）と偽物（フェイク）を組み合わせた造語。AI技術によって合成し、本物と見分けがつかないようなそっくりな動画がつくられる。

　今回の動画は「独裁者―金正恩」というタイトルで長さは50秒程度。“金委員長”が人民服を着用し、執務室らしき場所から英語で語りかけている。

「民主主義は壊れやすいものだ。あなたが信じている以上に壊れやすいものだ。選挙に失敗すれば民主主義は成り立たない」

「私は何もする必要はない」

　表情も声もそっくりに仕立て上げられ、指の動きもそれなりに再現されている。

「国民は分裂し、あなたの選挙区は操作されている。投票所は閉鎖され、何百万人もの人が投票できなくなっている」

　こう米国の現状を憂えたうえで「民主主義が崩壊するのは簡単なことだ。何もしなければいい」と締めくくり、いたずらっぽい笑みも浮かべている。

　動画の最後に「民主主義はあなたとともに生きるか、それとも死ぬか」という文章が浮かび上がる。

　腐敗防止を掲げる米国の非営利団体「リプレゼントUS」が先月29日、ユーチューブに投稿した。今月16日現在で再生回数は38万回を超えている。

◇プーチン露大統領の偽動画も

　リプレゼントUSのユーチューブのチャンネルには、ロシアのプーチン大統領のディープフェイク動画も投稿され、「米国よ。あなたの民主主義を妨害したとして、あなたは私を責めている。だが、私にはそうする必要がない。あなたは自分たちでそれをやっているのだ」と語っている。

　リプレゼントUSの共同創設者は声明で「何十年もの間、米国の人手不足は深刻で、投票は抑圧され、有権者は粛清され、カネが政治システムを乗っ取ってきた」と指摘。「我々の民主主義システムの崩壊と利害関係のある２人の指導者を起用することで、米国の人々に、我々の民主主義がいかにもろいものであるか直視してもらいたかった」とディープフェイク動画製作の意図を明らかにしている。

　ワシントンで発行される政治専門紙「ザ・ヒル」によると、今回のディープフェイク動画の広告は、米国のCNNやフォックスニュース、MSNBCのテレビ各局で放送するという事前承認を受けていたが、９月29日夜のオンエアーを前にキャンセルになったという。事実関係を歪曲した内容である点が問題視されたとみられる。

　ディープフェイクは、虚偽報道や悪意のあるでっち上げを作成するために使用されることがある。日本でも今月、ポルノ動画に映った人物の顔を、AIを使って特定の芸能人の顔にすり替えた「ディープフェイクポルノ動画」を公開したとして、著作権法違反・名誉毀損の疑いでシステムエンジニアらが摘発されている。