ニュース、選挙戦、観光誘致...ディープフェイクスが日常に入り込む

By JD Hancock (CC BY 2.0)

ニュース、選挙戦、観光誘致...ディープフェイクスは、すでに日常の風景に入り込んでいる――。

AIを使った改変動画、ディープフェイクス。ハリウッド女優らの画像を悪用したフェイクポルノ動画などとして広まり、そのリアルさから「フェイクとリアルの境目がわからなくなる」との問題が指摘されてきた。

一方で、同種のテクノロジーはすでに日常の様々な場面に入り込み始めている。

ロイター通信は7日、AIベンチャーと共同で、実在の人物の動画をもとにした「AIキャスター」が、スポーツニュースをコメントを交えて自在に伝えるプロトタイプを開発したと発表した。

これまでにも中国の新華社通信などが、CG動画による「AIアナウンサー」を公開しているが、ロイターのプロトタイプはいわば“実写版”で、本人がカメラに向かって話しているように見せるものだ。

インドで8日に投票が行われたデリー首都圏の議会選挙では、モディ首相の国政与党、インド人民党(BJP)の州代表が、州政権を担う庶民党(AAP)党首を批判する動画を、北部ハリヤナ州のハリヤナ語と英語の二つのバージョンで公開した

ただ、英語版は本人がしゃべっているが、ハリヤナ語版は別人がしゃべったものをAIテクノロジーで合成した「口パク」、つまりディープフェイクス動画だった。

同種のテクノロジーで多言語版の動画をつくる事例は日本国内にもある。

神奈川県藤沢市では20日、市長による観光誘致動画を、日本語を含む7カ国語版で制作したと発表している。日本語以外は、やはりAIをつかった「口パク」で、市長本人がしゃべったものではない。

このような「口パク」は、いわば洋画の日本語版のような「吹き替えのディープフェイクス版」ともいえる。

だが一方で懸念されるのは、AIを使って、本人がしゃべっていないことを、「しゃべったように見せる」ことができてしまうという点だ。

過熱する米大統領選では、「対立候補が問題発言」といったディープフェイクスのねつ造動画によって選挙が混乱するのでは、との懸念も指摘されている。

高度化するAIによるディープフェイクス動画は、「それが本物かどうかわからない」という点で、人々を不安にさせる。

●AIがつくりあげる「コピー」

ロイター通信が7日に発表したのは、ロンドンのAIベンチャー「シンセシア」と共同開発したシステムだ。

プロトタイプでは、ロイターの実在のスポーツエディターがキャスターとなり、サッカーのイングランド・プレミアリーグの試合結果をアナウンスする、という動画を作成したという。

ただこのキャスターは、スポーツエディターの動画素材をもとにAIが作り上げた、いわば「コピー」。

顔や声などは本物だが、ニュースの原稿を読み上げているのは本人ではなく、AIによるリアルな見た目の「コピー」なのだ。

この「コピー」がカメラに向かい、試合の画像を横に表示させて、試合展開のポイントやコメントを述べる。そして、読み上げ原稿も、試合結果のデータからAIが自動生成したもの。

AIがつくった原稿をAIキャスターが読む。だが、見た目も、声も、本物と同じ。

そして、そのプロセスには人の手が介在しない、という仕組みだ。

これが進化していけば、あらゆる地域やタイプのスポーツニュースを、実在のキャスターの「AIコピー」によって、すべて自動で行うことができてしまう。

●ベッカム氏が9カ国語動画

サッカーの元イングランド代表のデービッド・ベッカム氏が、英語のほか、スペイン語やアラビア語、ヒンディー語、中国語など9カ国語を使って、マラリア撲滅を訴える――。

そんな55秒の動画が、2019年4月に公開され、話題を呼んだ

この動画にも「シンセシア」が協力している。

このケースでは、各言語のパートを別人が読み上げ、それを「シンセシア」のAIテクノロジーを使ってベッカム氏の動画に合成している。

同社のAIテクノロジーではこのほかに2018年11月、BBCが実在のキャスターの映像をもとに、スペイン語、中国語、ヒンディー語などの多言語でアナウンスする動画を作成し、公開している事例がある。

これは、「リップシンク」と呼ばれ、ディープフェイクスのAIテクノロジーの一種。いわば、「口パク」をAIをつかって高度にしたものだ。

※参照:2030年、AIはフェイクニュースをどれだけ進化させるのか?(07/22/2017 新聞紙学的

●選挙戦とディープフェイクス

ロイターやBBCのケースはニュース、ベッカム氏のケースは啓発キャンペーンだった。

だが、これが選挙戦に使われた事例もある。

舞台となったのは、8日に投票が行われたインドのデリー首都圏の議会選挙だ。

米メディア「ヴァイス」によると、この選挙の投票前日、モディ首相の国政与党、インド人民党(BJP)の州代表、マノジ・ティワリ氏による44秒の動画が、フェイスブック傘下のメッセージアプリ「ワッツアップ」で拡散していた。

その内容は、州政権を担う庶民党(AAP)党首のアルビンド・ケジュリワル氏について「公約を破った」と批判し、「今こそデリーを変革するチャンスだ」などと有権者に訴えるものだった。

この動画では、ティワリ氏が北部ハリヤナ州のハリヤナ語と、英語で話している、二つのバージョンが公開されていた。

だがティワリ氏本人が実際に話したオリジナルの動画はヒンディー語。

ハリヤナ語版と英語版は、BJPのIT部門とインドの広告会社が共同で制作した、別人がしゃべったものをAIを使って合成した「口パク」だった。

ハリヤナ語は、デリーの出稼ぎ労働者が多く使う言葉で、対立する庶民党からの票の引きはがしが狙いだった。動画は、推定で1,500万人に届いた、という。

ハリヤナ語の反応を受けて、デリー都市部の有権者を狙った英語版も制作した、という。

ただ、12日に公表された選挙結果では、人民党は改選前の3議席から8議席へと5議席を増やしたが、なお州与党の庶民党が70議席のうち62議席を占める圧勝だった。

●観光誘致を呼びかける

神奈川・藤沢市は20日、都内のマーケティング会社と共同で、鈴木恒夫市長が日本語のほか英語やフランス語、中国語など7カ国語で、東京五輪などを含む観光誘致を呼びかける動画を制作した、と発表している

動画は5分半。これも、日本語以外は別人がしゃべった内容をAIで合成した「口パク」動画だ。

技術パートナーとして名前が出ているイスラエルのAIベンチャー「カニーAI」は、「口パク」のディープフェイクス動画で、様々な話題を呼んできた。

2019年4月には、トランプ大統領やプーチン大統領、習近平国家主席、安倍首相など、世界の首脳がジョン・レノンの「イマジン」をAIの「口パク」で歌う動画を公開。ネットで拡散した。

また同年6月には、英国のアーティスト、ビル・ポスターズ氏らが、同社の「口パク」のAIテクノロジーを使って、フェイスブックCEOのマーク・ザッカーバーグ氏のスピーチ動画を改ざん。

「ちょっと想像してみてほしい。一人の人間が数十億人の人々の盗まれたデータ、すべての秘密、その生活や未来を完全にコントロールしている、ということを」と、フェイスブックによるユーザーデータの収集を皮肉るようなセリフを、ザッカーバーグ氏自身が口にする内容にして、同社傘下のインスタグラムに公開している

※参照:フェイスブックはザッカーバーグ氏のフェイク動画を削除できない(06/12/2019 新聞紙学的

●本人がしゃべっていないこと

AIを使った改ざん動画としてのディープフェイクスをめぐっては、米国を中心に、激しい議論が続いてきた。

最大の懸念は、2020年の米大統領選でこのディープフェイクスが悪用され、選挙戦が混乱するのではないか、という危惧だ。

米バズフィードは2018年4月、オバマ前大統領が「トランプ大統領はまるっきりの能なし」などと話すディープフェイクス動画を作成し、このテクノロジーの危険性を指摘した。

これは、映画「ゲット・アウト」で2018年のアカデミー賞脚本賞も受賞した映画監督で、オバマ氏のモノマネをするコメディアンとしても知られるジョーダン・ピール氏が吹き替えを担当した「口パク」のディープフェイクス動画だった。

前回2016年の米大統領選では、フェイクニュースの氾濫が選挙戦を揺るがせた。人間の目では、容易には判別できないようなディープフェイクスが出回った場合の危険性については、専門家らから繰り返し指摘されてきた

そのシナリオは、政治家による問題発言から、海外からのミサイル攻撃やパンデミックといった、デマ発言が治安や安全保障上の混乱を引き起こすといった事態まで、様々なレベルが想定されてきた。

この問題は連邦議会でも取り上げられ、カリフォルニア州などは法規制にも乗り出している。

※参照:Facebookの「ディープフェイクス」対策の“抜け穴”に批判集中(01/09/2020 新聞紙学的

※参照「ディープフェイクス」に米議会動く、ハードルはテクノロジー加速と政治分断(06/22/2019 新聞紙学的

※参照:「フェイクAI」が民主主義を脅かす―米有力議員たちが声を上げる(08/04/2018 新聞紙学的

本人がしゃべっていないことを、AIでしゃべらせる。

それは本物かフェイクか。その境界線がどんどんと曖昧になっていけば、情報への「信頼」は、今以上に揺らいでしまう可能性もある。

前述のロイター通信の担当者、ニック・コーエン氏は、「AIコピー」のキャスター実用化について、フォーブスのインタビューにこう述べている

これを可能にするテクノロジーはすでにある。だが、現実にプロダクトとしてリリースする前に、倫理問題、さらに読者の理解に関する問題をすべて洗い出しておきたい。

倫理と社会の理解は、まず検討しておくべき問題だろう。

(※2020年2月20日付「新聞紙学的」より加筆・修正のうえ転載)