Instagramにザッカーバーグ氏のフェイク動画、それでも削除できない理由

ビル・ポスター氏のインスタグラム投稿より

インスタグラムにマーク・ザッカーバーグ氏のフェイク動画が投稿された。だが、フェイスブックは、それを削除することはできない―

そんな事態が起きている。

「一人の人間が数十億人のデータや秘密をコントロールしている」。ザッカーバーグ氏がそんな発言をする動画が、インスタグラムに投稿されている。

数年前のスピーチ動画をAIを使って加工した「ディープフェイクス」などと呼ばれるフェイク動画だ。

フェイク動画については「ユーザーが判断することが重要」と表明し、米下院議長が「酔っ払っている」ように加工したフェイク動画を放置したとして批判を浴びたフェイスブック。

今回も、その姿勢を貫くことになるようだ。

●「数十億人をコントロール」

ちょっと想像してみてほしい:一人の人間が数十億人の人々の盗まれたデータ、すべての秘密、その生活や未来を完全にコントロールしている、ということを。

ビル・ポスター氏のインスタグラム投稿
ビル・ポスター氏のインスタグラム投稿

17秒のフェイク動画をつくったのは、ビル・ポスター氏とダニエル・ハウ氏というアーティスト。

英シェフィールドで開催されていた「シェフィールド国際ドキュメンタリー・フェスティバル」のインスタレーション作品「スペクター」の一つとして公開された。

使っているのは、イスラエルのAIベンチャー「カニー」。

これを「カニー」のAIを使ったテクノロジー「VDR(ビデオ・ダイアローグ・リプレースメント)」を使って、ザッカーバーグ氏が実際にはしゃべっていないことを、"口パク"でしゃべらせているのだ。

元になっているのは、2017年のCBSニュースの動画だ。

「カニー」は同じテクノロジーを使い、世界のトランプ大統領やプーチン大統領など、世界の首脳がジョン・レノンの「イマジン」を歌う動画を公開している。

●削除しないフェイスブック

だが、フェイスブックは今のところ、これを削除はしていない。

この問題を報じた米メディア「マザーボード」に対して、フェイスブックはこう回答している。

我々は、このコンテンツをインスタグラム上のすべての誤情報と同様に取り扱います。

そして、フェイスブックはまさにフェイク動画を削除しないことで大きな批判を浴びたばかりだった。

それが、民主党の米下院議長、ナンシー・ペロシ氏が酔っ払ったような口ぶりでしゃべるフェイク動画だ。

これは実際のスピーチ動画のスピードを遅くし、声のトーンを調整することで、酔っ払ったような印象を与えるように加工されたものだった。

ペロシ氏本人は、「フェイスブックは偽物だとわかっているのに表示し続けている」と批判していた

これに対しフェイスブック側は、「人々が情報に基づいて自ら判断をすることが重要だ」として、ファクトチェック機関によって「フェイク」と判定されたものは、動画の表示優先度を下げることで対応する、などと説明していた

そして、フェイスブックの公共政策ディレクター、ニール・ポッツ氏は、ザッカーバーグ氏のフェイク動画が投稿された場合も、同じ対応を取る、と表明していたようだ

●広がるディープフェイクス

AIのテクノロジーを使うことで動画を加工し、ある人物が実際には行っていないこと、しゃべっていないことをつくり出す「ディープフェイクス」が、2017年秋ごろから注目を集めている。

当初はポルノ動画にハリウッド女優らの顔を貼り付けるフェイク動画が拡散。さらにリベンジポルノとしても、使われるようになっていった。

またインドでは、政府批判を続ける女性ジャーナリストに対し、「ディープフェイクス」のフェイク動画による攻撃も行われていた。

※参照:AI対AIの行方:AIで氾濫させるフェイクポルノは、AIで排除できるのか(02/24/2018

※参照:AIによる”フェイクポルノ”は選挙に影響を及ぼすか?(06/30/2018

※参照:「フェイクAI」が民主主義を脅かす―米有力議員たちが声を上げる(08/04/2018

※参照:集団リンチ、ディープフェイクス―「武器化」するフェイクニュース(12/01/2018

「偽ザッカーバーグ」のフェイク動画が、AIを使ったフェイクコンテンツのインパクト考える手掛かりにもなりそうだ。

(※2019年6月12日付「新聞紙学的」より加筆・修正のうえ転載)