「ディープフェイクス」の弱点をＡＩが見破り、そしてフェイクＡＩ「ディープヌード」が新たな騒動を呼ぶ

平和博

桜美林大学教授　ジャーナリスト

2019/6/28(金) 7:19

「ディープフェイクス」を見破る決め手はあるのか――。

米連邦議会で公聴会が開かれるなど、ＡＩを使ったフェイク動画「ディープフェイクス」への注目が集まる中で、その防止策、排除策に関する議論が各メディアで改めて取り上げられている。

※参照：「ディープフェイクス」に米議会動く、ハードルはテクノロジー加速と政治分断（06/22/2019）

映画などに転用できる「ディープフェイクス」生成のテクノロジー開発に比べて、資金の規模も限定されるという検出のテクノロジー開発。

だが、そんな中でも、ＡＩを活用して「ディープフェイクス」の弱点を突き、見破る手法の研究が続けられている。

人間の目ではわからない「ディープフェイクス」の不自然さも、ＡＩを使えば見分けることができる、という。

だが、フェイクのテクノロジーは派生を続け、着衣の女性の画像を全裸に変換する新種のＡＩアプリ「ディープヌード」も登場した。

その一方で、最先端のテクノロジー競争の構図にとらわれていると、問題の根本的な原因から目をそらすことになる、との指摘も出ている。

すなわち、テクノロジーが先端であろうがチープであろうが、騒動を引き起こすフェイクコンテンツこそ、ユーザーのエンゲージメントを最大化し、広告収入をもたらすという、ソーシャルメディアのビジネスそのものが抱える問題点だ、と。

●「弱点」を探す

ニューヨーク州立大学オルバニー校のルー・シウェイ（呂思偉）教授は６月２６日、ネットメディア「カンバセーション」に、最新の研究成果を紹介する投稿を寄せている。

ルー氏の研究チームは、国防総省国防高等研究計画局による研究プロジェクト「メディアフォレンジクス」などからの資金を得て、これまでにも「ディープフェイクス」検出のためのＡＩテクノロジーを開発してきた。

まずルー氏らが着目したのは「まばたき」だった。

通常は１分間で１７回程度行われるという「まばたき」が、”顔交換”の加工を行ったディープフェイクス動画にはうまく反映できていなかった。

このため研究チームは、ＡＩを使ってまぶたの開閉を判定する仕組みをつくり出し、ディープフェイクスの判定に活用したという。

※参照：ＡＩによる”フェイクポルノ”は選挙に影響を及ぼすか？（06/30/2018）

だが、ディープフェイクスの生成テクノロジーも進化し、「まばたき」も取り込むことができるようになった、という。

そこでルー氏らが取り組んだのは、より人間の目では気づきにくい、微細な不自然さの特定だ。

●顔の方向と鼻の方向

リアルな動画であれば、人物の頭が向いている方向と、顔が向いている方向は、当然ながら一致する。

だがディープフェイクスで作成された動画は、そのような立体的な整合性をとることが、うまくできていない、とルー氏は指摘する。

我々は画像の中で、鼻がどの方向を向いているかを計算するアルゴリズムをデザインした。このアルゴリズムは、顔の輪郭から頭が向いている方向も測定する。実在する人物のリアルな動画であれば、これらの結果は、すべて正確に一致するはずだ。だがディープフェイクスの場合は、しばしばそれらが一致しないのだ。

Siwei Lyu, CC BY-ND

「一人の人間が数十億人のデータや秘密をコントロールしている」。ザッカーバーグ氏がそんな発言をする話題のディープフェイクス動画にこのアルゴリズムを使ったところ、明確にフェイク判定をした、という。

※参照：フェイスブックはザッカーバーグ氏のフェイク動画を削除できない（06/12/2019）

ルー氏の研究チームはさらに、ディープフェイクスに顔画像を流用されることを防止するためのテクノロジーも開発した、という。

顔の写っている画像に、人間の目には見えないノイズデータを埋め込むことで、ＡＩがそれを人の顔だと認識できないようにすることができた、という。

ソーシャルメディアに顔の写った写真を投稿する際、このノイズデータを埋め込むことができるようにすれば、自分の顔がディープフェイクスに悪用されることを回避できる、とルー氏は述べている。

●「ディープヌード」の登場

テックメディア「マザーボード」は２７日、ディープフェイクスの新種ともいえるＡＩアプリ「ディープヌード」が登場したと報じている。

「マザーボード」はディープフェイクス問題を２０１７年に最初に取り上げ、問題を提起してきたメディアだ。

「マザーボード」によれば、「ディープヌード」は女性の画像のみに対応。ディープフェイクスと同様の敵対的生成ネットワーク（ＧＡＮ）を使い、衣服を着ていても、全裸の状態の画像に変換できるという。

無料版では変換後の画像にウォーターマークが入るが、５０ドルの有料版ではそれを消すことができるという。また、画像の左上には「フェイク」のラベルが表示されるが、画像加工ソフトで容易に消去できる、という。

ただ、「マザーボード」の報道を受けて「ディープヌード」にアクセスと批判が集中。運営者は同日、「ディープヌード」の公開を取りやめる、とツイッターで表明した。

●「ＡＩ対ＡＩ」の落とし穴

ディープフェイクスをめぐる「ＡＩ対ＡＩ」のテクノロジー軍拡競争はどこまでいくのか――。

そんな懸念に対して、ライターのオスカー・シュワルツ氏は、英ガーディアンの記事で、こう指摘する。

ディープフェイクスをテクノロジーの問題と位置付けることによって、シリコンバレー企業がフェイクニュースと共生関係にあることの責任を回避させてしまうのだ。

シュワルツ氏は、ディープフェイクスが「最先端のテクノロジーによる脅威」と語られる一方で、現実に拡散したコンテンツは必ずしもそうとは言えないと述べる。

その一例に挙げるのが、５月に拡散した「酩酊状態」のように見える民主党の下院議長、ナンシー・ペロシ氏の改変動画だ。

作成したのはニューヨーク・ブロンクス居住で、トランプ大統領を支持するスポーツブロガー、ショーン・ブルックス氏。再生速度を落とすなど、決して最先端とは言えない手法で加工された動画だったため、”チープフェイクス”とも呼ばれている。

このフェイク動画がこれだけ大規模に拡散した理由は、先端テクノロジーを使っていたからでも、ことさら目を引く映像だったからでもない。ソーシャルメディアのシニカルな体質そのものが原因なのだ。プラットフォームのビジネスが、エンゲージメントの時間を最大化し、広告収益をあげるモデルであるため、社会を分断する、ショッキングで、陰謀論めいたコンテンツが、ニュースフィードのトップに押し上げられるのだ。他のトロール（荒らし）と同様、ブルックス氏はこの力学を理解し、悪用することにたけていた、ということだ。

「ＡＩ対ＡＩ」の構図にとらわれていると、「シリコンバレーの巨大プラットフォームの根本的な問題」から目をそらされてしまい、２０２０年の米大統領選も２０１６年と同じことになってしまう、とシュワルツ氏は警告する。

すなわち、ソーシャルメディアのビジネスモデルそのものに切り込まない限り、ＡＩがあろうがなかろうが、フェイクニュース発信者は同じことを繰り返す、との指摘だ。