Facebookの「ディープフェイクス」対策の“抜け穴”に批判集中

By Anthony Quintano (CC By 2.0)

フェイスブックが「ディープフェイクス」排除に向けた対策を打ち出した翌日、米議会では、同社幹部が批判の矢面に立たされた――。

米大統領選の選挙戦が本番を迎える中で、大きな脅威として指摘されるのがAIを使ったフェイク動画「ディープフェイクス」の氾濫だ。

フェイスブックは7日、この「ディープフェイクス」排除の方針を表明した。

だがその翌日、米下院で開かれたフェイクニュース問題の公聴会では、このフェイスブックの対策に、議員から批判の声が上がった。

その対策に、大きな“抜け穴”があるためだ。

2016年米大統領選でのフェイクニュース問題めぐり、その拡散の責任を問われ続けるフェイスブック。

今回の大統領選では、決して同じ轍を踏みたくない同社だが、早くも議会やメディアからの批判の火の手が上がっている。

●「まったく不十分な対策」

巨大IT企業はディープフェイクスによる深刻な脅威に手をこまねいてきた。その証拠に、フェイクスブックが慌てて発表した新たな対策も、まったく不十分なものでしかない。

8日午前10時半に開かれた米下院エネルギー・商業委員会の消費者保護・商業小委員会の公聴会で、委員長のジャン・シャコウスキー氏は、証言に立ったフェイスブックの国際政策担当副社長、モニカ・ビッカート氏(民主)への批判の口火を切った

フェイクブックはその前日、7日にディープフェイクス排除の新たな方針を表明した。

この新方針では、下記の二つの基準のいずれにも当てはまる場合、「ディープフェイクス」として削除する、というものだ。

・編集や合成(明確化やクオリティのための調整のレベルを超えた)が行われており、それが一般人の目から見て明らかとは言えず、動画の人物が実際には話していない言葉を口にしているかのように誤認させる可能性がある。

・人工知能(AI)もしくは深層学習を含む機械学習(ディープフェイクスの技術など)によって、動画に別のコンテンツを合成、置換、挿入し、それが本物そっくりに見える。

新方針では、さらにこうも述べている。

この方針はパロディや風刺、あるいは動画の一部削除、発言の前後入れ替えといった編集には適用されない。

この基準こそが、シャコウスキー氏が「まったく不十分」とやり玉にあげるポイントだ。

●排除の“抜け穴”

この基準の何が問題なのか。

この基準に当てはまりそうな事例は、米バズフィードが作成したオバマ前大統領のフェイク動画や、イスラエルのベンチャーが作成したフェイスブックのマーク・ザッカーバーグCEOのフェイク動画だ。

ただし、特にオバマ氏のフェイク動画ははっきりと種明かしがされているため、「一般人の目から見て明らかとは言えず」に合致しない可能性はある。

だが、この基準からすっぽりと抜け落ちているのが、AIを使わないローテクな「チープフェイクス」「シャローフェイクス」と呼ばれるフェイク動画だ。

フェイク動画の政治的な影響が現実問題として注目を浴びたのは昨年5月、米下院議長、ナンシー・ペロシ氏が“酩酊”したように見えるフェイク動画がフェイスブック上などで拡散した騒動だった。

このフェイク動画は、同氏の実際のスピーチ動画をもとに、その再生速度を75%ほどに落とし、声のトーンを調整しただけの、シンプルな編集による改ざん動画だった。

AIを使って別の動画を合成するなどの改ざんは行われていないが、1週間ほどで630万回も視聴された。

フェイスブックはこのフェイク動画を削除しなかったとして批判を浴びた。

※参照:フェイスブックはザッカーバーグ氏のフェイク動画を削除できない(06/12/2019

さらに新年早々の1月1日には、今回の大統領選の民主党有力候補であるジョー・バイデン前副大統領の「チープフェイクス」がツイッター上で拡散する騒ぎもあった。

拡散したのは、15分近いバイデン氏のスピーチ動画から、わずか19秒分を抜き出し、“白人至上主義的発言”をしたかのように印象づけたフェイク動画だった。

このフェイク動画も公開から1日で160万回を超す視聴があった。

※参照:AIいらずのフェイク動画「チープフェイクス」の号砲で2020年の幕が開く(01/03/2020

●「チープフェイクス」は対象外

8日の公聴会で、委員長のシャコウスキー氏は、「ペロシ動画」はフェイスブックの新方針で削除の対象になるのか、と追及。

フェイスブックのビッカート氏はこう答えている。

その動画は新方針には該当しないでしょう。しかし、誤情報への対策を定めたその他の方針の対象にはなるでしょう。

つまり今回の新方針では、この「ペロシ動画」ような「チープフェイクス」「シャローフェイクス」は削除対象にはならないと明言している。

さらに下院議員のダレン・ソト氏(民主)は、新方針で「チープフェイクス」が削除対象にならないことに疑問の声をあげた。

「ペロシ動画」を削除するというだけのことを、なぜフェイスブックはやろうとしないのか。

これに対してビッカート氏はこう説明する。

私たちは、人々により多くの情報を届けるというアプローチを取っています。社会的な議論の的になるものに対して、人々がそれを評価し、その文脈を理解できるようにするためです。

そして、「ペロシ動画」は削除はしなかったが、「虚偽」とのラベルを表示した、と述べた。

だが、当のペロシ氏側は、このフェイスブックの対応には納得していないようだ。

今回の新方針について、ペロシ氏の広報担当ドリュー・ハミル氏は、ワシントン・ポストへの声明でこう述べている。

フェイスブックはこれが動画編集のテクノロジーの問題だと思わせようとしている。だが本当の問題は、フェイスブックが虚偽情報の拡散を止めようとしないことだ。

バイデン氏側も同様の評価だ。バイデン陣営の広報担当、ビル・ルッソ氏はやはりワシントン・ポストの取材に、こう述べている。

フェイスブックの方針は、このプラットフォームが虚偽情報の拡散に利用されているという問題の核心に取り組んでいない。虚偽情報がどのように作成されているかという、専門的な問題にこだわっているだけだ。

また、フェイスブックの新方針の“抜け穴”については、ニューヨーク・タイムズウォール・ストリート・ジャーナルヴァージなどのメディアも、一斉に批判的な論調で取り上げている。

ただ、フェイク動画の標的は民主党陣営が目立つこともあり、共和党にはこの問題への温度差もある。

8日の公聴会では、ラリー・ブション氏(共和)は、新方針の中の「一般人」とはどのように判断するのか、と疑問を投げかけた。

だが、キャシー・マクモリス・ロジャーズ氏(共和)は、フェイスブックの主張に理解を示した。

ディープフェイクスと虚偽情報は、イノベーションと、人々がより多くの情報を得ることで対処できる。人々が自分自身で最もよい判断ができるようになれば、政府に判断をゆだねるよりも、はるかに生産的な結果が得られる。

●2020年のプレッシャー

フェイスブックが2020年の大統領選を迎えて、保守・リベラル双方から大きなプレッシャーにさらされているのは間違いない。

ニューヨーク・タイムズは、フェイスブックのAR・VR担当副社長のアンドリュー・ボスワースが、年末に公開した社内メモの内容報じている。「2020年への考察」と題したメモの中でボスワース氏は、2016年の大統領選をめぐるメディアからのフェイスブック批判には的外れな点もある、としながらも、フェイスブックにも問題があった、と認めている。

これらの批判から私が学んだのは、データセキュリティ、誤情報、外国からの介入について、我々は後手に回っていた、ということだ。我々は世論の分極化やアルゴリズムの透明性といった問題に先手を打っていく必要がある。

フェイスブックはすでに2019年9月、マイクロソフトや大学などの研究機関とともに、ディープフェイクス検知のための技術開発プロジェクトを立ち上げ、1,000万ドル(約11億円)超の資金を投じることを明らかにしている。

だが、フェイスブックは同時に、今回の「チープフェイクス」除外だけでなく、政治家によるフェイスブック広告については、フェイクニュースが含まれていても、ファクトチェックは行わない、との規約変更をしていることも明らかになっている。

※参照:TwitterとFacebook、政治広告への真逆の対応が民主主義に及ぼす悪影響(11/01/2019

※参照:「ザッカーバーグがトランプ大統領再選支持」フェイスブックがフェイク広告を削除しない理由(10/16/2019

ニューヨーク・タイムズによると、AIを使った「ディープフェイクス」であれば、政治家による広告であっても、今回の新方針は適用されるようだ。

だが「ディープフェイクス」に比べて、作成のハードルもはるかに低く、「より広範な脅威」(ハーバード大学ケネディスクール・ディレクター、ジョーン・ドノバン氏)とされる「チープフェイクス」「シャローフェイクス」は、置き去りにされたままだ。

(※2020年1月9日付「新聞紙学的」より加筆・修正のうえ転載)