AIによる有害コンテンツ排除の難しさをフェイスブックCTOが涙目で語る

フェイスブックCTOのマイク・シュレーファー氏(写真:ロイター/アフロ)

有害コンテンツの対策が明日できるとは言えないが、半年後に同じ質問を受けたくはない――。

フェイスブックのAI開発のトップである最高技術責任者(CTO)のマイク・シュレーファー氏は、ニューヨーク・タイムズの取材に、涙目でそう答えた、という。

By Anthony Quintano (CC BY 2.0)
By Anthony Quintano (CC BY 2.0)

AIを使った、フェイクニュースやヘイトスピーチなどの有害コンテンツの排除は、批判の集中砲火にさらされるフェイスブックが掲げてきた対策の中心的な柱だ。

だが今年3月のニュージーランド・クライストチャーチの銃乱射事件では、容疑者によるフェイスブック上での動画のライブ配信を即座に排除することができなかった。

そのことを尋ねられた時、シュレーファー氏は涙を浮かべ、しばし声を詰まらせたのだという。

この銃乱射から2カ月となる今月15日には、フランスとニュージーランドが共同議長となり、ネット上のテロ関連のコンテンツ排除の徹底などをうたった「クライストチャーチ宣言」を採択。フェイスブックも支持を表明している。

その一方で大統領選を来年に控える米国では、トランプ政権が、シリコンバレー企業の有害コンテンツ排除を「保守言論弾圧」と批判のトーンを強めている。

技術的課題に加え、政治的課題も取り巻くこの問題は、行くも戻るも、という状況だ。

●涙を浮かべ、声を詰まらせる

我々はまさにこの問題に取り組んでいるところだ。明日までに対策ができるとは言えない。だが、半年後に再び同じ質問を受けたくはない。我々は今よりもはるかに効果的に、この問題に対処できるだろう。

クライストチャーチの銃乱射事件は、有害コンテンツ問題がAIでは太刀打ちできないことを示したのではないか――。

ニューヨーク・タイムズの記者がそう尋ねた時、シュレーファー氏は感情を表に出し、涙を浮かべ、しばし声を詰まらせた。そして、努めて平静を装いながら、こう答えたという。

3月15日にクライストチャーチの2カ所のモスクで起きた連続銃乱射事件では、合わせて51人の被害者が亡くなっている。

容疑者は犯行に際し、小型ボディカメラを使い、一部始終をフェイスブック上でライブ配信した。

フェイスブックが明らかにしたデータによれば、その動画のライブ配信中の視聴回数は200回以下。

17分に及んだライブ配信中にユーザーからの通報はなく、最初の通報は配信から12分後だった。

フェイスブックはオリジナル動画は削除したが、コピーが出回り、事件発生から24時間で150万件の動画を削除。うち120万件はアップロードの段階でブロックし、ユーザーの目には触れていない、という。

だが裏を返せば、銃乱射のライブ配信は、AIでは検知できず、30万件のコピー動画はユーザーの目に触れたのちに削除されたことになる。

●学習データになかった動画

AIの検知が成果をあげているコンテンツもある、という。

ヌード画像の場合、96%を自動削除。より判定が難しいヘイトスピーチの場合は、その割合は65%になる、という。

クライストチャーチの銃乱射動画をAIが検知できなかった理由として、シュレーファー氏は、それがボディカメラを使った「テレビゲームのような当事者の目線の動画」だったことをあげている。

フェイスブックが暴力的な動画としてAIに学習させたのは、人がネコを蹴る、イヌが人を襲う、自動車が歩行者をはねる、バットを持った人物が他人を襲う、といった様子を撮影したものだった。

そのどれ一つとして、今回の動画によく似たものはなかった。

動画の「目線」が異なるだけで、検知の射程からは外れてしまい、「直ちにフラグを立てることができなかった」とシュレーファー氏は述べている。

同氏はインタビューの中で、AIのみによる対策には限界があることも認めている、という。

私はいずれこの問題も決着をみるだろうとは考えている。ただ、すべてが解決できて、みんな荷物をまとめてこの件はおしまい、とはならないだろう。

そして、検証の過程でオリジナルの動画を数回にわたって視聴したといい、こうも述べているという。

(このような動画を)見ずに済むなら、それに越したことはない。

●米国抜きの有害コンテンツ排除宣言

今月15日、フランスのマクロン大統領とニュージーランドのアーダーン首相が共同議長となり、パリで行われた国際会議で、テロ、暴力的過激主義などのネット上の有害コンテンツ排除をうたった「クライストチャーチ宣言」が採択されている。

宣言文では、ソーシャルメディア企業側の役割として、有害コンテンツのアップロード、拡散を防止するための具体的な対策や、利用規約などにおける規制の強化などが掲げられている。

この宣言には、欧州委員会やフランス、ニュージーランドのほか日本、インド、インドネシアなど18の国・組織、またIT業界からも、フェイスブック、グーグル、アマゾン、マイクロソフト、ツイッターなど8社が支持を表明している。

フェイスブックはこの宣言に先立つ14日、ライブ配信の悪用に関する規制強化を打ち出してもいる。

ただ、この宣言について、シリコンバレーを抱える肝心の米国政府は「表現の自由」を理由として、賛同していない

そしてトランプ政権は、時を同じくして、やはり「表現の自由」を掲げて“反シリコンバレー”キャンペーンに乗り出している。

有害コンテンツ排除に傾斜するシリコンバレーのIT企業に対し、トランプ政権はこの動きを「保守派言論の弾圧」と位置づけ、「表現の自由を守れ」と主張しているのだ。

「クライストチャーチ宣言」が出された15日には、ホワイトハウスの公式ツイッターアカウントが、IT企業による「検閲」の体験談募集の呼びかけを行っている。

●行くも戻るも

銃乱射事件が起きたニュージーランド。そして、5月23日から26日にかけて5年に1度の欧州議会選挙が行われ、フェイクニュース対策が正念場のEU。

AIによる有害コンテンツ排除には、技術的な限界も伴いながら、国際的な推進のプレッシャーがかかる。

その一方、米大統領選を来年に控えた米国内では、トランプ政権による「シリコンバレーの保守言論弾圧」キャンペーンが勢いを増す。

行くも戻るも、だ。

(※2019年5月18日付「新聞紙学的」より加筆・修正のうえ転載)