Facebookが抱えるコンテンツ削除のトラウマとは、著名人580万人「特別ルール」の裏側
フェイスブックには580万人もの著名人の「特別枠」があり、投稿コンテンツの審査も別扱いになっている。そこには、フェイスブックが抱えるコンテンツ削除のトラウマがあった――。
米ウォールストリート・ジャーナルが9月13日、フェイスブックの内部文書をもとに報じたスクープが注目を集めている。
問題となっているのは、「クロスチェック」とよばれるコンテンツの特別審査システムで、政治家やインフルエンサーなどの著名アカウントの投稿に対して、一部が「ホワイト（優先）リスト化」され、規約違反の内容でも削除対象になっていない、としている。
いわば著名人の投稿だけに適用される規約のダブルスタンダード（二重基準）だ。
このような、コンテンツ審査における特別扱いは、特に政治家をめぐって問題視され、フェイスブックの独立諮問機関である「監督委員会」からも是正を求められていた。
その「特別枠」は歯止めなく膨張し、580万人という規模にのぼっていたという。
内部監査では、これらは「背信行為」であり、「社会的に正当化できない」と指摘されていたという。
フェイスブックは5年前、報道写真を「児童ポルノ」だとして誤って削除し、国際的な批判を浴びたトラウマがある。
さらに、「特別枠」の1人、ドナルド・トランプ前米大統領の連邦議会議事堂乱入事件を巡るアカウント停止もまた、国際的な議論を呼んだ。
コンテンツ管理で迷走する巨大プラットフォームの、社内の雰囲気がうかがえるスクープだ。
●580万人の「ホワイトリスト化」
この（ホワイトリスト化を巡る）問題は蔓延しており、社内のほぼすべての分野に影響している。
ウォールストリート・ジャーナルの9月13日で、同社記者のジェフ・ホロウィッツ氏は、フェイスブック2019年の社内監査文書がそう述べている、と指摘する。
さらに社内文書は、こう結論づけている。
（ホワイトリスト化は）フェイスブックにとっての法律、コンプライアンス、そして正当性についての数多くのリスクをもたらし、フェイスブックのコミュニティに悪影響を及ぼす。
ここで「ホワイトリスト化」として問題になっているのが、「クロスチェック」と呼ばれるフェイスブックのコンテンツ審査の特別枠だ。
これについて内部文書は、「やると公言したことを実際には行っていない」「信頼を裏切る行為」「社会的に正当化できない」などと指摘し、その結果、「これらの人々は、他のユーザーとは違って、何ら制裁も受けずに、当社の規則を破ることができる」としている。
この「ホワイトリスト化」が拡大していった結果、2020年には、その数が580万人にまで膨れ上がった、という。
●「クロスチェック」の由来
フェイスブックが規則違反の疑いがあるコンテンツ審査に、「クロスチェック」という特別枠を導入していることが注目を集めたのは2018年。
英公共放送「チャンネル4」の調査報道番組「ディスパッチズ」が2018年7月、フェイスブックからコンテンツ管理の外部委託を受けている英国企業に潜入取材し、その実態を明らかにした。
この「ホワイトリスト」は、当初は「シールディッド・レビュー（遮蔽審査）」と呼ばれており、多くのフォロワーがいる極右グループのフェイスブックページが、規則違反のコンテンツ投稿を繰り返しても、担当者レベルでは削除できず、フェイスブック本体で扱うことになっていた、という。
そして、「シールディッド・レビュー」は後に「クロスチェック」と名前を変えたのだと、「ディスパッチズ」は報じている。
この報道を受けて、フェイスブック副社長のモニカ・ベッカート氏が公式ブログで、「クロスチェック」の仕組みを説明している。
ベッカート氏は、規則違反であれば、誰が投稿したかに関係なくコンテンツは削除し、特別な保護はない、とした上で、こう述べる。
「ディスパッチズ」が取り上げていた仕組み「クロスチェック」は、特定のページや人物が投稿したコンテンツについては、当社が規則を正しく適用できていることを確認するための第２段階の審査を設けている、ということにすぎない。
その対象として、メディアやセレブリティ、政府機関などを挙げている。誤って削除した場合の影響を考慮して、念入りに確認している、との主張のようだ。
そして、ベッカート氏は「これは通常、フェイスブック上の著名で多くのアクセスがあるページやコンテンツに適用されるものなので、これによって、誤って削除されたり、放置されたりすることはない」としている。
だが、ウォールストリート・ジャーナルのホロウィッツ氏の記事によれば、実態は必ずしもそうではなかったようだ。
フェイスブックの内部文書は、2019年にブラジルのサッカー選手、ネイマール氏が、同氏から性的暴行を受けたとして告発していた女性のヌード写真をフェイスブックとインスタグラムに投稿した際、「リベンジポルノ」に該当する可能性のあるこのコンテンツを即座には削除せず、5,600万人のユーザーが目にし、6,000回以上共有された、としている。
同社CEOのマーク・ザッカーバーグ氏が従業員とのQ＆Aを配信していたライブストリーミングが、同社のアルゴリズムによって「誤情報」と分類され、停止されていた、という事例も記載されていたという。
このようなフェイスブックのコンテンツ管理を巡る迷走には、トラウマとなる出来事があった。
●ピュリツァー賞の写真を削除する
フェイスブックは2016年、ピュリツァー賞を受賞したベトナム戦争の報道写真「ナパーム弾の少女」を、誤って「児童ポルノ」として削除し、国際的な批判が殺到した。
この時には、この問題を写真とともに報じたノルウェー最大の新聞「アフテンポステン」や、その対応を批判した同国の首相のアーナ・ソールバルグ氏のフェイスブック投稿まで削除するという混乱ぶりだった。
※参照：フェイスブックがベトナム戦争の報道写真”ナパーム弾の少女”を次々削除…そして批判受け撤回（09/10/2016 新聞紙学的）
フェイスブックはこの批判を受ける形で2016年10月、「ニュース価値」があり、公共の利益にとって重要なコンテンツは、規則違反であっても削除しない、との方針を明らかにする。
ホロウィッツ氏によれば、「クロスチェック」では「PR火災」を最小限に抑えることに主眼が置かれたという。
「PR火災」とは内部文書の表現で、著名人の投稿への間違った削除によって、否定的なメディア報道を引き起こすことを指しているという。
つまり「ナパーム弾の少女」のトラウマだ。「クロスチェック」は、このトラウマの延長線上にある。
この「ニュース価値」の範囲には、ドナルド・トランプ前米大統領ら政治家も含まれている。
フェイスブック副社長のニック・クレッグ氏は、米大統領選の前年にあたる2019年9月のスピーチで、政治家の例外扱いを明言している。
我々は政治家によるスピーチをファクトチェッカーに送ることはない。そして通常なら我々のコンテンツルールに違反する内容であったとしても、フェイスブックへの掲載は容認している。
※参照：「ザッカーバーグがトランプ大統領再選支持」フェイスブックがフェイク広告を削除しない理由（10/16/2019 新聞紙学的）
さらにザッカーバーグ氏自身も、翌月に米ジョージタウン大学で行ったスピーチで、こう述べている。
民主主義において、私企業が政治家やニュースの検閲をすべきではないと思う。
ザッカーバーグ氏はまた、「真実の裁定者にはならない」とも繰り返し述べており、特に政治的コンテンツ管理に消極的な姿勢を、2020年米大統領選に向けて鮮明にしていった。
だがフェイスブックが委託し、2020年7月にまとめられた人権に関する外部監査報告書では、フェイスブックのこのようなコンテンツの例外扱いが、ヘイトスピーチを増幅し、人権への脅威につながった、と指摘している。
※参照：「ヘイト増幅を許した」Facebookはどこで間違えたのか？（07/12/2020 新聞紙学的）
その行き着いた先が、大統領選後の2021年1月6日に起きた空前の米連邦議会議事堂乱入事件であり、この事件を巡るトランプ氏のアカウント停止措置だった。
●監督委員会からの指摘
「クロスチェック」については、フェイスブックが設立した独立諮問委員会「監督委員会」も、その是正を求めていた。
連邦議会議事堂乱入事件を巡るトランプ氏のアカウント停止について、フェイスブックは当初、無期限としていた。
この判断についてフェイスブックから諮問を受けた監督委員会は5月、アカウント停止自体は支持しながら、無期限としている点は「中途半端で基準のない処罰」であり不適切だと答申する。
また監督委員会は、政治家を他のインフルエンサーなどと区別することは「有益とはいえない」とも指摘。これまでの政治家の特別扱いを見直すよう求めていた。
※参照：トランプ氏停止は支持、だがFacebookは無責任と「最高裁」が言う（05/06/2021 新聞紙学的）
監督委員会はこの際に、トランプ氏ら政治家らを特別扱いしてきた「クロスチェック」の問題点も指摘している。
Facebookは委員会に対し、「政治的指導者が投稿したコンテンツに対して基準が甘くなる通則が同社にあったことは一度もない」と述べています。同一の通則が適用されるものの、「クロスチェック」体制があるということは、「著名人」である一部利用者に対しては意思決定プロセスが異なっていることになります。
さらに、「公開情報が限定的」であるとした上で、こう述べている。
これらの意思決定プロセスに関する透明性の欠如は、Facebookが政治的または商業的な考慮事項に過度に影響されているかもしれないと認識される一因となっているように思われます。
つまり、「クロスチェック」には透明性がなく、フェイスブックが政治家らへ特別な配慮をしていると受け取られても仕方がない、と指摘しているのだ。
その上で、監督委員会はこう勧告している。
クロスチェックによる審査については、Facebookは審査の根拠、基準、およびプロセスについて、どのページやアカウントを対象に含めるか決める際の基準を含め、明確に説明する必要があります。また、通常の執行手順の場合と比較した、クロスチェックを通じて行われた判断の相対的な過誤率および主題の一貫性を報告すべきです。
これに対してフェイスブックは6月、トランプ氏のアカウント停止を2年の有期とする、と回答したのに合わせて、「クロスチェック」の勧告についても、対応の可否を示している。
フェイスブックの公式ブログで、担当副社長のニック・クレッグ氏はこう述べている。
コンテンツのニュース価値を評価する場合、今後は、政治家が投稿したコンテンツについて、他のユーザーが投稿したコンテンツと区別して扱うことはない。
政治家の投稿の特別扱いは、フェイスブックへの批判が集中した火種だった。これは、そこからの大きな方針転換になる。
※参照：Facebookがトランプ氏に「2年ルール」を適用し、政治家の特別扱いをやめたわけ（06/06/2021 新聞紙学的）
この中で、監督委員会が「クロスチェック」の明確な説明を求めたことについては、2018年の公式ブログへの投稿に加えて、フェイスブックの「透明性センター」のページに新たに「クロスチェック」と「ニュース価値」についての説明を加えた、としている。
このうち「ニュース価値」の説明文で取り上げているのが、「ナパーム弾の少女」削除を巡る騒動だ（※フェイスブックの日本語ページでは「ニュース価値のあるコンテンツ（newsworthy content）」について、「他の人に知らせる価値のあるコンテンツ」という表現を使っている）。
ただ、監督委員会が求めた「クロスチェックを通じて行われた判断の相対的な過誤率」については、「この情報を追跡することは不可能だ」と回答している。
●フェイスブックの反論
ウォールストリート・ジャーナルの記事については、フェイスブックの広報担当、アンディ・ストーン氏がツイッターへの連続投稿で反応している。
ストーン氏は、「クロスチェック」が秘密のシステムではなく「フェイスブックが2018年に説明していたことだ」とし、ウォールストリート・ジャーナルが取り上げた内部文書の指摘については、「社内で取り組みを進めている」と述べている。
2018年の公式ブログの説明では、「誤って削除されたり、放置されたりすることはない」としていた。
だが今回明らかにされた内部文書が示す580万人という規模は、「ホワイトリスト化」に歯止めがかかっていないことを示すのに、十分な数字だ。
さらに、ネイマール氏やザッカーバーグ氏の事例などを見ると、「誤って削除されたり、放置されたりすることはない」という説明にも疑問符がつく。
ピュリツァー賞受賞の報道写真「ナパーム弾の少女」の削除騒動を踏まえ、コンテンツの「ニュース価値」を加味するプロセスを設けたことは必要な取り組みだっただろう。
だが、それが「PR炎上」回避のツールとして歯止めなく膨張していた、という実態がうかがえる。
フェイスブックのストーン氏も、連続ツイートの中で、「当社の対応が不十分であり、スピードと正確さのトレードオフがあることは承知している」と述べている。
それが今後、どのように修正されるのか、注視したい。
（※2021年9月15日付「新聞紙学的」より加筆・修正のうえ転載）
