「VIP優遇は利益優先で不公平だ」。フェイクブックやインスタグラムを運営するメタの違反コンテンツ管理に、同社の“最高裁”がそう指摘し、見直しを要求した――。

メタの違反コンテンツ管理を検証する諮問機関「監督委員会」は12月6日、そんな勧告意見書を公開した。

焦点となったのは、同社が違反コンテンツの管理をする際に、インフルエンサーなどの著名アカウントに免除の特別枠を設けていたとされる「クロスチェック」という仕組みだ。

メタは、コンテンツ管理における「誤判断」防止が目的、と主張するが、監督委員会はむしろビジネスパートナーを優遇するための「利益追求」の側面が強かったと指摘する。

ソーシャルメディアのコンテンツ管理をめぐっては、ツイッターCEOのイーロン・マスク氏がドナルド・トランプ前大統領の永久停止アカウントを復活させるなど、大きな注目が集まっている。

フェイスブックも来月6日までに、停止中のトランプ氏のアカウントの扱いを改めて判断することになる。

●「人権尊重」とは裏腹に

メタの監督委員会が12月6日に公開した勧告意見書は、「クロスチェック」の問題点として、違反コンテンツ削除の遅れについて、そう指摘している。

メタの「人権尊重」という主張とは裏腹に、実際には「ビジネスパートナー」を優遇した「利益追求」の仕組みだと述べている。

「クロスチェック」の問題は、ウォールストリート・ジャーナルが2021年9月、フェイスブックの元社員、フランシス・ホーゲン氏による内部文書の暴露「フェイスブック文書」のキャンペーンで、その詳細を明らかにした。

同紙が指摘したのは、違反コンテンツの審査システムで、政治家やインフルエンサーなどの著名アカウントの投稿に対して、一部が「ホワイトリスト」化され、規約違反の内容でも削除対象になっていない、という問題だ。

その特別枠は歯止めなく膨張し、2020年には580万人という規模にのぼっていたとしていた。

※参照：Facebookが抱えるコンテンツ削除のトラウマとは、著名人580万人「特別ルール」の裏側（09/15/2021　新聞紙学的）

監督委員会の意見書の中で、「クロスチェック」の特別枠には、メタが「ビジネスパートナー」と呼ぶ「医療機関、ニュースメディア、芸能人、ミュージシャン、アーティスト、クリエイター、慈善団体」が含まれ、大手企業、政党や選挙運動、インフルエンサーなども含まれる可能性が高いという。

そして、違反コンテンツの特別扱いの例として挙げるのが、ブラジルのサッカー選手、ネイマール氏の事例だ。

「フェイスブック文書」では、ネイマール氏が2019年、性的暴行を受けたとして同氏を告発していた女性のヌード画像を含む動画を、フェイスブックとインスタグラムに投稿した際、「リベンジポルノ」に該当する可能性がありながら1日以上削除せず、5,600万人のユーザーが目にし、6,000回以上共有された、としていた。

メタの説明によれば、このケースは明確なコンテンツ削除の対象だが、他の未処理案件が多かったために対処が遅れた、という。さらに通常の対応であれば、アカウントは停止となるという。だがネイマール氏のアカウントは停止されなかった。

同氏は、フェイスブックで8,900万人以上、インスタグラムで1億9,000万人以上のフォロワーを持つ。

そして監督委員会は、「フェイスブック文書」でこの問題が明らかになった2カ月後の2021年12月に、同社とネイマール氏が、フェイスブックにおけるゲーム実況配信の独占契約を結んだと指摘している。

つまり、著名人であり、同社のビジネスパートナーであるネイマール氏の扱いが、他の違反事例と著しく異なっている、ということだ。

●5日超も「放置」

委員会は、クロスチェックの問題点の一つとして「違反コンテンツの削除の遅延」を挙げる。その遅延の日数はグローバルで平均5日超、米国では平均12日にもなるという。その間、コンテンツは閲覧と拡散を続ける。

メタが主張する「クロスチェック」の目的は、違反コンテンツ削除における「誤判定」の防止だ。

監督委員会がこれまでに審査をし、同社の判断を撤回した中にも、ブラジルにおける乳がんキャンペーンでインスタグラムに投稿された写真に、女性の乳首が写っていたことから、成人のヌードの規定に違反するとして削除されたケースがあった。

※参照：Facebookの利用規定を書き直せ、と「最高裁」が言う（02/01/2021　新聞紙学的）

「クロスチェック」では、特別枠のアカウントの投稿が「違反コンテンツ」と認定された場合、削除などの措置を保留し、「早期対応二次審査(ERSR)」と呼ばれる通常とは別ルートの手続きに回すという。この手続きでは、削除の最終決定までに追加で4段階の審査手続きを経ることになるという。

「違反コンテンツの削除の遅延」の原因は、ここにある。

「早期対応二次審査(ERSR)」の対象が「ビジネスパートナー」などの著名アカウントなのに対して、2021年後半からは、一般アカウントを対象とした「一般二次審査(GSR)」も追加した。ただし、著名アカウントに比べて、その優先度は高くないという。

当初、ウォールストリート・ジャーナルはこの「クロスチェック」の仕組みを「ホワイトリスト」と呼んだ。だが、「クロスチェック」では、「違反コンテンツ」認定が維持されるケースもあるようだ。そして、自動的に違反コンテンツの免除を行っている仕組みは、これとは別に存在するという。

それが特定のアカウントの特定分野の投稿に対しての執行措置を免除する「テクニカルコレクション」と呼ばれる「ホワイトリスト」の仕組みだという。

「テクニカルコレクション」の詳細について、同社は明らかにしていないものの、1日あたり約1,000件の適用があるという。免除の分野としては「スパム／不正行為」「なりすまし」などを挙げているという。

すぐに思いつくのは、政府の情報機関などによる非公然活動のためのアカウントだ。

メタは、クロスチェックのリストも「ユーザーのプライバシー」を理由に開示していないという。

監督委員会は、クロスチェックの問題点について、一般ユーザーと比べて「不公平」であるとし、是正するよう勧告している。

メタは、勧告内容に対して、90日以内に検討し、対応するという。

●「ナパーム弾の少女」とアカウント復活

メタの「誤判断」防止の取り組みの一つのきっかけは、2016年にさかのぼる。

フェイスブックは2016年、ピュリツァー賞を受賞したベトナム戦争の報道写真「ナパーム弾の少女」を、誤って「児童ポルノ」として削除し、国際的な批判が殺到した。

この時には、この問題を写真とともに報じたノルウェー最大の新聞「アフテンポステン」や、その対応を批判した同国の首相のアーナ・ソールバルグ氏のフェイスブック投稿まで削除するという混乱ぶりだった。

※参照：フェイスブックがベトナム戦争の報道写真”ナパーム弾の少女”を次々削除…そして批判受け撤回（09/10/2016 新聞紙学的）

フェイスブックはこの批判を受ける形で2016年10月、「ニュース価値」があり、公共の利益にとって重要なコンテンツは、規則違反であっても削除しない、との方針を明らかにしている。

そして、この「ニュース価値」の範囲には、ドナルド・トランプ前米大統領ら政治家も含まれていた。

ところが、2021年1月の米連邦議会議事堂乱入事件をめぐるトランプ氏のアカウントの無期限停止をめぐって、監督委員会が判断基準の明確化を要求。その審議の過程で、「クロスチェック」という特別枠の存在が浮上していた。

※参照：Facebookがトランプ氏に「2年ルール」を適用し、政治家の特別扱いをやめたわけ（06/06/2021　新聞紙学的）

※参照：トランプ氏停止は支持、だがFacebookは無責任と「最高裁」が言う（05/06/2021　新聞紙学的）

当初は無期限とされていたトランプ氏のアカウント停止は、その後、当面2年間とし、その時点で改めて扱いを判断する、としている。

その期限は来月（2023年1月6日）だ。

ツイッターCEOのイーロン・マスク氏は11月19日、ツイッター上のユーザーアンケートによって、トランプ氏のアカウントをあっさりと復活させた。

※参照：680日ぶりのトランプ氏Twitter復活、広告主・社員の離反で「イーロン・リスク」の行方は？（11/20/2022　新聞紙学的）

メタはどうするのか。

（※2022年12月7日付「新聞紙学的」より加筆・修正のうえ転載）