フェイスブックのアルゴリズムを「世の中に悪い」コンテンツを抑制するように調整すると、ユーザーのアクセス回数は減少していった――。

フェイスブックの社内研究で、そんな皮肉な結果が出た、とニューヨーク・タイムズが報じている。

米大統領選をめぐっては、フェイクニュースの氾濫による不測の事態を避けるため、フェイスブック、ツイッターなどのソーシャルメディアは、拡散抑制のための“臨戦態勢”を取った。

ただ、その取り組みと効果には濃淡もあったようだ。ツイッターでの拡散は20％減少したというが、バズフィードによれば、フェイスブックでは8％減にとどまったという。

フェイスブックでは、事前の検証を受けて、分断につながるような好ましくない（世の中に悪い）コンテンツの抑制を、アクセスの減少に至らない程度にとどめた――ニューヨーク・タイムズは内部文書をもとにそう指摘する。

「世の中に悪い」コンテンツがビジネスを支える。

そんなフェイスブックの側面に光が当てられている。

●「世の中に悪いこと」の効果

11月24日付のニューヨーク・タイムズは、フェイスブックの社内チームが同月まとめた「P（世の中に悪いこと）」と呼ばれる検証プロジェクトの内部文書について、そう報じている。

「世の中にとって良い」内容の投稿と「世の中にとって悪い」内容の投稿の表示が、ユーザーにどのような反応をもたらすか。社内検証では影響を調べたという。「セッション」とは、ユーザーがフェイスブックを開く回数を意味する社内指標。

すると、ユーザーに多く見られたのは「世の中に悪い」内容の方だったという。さらにAIのアルゴリズムを調整することで、「世の中に悪い」投稿の表示優先度を下げることはできたが、経営幹部が重視する「セッション」も減少してしまったのだという。

そこで、フェイスブックの検証チームは、「世の中に悪い」投稿の優先度をさほど下げないアルゴリズム調整にとどめたところ、ユーザーの「セッション」や滞在時間に減少は見られなかった、という。

結局、フェイスブックは大統領選に際して、この「世の中に悪い」投稿をさほど抑制しない改修を実装した、とニューヨーク・タイムズは報じている。

ただその一方で、米大統領選の数日後、ニュースコンテンツのクオリティを指標化した「ニュース・エコシステム・クオリティ（NEQ）」と呼ばれる、通常はあまり重視されない指標の重みを増す調整も行ったという。

その結果、CNN、ニューヨーク・タイムズ、NPRなどの主流メディアの表示優先度が上がり、ブライトバート・ニュースやオキュパイ・デモクラッツといった左右の党派的サイトの表示度は低下した、という。

●拡散抑制の効果

11月3日の米大統領選投開票日前後、フェイスブック、ツイッターとも、投開票の「不正」を主張するトランプ氏らの投稿に警告ラベルなどを表示。ユーザーをそれぞれの選挙特設サイトに誘導するなどの対策を取った。

※参照：FacebookとTwitterがSNSをあえて「遅く」する（11/08/2020　新聞紙学的）

だが、その取り組みには、濃淡もあった。

ツイッターは投開票日から9日後の11月12日、公式ブログで大統領選への取り組みを総括している。

それによると、投開票日をはさんだ10月27日から11月11日までの15日間で約30万件（大統領選関連の0.2％）にラベルを表示。うち456件では警告ラベルとともにいったん非表示とし、表示後も引用ツイートのみが可能で、リツイート、リプライ、「いいね」はできないよう制限をした。

また、ツイートを拡散しようとすると、ユーザーのコメントを付けた引用リツイートを促し、リツイートのための操作の手数が増えるように仕様も変更。これにより、リツイート数は23％減少する一方、引用リツイートは26％上昇し、合わせて20％の減少になったという。

ツイッターではさらに、これらのラベルで非表示としたツイートについては、同社の検索機能の表示対象からも除外する「非インデックス化」の対応もしていたようだ。

スタンフォード大、ワシントン大などによる選挙のフェイクニュース監視プロジェクト「エレクション・インテグリティ・パートナーシップ」の調査によると、1分間に827回の拡散があったツイートが、警告ラベルによっていったん非表示化したところ151回に急減したとしている。

これに対して、フェイスブックでは拡散抑制がかなり限定的だった、とバズフィードが伝えている。

11月16日付の記事によると、フェイスブックの社内掲示板の議論で、データサイエンティストがそんな状況を明かしているという。

フェイスブックもトランプ氏による「不正」を主張する投稿に対して、警告ラベルは掲げている。

だが、警告ラベルで投稿をいったん非表示にしたり、共有や「いいね」を制限する、といった拡散抑制への踏み込んだ対応は取っていない。

コンテンツ管理をめぐるフェイスブックの消極姿勢とツイッターの踏み込んだ姿勢の温度差は、米大統領選の投開票本番をめぐっても変わらなかった、ということになる。

※参照：SNS対権力：フェイスブックとツイッターの判断はなぜ分かれるのか？（06/04/2020　新聞紙学的）

それどころか、アルゴリズムを「世の中に悪い」方に倒したまま、大統領選投開票を迎えたことになる。

●フェイクニュースの行方を追う

フェイスブックもツイッターも、濃淡はあれ、デマや陰謀論を含む氾濫を「減速」する“臨戦態勢”を取った。

では選挙後の揺り戻しはあるのか。

ツイッターはリツイートに引用ツイートを促す「減速」措置を当面継続する、としている。

だが、フェイスブックのコンテンツ管理を統括する副社長、ガイ・ローゼン氏は会見で、「永続するプランなどあったためしがない」とし、修正は常に暫定的だと述べたという。

ニューヨーク・タイムズが紹介するお蔵入りになったフェイスブックの大統領選対策の中に、「コレクト・ザ・レコード」というプランがある。

フェイクニュースの拡散経路をたどり、それにリアクションをしたユーザーに通知を表示。ファクトチェック結果に誘導する、という仕組みだ。

すでに新型コロナの誤情報を共有したユーザーには通知を表示する、という形での運用がされており、これを他のタイプの誤情報にも拡大する、というアイディアだ。

だが、関係者によると、右派サイトからの誤情報を共有したユーザーに通知が偏ってしまうことを恐れた幹部によって退けられたのだという。だが副社長のローゼン氏は、「コレクト・ザ・レコード」は期待したほどの効果はなかった、としている。

情報の真偽を検証するファクトチェックが、フェイクニュースを目にしたユーザーに届かない、という課題はかねてから指摘されてきた。

一方で、フェイクニュースがどのように広がり、どのユーザーがどのようなリアクションを取ったか。その一つひとつの詳細なデータを持っているのは、フェイスブックでありツイッターだ。

フェイスブックはさらにそのデータを、傘下のソーシャルメディア分析サービス「クラウドタングル」を通じて一般ユーザーにも公開している。

そして、同じような取り組みは、フェイスブックの外側でもすでに動き始めている。

アリゾナ州立大学ジャーナリズムスクール教授のダン・ギルモア氏が主導するプロジェクト「ニュース・コ/ラボ」では、クレイグ・ニューマーク慈善財団からの助成金を得て、誤情報の拡散をたどって訂正を通知するアプリ「コレックス」のプロトタイプを開発。

米国のマクラッチ―傘下のカンザスシティ・スターと、ウルグアイのエルパイスという二つの新聞社で、ソーシャルメディア上で拡散した誤報をたどって訂正を通知するためのツールとして、実証実験を行っている。

●「世の中に良い」方に倒す

手元の膨大なデータやアルゴリズムを「世の中に良い」方に倒す。

そのために、ソーシャルメディアが情報拡散の「減速」に加えてやるべきことは、まだあるだろう。

（※2020年11月26日付「新聞紙学的」より加筆・修正のうえ転載）