フェイクニュースを自動で「おすすめ」月間 1億人が見せられる
フェイスブックで月間1.4億人のユーザーがフェイクニュースを閲覧、その75％の1億人はフォロー先ではないページからのフェイクニュースをおすすめ機能によって表示されていた――。
MITテクノロジーレビューがフェイスブックの内部文書をもとに、そんな実態を明らかにしている。
内部文書は米大統領選の前年までのデータを分析。「トロール（荒らし）工場」と呼ばれるフェイクニュースの発信元からの投稿を、フォローもしていない膨大なユーザーに対して、アルゴリズムが自動的に拡散していたという。
フェイクニュースなどの低品質なコンテンツでも、いったん「いいね」や共有、コメントなどのエンゲージメントが集まれば、アルゴリズムが優先表示することで、さらにエンゲージメントが増幅され、高品質なコンテンツを駆逐する――そんな負のスパイラルが起きている、と専門家は指摘する。
エンゲージメントによるランキングの危険性は、フェイスブックの内部告発者による米上院公聴会の証言でも指摘された問題だ。
フェイクアカウントやフェイクニュースを個別に削除していく「モグラたたき」の対策から、エンゲージメント依存のアルゴリズムの見直しへ。
根本的な対策を求める声が上がっている。
●75％はフォローしていなかった
「トロール工場」の閲覧数を合算すると、フェイスブックで最大のページとなり、2位に40％の差をつけている。月間では1億4,000万人の米国ユーザーに閲覧されている。閲覧数の75％は“ダイレクト”な閲覧ではなかった。つまり、大半のユーザーは、「トロール工場」のページをフォローもしていないのにコンテンツを閲覧しているのだ。
MITテクノロジーレビューのカレン・ハオ氏が9月16日付の記事で取り上げたフェイスブックの内部文書は、そう指摘している。
「ユーザーコミュニティは我々のプラットフォームでいかに利用されているか：“トロール工場”ページの最終分析」と題する2019年10月4日付、20ページの内部文書をまとめたのは、同社のデータサイエンティストで、その直後に辞職しているという。
上述の「2位に40％の差」とは、月間閲覧数が1億人の米スーパー大手、ウォルマートのフェイスブックページのことを指している。
そして、これらの「トロール工場」はバルカン半島を拠点に、主に米国を標的としながら、中南米、英国、オーストラリア、インドにも照準を合わせており、コンテンツはグローバルには1週間で3億6,000万人に閲覧されていたという。
ユーザーの閲覧の75％は“ダイレクト”ではなかった、という点が重要だ。つまり、（フェイクニュースが）ユーザーに届いた理由の大半は、ユーザー自身の選択ではなく、我々のプラットフォームの構造とランキングのアルゴリズムが原因、ということだ。
1億4,000万人のうちの75％、つまり1億人のユーザーは、発信元のフェイスブックページをフォローもしていないのに、フェイクニュースを見せられていた。なぜそんなことが起きるのか。
これは、フェイスブックの「おすすめ」機能によるものだ。フェイスブックには、ユーザーの閲覧履歴などを基に、まだフォローしていないページやグループが配信する関心のありそうなコンテンツを、アルゴリズムが自動的に判定し、表示する機能がある。
「利用者がフェイスブックで新しいものを発見できるように」というこの機能が、「トロール工場」からのフェイクニュースをユーザーが「発見」する機会もつくりだしていた。
●「キリスト教徒」「アフリカ系」を標的に
これは正常なことではなく、健全でもない。怪しげな一団が、目的も不明なままに膨大なフォロワーを集めていく、その後押しをしたのだ。大半はフォロワーを使って手早く金儲けをするつもりだろう。だが、IRAと接触していた形跡もある。IRAとつながっている可能性のある一団が、IRAが標的としたのと同じ属性グループから膨大なアクセスを獲得しているという事実は、2020年の米大統領選に非常に大きなリスクとなる。
内部文書が指摘する「IRA」とは、2016年米大統領選に対するロシアからの介入疑惑の中で、フェイクニュース拡散を手がけたとされるサンクトペテルブルクの企業「インターネット・リサーチ・エージェンシー（IRA）」のことを指す。「トロール工場」の代表的な存在として知られる。
※参照：米社会分断に狙い、ロシア製3,500件のフェイスブック広告からわかること（05/14/2018 新聞紙学的）
※参照：ロシアの「フェイクニュース工場」は米大統領選にどう介入したのか（02/18/2018 新聞紙学的）
またロシア介入疑惑と平行して、マケドニアなど東欧の若者たちが、手軽な収入源としてフェイクニュースサイトを運営していたことも米バズフィードなどの報道で明らかになっている。ただ、「インターネット・リサーチ・エージェンシー」と東欧のフェイクニュースサイトの直接のつながりを示す事実は、判明していない。
2016年米大統領選へのロシア介入疑惑を巡っては、フェイスブックなどから連邦議会に提出された資料によって、「インターネット・リサーチ・エージェンシー」が「アフリカ系」「キリスト教徒」など議論の焦点となる属性グループに的を絞り、ターゲティング広告を大量に掲載していたことが明らかになっている。
今回のフェイスブックの内部文書でも、同様の傾向が見られたという。
2019年10月時点で、「キリスト教徒の米国人」向けフェイスブックページのトップ20のうち、19を「トロール工場」のページが占め、月間7,500万人の米国ユーザーが閲覧。その95％が発信元のページをフォローしていない、「おすすめ」による閲覧だった。
また、「アフリカ系米国人」向けのページでも、トップ15のうち10を「トロール工場」が占め、月間3,000万人の米国ユーザーが閲覧。このうち85％が非フォローの「おすすめ」による閲覧だった。
内部文書は、この問題への対策として、コンテンツの品質に注目する。「トロール工場」のコンテンツは、ほとんどがすでに多くのエンゲージメントを獲得している他サイトのコンテンツを盗用（コピー＆ペースト）して掲載し、新たなアクセスとエンゲージメントを稼いでいたという。
内部文書では、グーグル検索のアルゴリズム「ページランク」における、信頼度の高いページからのリンクを評価するという考え方を紹介。「トロール工場」の場合、そのような信頼度の高いページとのつながりはないとして、少なくとも「トロール工場」の排除に効果が期待できるのではないか、と述べている。
●エンゲージメントによるアルゴリズムの弊害
我々の調査によると、実質的にすべてのウェブテクノロジーのプラットフォームは、ソーシャルメディアであろうとニュースのおすすめシステムであろうと、強い人気バイアスがある。アプリケーションが、検索エンジンにおける検索要求のような直接的な対応ではなく、エンゲージメントのようなデータで駆動される場合、人気バイアスは意図しない有害な結果をもたらす可能性がある。
インディアナ大学教授でソーシャルメディア観測所所長を務めるフィリッポ・メンツァー氏は、9月20日にオピニオンサイト「カンバセーション」に掲載した記事で、MITテクノロジーレビューのハオ氏の記事を紹介しながら、エンゲージメント駆動型のアルゴリズムの問題点について、こう指摘している。
「人気バイアス（偏り）」とは、いったん人気の出たコンテンツに注目が集まり、さらに雪だるま式に人気を獲得していく状況を指す。
だがメンツァー氏の研究によると、この「人気バイアス」がコンテンツ全体の品質を低下させる可能性があることが明らかになっている、という。低品質のコンテンツでも一定のエンゲージメントを獲得することでおすすめ機能などで増幅され、悪貨が良貨を駆逐するような状況が発生するようだ。
メンツァー氏らの研究チームが2020年7月に発表した実験結果によると、信頼度の低いサイトのコンテンツでも「いいね」や共有などのエンゲージメントが高い場合には、さらに「いいね」などの割合が上がることが明らかになったという
※参照：「いいね」が多いとついデマでも拡散してしまう、それはなぜ？（08/10/2020 新聞紙学的）
このようなエンゲージメント駆動型のアルゴリズムの弊害は、フェイスブックの問題点を内部資料に基づいて告発した元プロダクトマネージャー、フランシス・ホーゲン氏も指摘している。
その結果として、社会の分断と「怒り」を増幅させる極端なコンテンツの増幅を招いたことが、暴露された同社の内部文書でも示されていた。
※参照：Facebookが「社会を悪くする」のを止めるために必要な、これだけのこと（10/08/2021 新聞紙学的）
メンツァー氏は、プラットフォームがフェイクアカウントや有害な誤情報の削除に取り組む現在の対策は、「モグラたたき」のようなものだと述べる。
そして、自動化プログラムによるエンゲージメントの量産に対しては、「キャプチャ」のような人とプログラムの判別テストを組み込むことで防止するなど、情報の拡散を「減速」させる取り組みが必要だと提言。
アルゴリズムにおけるエンゲージメントへの依存度を減らす取り組みも、効果があるだろうと指摘する。
●内部文書から2年、なお続く発信
MITテクノロジーレビューのハオ氏の記事によれば、フェイスブックの広報担当者は、今回の内部文書の後に、チームを立ち上げ、「トロール工場」のネットワークへの対策を取っている、と説明している。
だが、ハオ氏が調べたところ、内部文書で指摘していた「トロール工場」のフェイスブックページのうちの5つは、なおコンテンツの発信をしていた、という。
「モグラたたき」はしばらく続きそうだ。
（※2021年10月18日付「新聞紙学的」より加筆・修正のうえ転載）
