Facebookとファクトチェックという難問

From Pixabay https://bit.ly/2VyPEbC

Snopes.comは都市伝説や真偽の怪しい噂を客観的に検証する「ファクトチェック」のウェブサイトで、1994年に設立された老舗だ。私もよく参照している。このSnopes.comが最近、Facebookとのファクトチェックに関するパートナーシップを終了したことが話題となった。

Facebook上でデマやフェイクニュースが横行していることはよく知られている。対策としてFacebookは2016年から第三者ファクトチェックを導入し、外部のファクトチェック団体の協力を仰いできた。Snopes.comもその一つだ。Facebookが審査対象としたコンテンツに関してファクトチェッカーが正確性を評価し、コンテンツが間違いと判定されると、ニュースフィードでの表示順位が下がったり、ファクトチェッカーによる反駁記事と一緒に表示されたり、あるいはそうしたコンテンツを常習的に公開したりシェアしたユーザは広告等の機能が使えなくなったりするらしい(デマをばらまくのは大体が金儲け狙いである)。ちなみにこのブログを書いている2019年3月4日現在、日本には提携ファクトチェック団体は存在しないようだ。

ただ、この枠組みが有効に機能しているかというとお世辞にもそうとは言えないようで、例えば反ワクチンのデマは依然としてFacebook内を飛び交っている(反・反ワクチンこそがデマだという方には申し訳ないが、そういう方にはぜひ明治大学科学コミュニケーション研究所のワクチン有害説に関するページを読んでいただきたい。まあこれも、一般へのアピールという点では工夫の余地が多々ありますね)。The Atlanticの記事によれば、こうした投稿の多くはごく少数(7つ)のFacebookページが由来らしく、たかだか7つのデマ源すら押さえ込めないのであれば、これはなかなか難しいと言わざるを得ない。

Snopes.comは最初無償でFacebookに協力していたらしいのだが、その後、年に10万ドルもらうようになった。しかしFacebook社員の年収中央値が24万ドルというご時世に、16人でやっているSnopes.comには10万ドルというのはいかにも少ない。Facebookはファクトチェックにエンジニアを数人雇う金すら出さないのか、という批判は免れないように思う。また、Snopes.com 側の不満として、ファクトチェックに有用なデータをFacebookが出さず手作業が多いというのもあったようだが、そもそもSnopes.comはおろか、FacebookはEUにもデータを満足に出さないらしく、 フェイクニュース対策への取り組みの真剣度を疑われても仕方がないだろう。

個人的には、FacebookのCEO、マーク・ザッカーバーグのファクトチェックに関する見方に興味がある。The Guardianの記事によれば、ザッカーバーグは今後、ファクトチェックをクラウドソーシングしていくことを検討していると語ったらしい。

クラウドソーシングということは、Snopes.comのような専門家集団ではなく、不特定多数の人々にファクトチェックさせるということだろう。おそらく、誰でも自由に開発に参加させることでチェックが行き届き、品質の高いソフトウェアが開発できるという、いわゆるバザール型のオープンソース・ソフトウェア開発の成功が念頭にあるのだと思う。

しかし、安直にファクトチェックへオープンソースの方法論を当てはめるのは、かなり無理があるのではないか。ソフトウェア開発は、厳密に言えば誰もが参加できるというわけではない。というのも、プログラムコードはプログラミング言語という、我々が普段使っている日本語や英語とは違った人工言語によって、厳密なルールに従って書かねばならず、間違ったコードはどう頑張っても動かない(実行できない)からである。ようするに、普段はあまり意識されないが、機械的な最低限の「足切り」が存在するのだ。ノーベル賞をもらった天才が書こうが間違ったコードは動かないし、小学校中退の人が書いても正しいコードは動く。逆に言えば、これこそが、「誰でも」参加できることを客観的に保証していたのである。

しかし、でたらめなコードは動かない一方、でたらめな文章はそれなりに読めてしまうし、コードのようにでたらめであることを機械的に判定するのも難しい。判定する側に専門的な知識がなければ、信頼性の高いファクトチェックは不可能だろう。AIによるファクトチェックは有望だが、様々な問題が依然として解決されていないし、ブレイクスルーが無ければ実用化には相当長い年月が必要となるだろう。

もちろんWikipediaのように、ファクトチェックを事実上クラウドソースしているプロジェクトはある。Wikipediaはうまくやっているほうだとは思うが、それでも多くのインチキ記事が10年以上放置されることを防げていない。また、最近忘れられがちだが、Wikileaksは元々Wikipedia同様、誰でもリークを検討し、ファクトチェックすることが出来るというコンセプトだった(当初は、誰でも参加できるIRCチャンネルでリークの内容を検討していたものである)。しかしそれはうまく行かず、間もなくWikiは止め、新聞のような伝統的メディアとの協働に舵を切ったのだった。

Facebookは一般にはIT企業というイメージが強いが、次第にメディア企業へと変貌しつつあるとよく言われる。しかし、社内の感覚はまだIT企業のままなのだろう。現時点でフェイクニュース対策に失敗しているということよりも、この認識のギャップが、Facebookの、あるいは我々の今後にとって重要な意味を持つように思えてならない。