AIの嘘に対抗できるのはAIだけ 「ネットのクソ化」と戦う世界のファクトチェッカーの秘策は
世界のファクトチェックをリードする国際ファクトチェックネットワーク(IFCN)の第11回年次総会「グローバル・ファクト11(GF11)」が6月26-28日、ボスニア・ヘルツェゴビナの首都サラエボで開かれました。生成AIの進化によって、世界中でますます拡散する偽・誤情報とどう戦うか。様々なAIツールやその活用法の報告に注目が集まりました。日本ファクトチェックセンター(JFC)編集長 古田大輔が報告します。
「インターネットのクソ化」が進む世界
「インターネットのクソ化は全力で進行中です。今年1月の時点で、ネットの57.1%を低品質なコンテンツが占めます」 2021年にノーベル平和賞を受賞したフィリピンのジャーナリスト、マリア・レッサ氏はメインスピーカーとして初日に登壇し、オンラインプラットフォームが利益を追求する中でコンテンツが劣化していく「クソ化(Enshittification)」に言及した。ジャーナリストCory Doctorowの言葉であり、低品質コンテンツの大量拡散は生成AIと機械翻訳によって加速している。 「フェイクニュース」や「ファクトチェック」は、2016年のアメリカ大統領選をきっかけに世界で注目されるようになった。しかし、新型コロナウイルスやロシアによるウクライナ侵略などを経て、その実情と対策は数ヶ月単位で急激に変化し、事態は悪化している。背景にあるのが技術革新だ。 一昨年ごろから特に注目を集めているのが生成AI。短時間に大量のテキストや画像や音声や動画を生み出せる。その性能は加速度的に向上し、人の目では検証が困難な偽情報を多言語で生産できる。信頼性が全くない「クソ」みたいなコンテンツが溢れるようになった。
バイアスによってそれでも受け入れてしまう
低品質で信頼性のない誤った情報でも、人は「正しい」と受け止めがちだ。JFCと国際大学グロコムの2万人調査では、実際に日本で拡散した15の偽情報・誤情報について51.5%の人が「正しいと思う」と回答した。 人には情報の正確性ではなく、自分にとって心地よい情報かどうかで判断してしまう認知バイアスがある。しかも、その傾向はSNSプラットフォームのアルゴリズムによるフィルターバブルやエコーチェンバーで強化されてしまう。 背景にプラットフォームのビジネスモデルがある。ユーザーを長時間そのプラットフォームに滞在させ、たくさんの広告を見せることで莫大な売上を得ている。そのためにユーザー個々人の趣味嗜好に合わせたパーソナライズ(個人化)を進める。人の関心(アテンション)を集めることが経済的利益につながるアテンション・エコノミーだ。 レッサ氏は「技術が進化しすぎて、パーソナライズはこの部屋の全員が自分だけのパーソナライズされた現実を持てるというところまで来ました。自分の信念体系や認知バイアスが強化される現実です。自分にパーソナライズされた現実の中で事実を聞くことはありません」と警鐘を鳴らした。