「ネットデマは無くならない」世界の知性が口をそろえるこれだけの理由

桜美林大学教授　ジャーナリスト

2021/8/10(火) 7:17

「ネットデマは決して無くならない」――世界の有識者が、口をそろえてそう指摘している。

新型コロナ禍での誤情報・偽情報の現状その対策をめぐる国内外の提言をまとめた報告書「デジタル空間における信頼創出に向けて～市場によるアプローチの検討」を、経済産業省が公開した。

その中で、ベストセラーSF小説『三体』で知られる中国のSF作家の劉慈欣氏、米テクノロジーカルチャー雑誌「ワイアード」創刊編集長のケヴィン・ケリー氏、「エコーチェンバー現象」「ナッジ理論」で知られるハーバード大学ロースクール教授のキャス・サンスティーン氏ら、多彩な論客がそろって指摘するのが、ネットデマは無くならない、という点だ。

取り組むべき問題の急所はそこではない、と識者たちは述べる。

新型コロナ禍の現状では、ワクチン接種をめぐるデマの拡散も続く。そのような目の前の危機の中で、情報の信頼のために何ができるのか――。

筆者も参加したこの報告書では、幅広い議論の先に、そんな処方箋を考えるための手がかりがまとめられている。

●適応していくしかない

ネット社会のデマとフェイクニュースを消し去ることは不可能です。こうした問題は情報社会において長期にわたり残り続けるでしょう。ですが、人類はデマやフェイクニュースと共存する方法を学ぶと信じています。情報拡散とデマとのあいだに、ある種のバランスを打ち立てることができるのだ、と。

中国のSF作家の劉慈欣氏は、報告書の中でそう述べている。

劉氏は、世界での発行部数2,900万部というベストセラーSF小説『三体』で知られ、アジアの作家として初めて米国のSF賞、ヒューゴー賞も受賞している。

報告書「デジタル空間における信頼創出に向けて」は、現時点（8/10）で広報レポート（全211ページ）が経済産業省のサイトで公開されている。

報告書では、劉氏ら世界的に知られる有識者へのインタビューで、新型コロナ禍における誤情報・偽情報の氾濫「インフォデミック」について、その問題点と対策の提言について尋ねている。

劉氏はインタビューで、誤情報・偽情報の氾濫の背景と指摘される社会の分断についても、こう言い切っている。

文明の誕生以来、人類社会の意見が統一されたことはありません。異なる国、民族、政治団体、宗教、文化のあいだは、分断と衝突で充ちています。ITはこれらの問題を拡大したにすぎません。分断と衝突は人類社会の正常な状態なのです。これを短期間で消滅させることなど不可能です。

劉氏は、「危険な影響をもつデマとフェイクニュース」については、法律と政府による抑止が必要、との立場だ。さらに教育の取り組み、そして「大衆の識別能力の高まり」に期待を寄せ、こう述べる。

私たちはITによってつくられた、まったく新しい世界に直面しています。この世界の社会と文化の形態は情報化時代前とはまったく異なるものです。この変化は止められるものではありません。私たちは適応していくしかないのです。

プラットフォームのアルゴリズムにより、人々の興味関心に沿った情報配信が行われ、それらは社会グループの分断と細分化につながる。このような「フィルターバブル現象」は、「インフォデミック」を広げる背景といわれる。

だが劉氏は、それが文化の多様性にもつながるといい、「情報ネットワークは人類の分化を促進すると同時に、人類の一体化をも促進するという側面があることにも注意すべきです」と述べる。

重大な事件が起きた際、現代ではあらゆる人々がかつては考えられなかったほどの速度で注目するようになります。（中略）分化と一体化は情報社会において同時に存在する、相矛盾した潮流です。こうした潮流によって、現在の私たちには想像することすら難しい世界が築かれていくのです。

●「ミラーワールド」の未来

米テクノロジーカルチャー雑誌「ワイアード」創刊編集長で、『〈インターネット〉の次に来るもの』などの著書で知られるビジョナリー、ケヴィン・ケリー氏も、「（インターネットにおいて）策略や陰謀をなくすことはできない、せいぜいなんとか対処することしかできない」と述べる。「それが、ネットワーク・コミュニケーションの本質なのです」と。

ソーシャルメディアが誕生してからわずか7000～8000日ぐらいです。私たち自身がどうしていきたいのか、どんな規制が必要なのか、まだわかりきっていません。

ソーシャルメディアの源流であるブログが登場したのが1990年代末。フェイスブックなどの代表的なサービスが登場するのは2000年代半ば以降だ。ケリー氏がいう「7000～8000日」とは、それからまだ20年ほどしかたっておらず、誰もが不慣れな初心者である、といった意味だ。

インフォデミック対策について、対処法の第一としてあげるのは「実名制」の要求だ。政府の介入には否定的で、「テクノリテラシー」と呼ぶ教育の強化についても訴える。

さらに、ケリー氏が強調するのはプラットフォームによるインフォデミック対策の「試行錯誤」の必要性だ。

最近のネット上だけでなく、私たちの社会全体において、間違いや失敗に対する許容度が非常に低くなっていると感じますが、もっと間違いを重ねてもいいのではないでしょうか。失敗から学ぶことによって、科学技術は進歩してきましたし、イノベーションが生まれてきました。同様に、プラットフォーマーも、まずは試してみて、失敗から多くの学びを得ていくべきだと考えます。

その上で、インターネットの先の世界、現実世界が忠実に写し取られた仮想世界「ミラーワールド」が到来する未来についても見通す。ケリー氏のいう「ミラーワールド」は、「デジタルツイン」などと呼ばれる現実とリンクした仮想空間のイメージにも近い。

そこでは、情報の信頼はより大きな問題になるという。

真偽不明のものも含めて仮想世界の情報が、現実世界を忠実に模した3Dの世界に紐づけられていくのですから、ミラーワールドでは、自分が目にしているものや情報が本物なのかどうかがよりわかりにくくなる。つまり、情報を信じられるかどうかという「不信感」や「信憑性」の問題がより顕著になってくると考えます。

その対処の基本となるのは、やはり「試行錯誤」だとケリー氏は述べている。

●「エコーチェンバー現象」と「ナッジ理論」

ハーバード大学ロースクール教授のキャス・サンスティーン氏は、著書『インターネットは民主主義の敵か』で「エコーチェンバー現象」、ノーベル経済学賞を受賞したシカゴ大学教授、リチャード・セイラー氏との共著『実践　行動経済学』で「ナッジ理論」を提唱したことで知られる。

聖書の『創世記』で蛇はフェイクニュースを発信していました。フェイクニュースは、文化的・宗教的な伝統に根ざした物語に見出すことができます。そのことからも、偽情報の発信は人間の本性に埋め込まれているといえるでしょう。

そしてサンスティーン氏はこう続ける。「ただし、それがもたらす害を軽減することは可能です」

同じような価値観を持つ人々による閉じたグループでは、意見がより増幅、先鋭化される。この現象を、「反響室（エコーチェンバー）」に例えたのが「エコーチェンバー現象」だ。

サンスティーン氏がこの問題を指摘したのは2001年だが、2010年代のソーシャルメディアの普及とともにそれが表面化し、誤情報・偽情報とともに一気に社会問題化したのが、トランプ前米大統領が誕生した大統領選の年、2016年だったという。

誤情報・偽情報対策として、サンスティーン氏が行動科学の知見から有効だとするのが、「選択を禁じることも、経済的なインセンティブを大きく変えることもなく、人々の行動を予測可能な形で変える選択アーキテクチャーのあらゆる要素を意味する」という「ナッジ（軽いうながし）」だ。

このようなナッジはいたるところで見受けられます。ツイッターは、リンクされた記事を読まずにリツイートすることを減らすために、リンクをクリックするよううながす機能を追加しています。また、コメントなしでリツイートすることを減らすべく、コメント入りでリツイートするよううながす機能も追加しています。拡散する前にちょっとしたストレスを与える要素を導入することで、思慮を高め、闇雲にリツイートしないようにしているのです。

サンスティーン氏は、市民ひとりひとりの役割の重要性についても指摘している。特に、政府が偽情報を流すようなケースだ。

市民による監視がそこでは重要です。噓をつくような政治家が当選できないようにしなくてはなりません。報道の自由と投票システムがきちんと機能すれば、政府の虚偽は民主的な手続きを通じて修正されますが、そうした民主的な手続きが存在しなかったり、機能しない国では、政府はなんの制限も受けることなく勝手気ままに振る舞うことができます。

●メディアを強化する

パンデミックが発生するたびに、まずは深刻な事態が隠蔽され、次に、真の責任者が明らかになるのを避けるための世論操作が行われる。
パンデミック以外にも、風説の流布によって悲惨な結果が生じるインフォデミックは存在した。社会的な惨事の背後には巨悪が潜むと主張するのが一般的な陰謀論だ。陰謀論はインフォデミックを助長する。

欧州復興開発銀行初代総裁でフランスの経済学者のジャック・アタリ氏は、新型コロナ禍による社会の変化について、近著のタイトルでもある『命の経済』などのキーワードで積極的に発信を続けている。

アタリ氏は、パンデミック、風説の流布、世論操作、陰謀論はこの2000年の間にたびたび起きてきたことだ、と述べる。

インフォデミックの原因は、情報伝達の手段とは関係がない。というのは、新聞がなかった時代においても、口コミ、狼煙（のろし）、駅馬車、郵便によるインフォデミックは存在したからだ。

現在との違いは、ソーシャルメディアによる拡散の加速とその規模だ、とアタリ氏。ただし、それらを放置すべきでもない、という。

表現の自由を名目に噓を垂れ流す行為を黙認してはいけない。悪質な噓や誹謗中傷を許さないことは意見の検閲ではない。

リテラシー教育の重要性と合わせて、アタリ氏が指摘するのが、メディアに焦点を当てた対策だ。

国民の情報リテラシーを向上させるための第一歩として、メディアを強化しなければならない。ご存じのように、真実を明らかにする役割を担うメディアは、匿名の掲示板サイトやSNSによって瀕死の状態にあるからだ。健全なメディアが存在しなければ、真実を把握することはさらに困難になる。よって、健全なメディアを存続させる計画を早急に練る必要がある。

ただし、アタリ氏が訴えるのは、単なるメディアの救済策にはとどまらない。

得体のしれないグローバルな超監視型システムに隷属させられるか、それとも情報の自由、つまり、言論の自由を謳歌できるかという分岐点だ。世界中のどの国においても既存のメディア構造に頼っているようでは、言論の自由は確保できない。メディア構造を国内だけでなく国際的に改革する必要がある。

●プラットフォームのガバナンス

問題はいかにしてインフォデミックや偽情報を抑制するかということではない。インフォデミックがなくなることはないが、人々や社会への影響をいかに低減していくか、という点に尽きるのではないか。

ベストセラー『シェアリングエコノミー』で知られ、エアビーアンドビーやウーバーなどに代表されるシェアリングエコノミー（共有経済）研究の第一人者である、ニューヨーク大学経営大学院教授のアルン・スンドララジャン氏のインタビューは、筆者が担当した。

インフォデミックは、分散的につくられた情報の誤りを正せないから起きているわけではない。信頼できる情報源ならたくさんある。問題は、やはり人々の認知能力の限界、もしくは人間がそもそももっている認知上のバイアスを利用されることで起きている。
（中略）
これらは新たに生まれた問題ではない。過去何世紀にもわたって、人間の脳とはそういうものだった。ただ、デジタルテクノロジーの台頭によって、これらのバイアスや認知能力の限界が巧みに利用されてしまう状況が生まれてきたのだ。

すなわち、人間の処理能力を超えた膨大すぎる情報量、そして人々の感情をことさら刺激するように作り込まれた偽情報が、インフォデミックの問題の核心だという。

「インフォデミック抑制に中心的な役割を果たせるのは、プラットフォームだ」とスンドララジャン氏。だが現状について、プラットフォームと政府の力学や責任の境界が曖昧だという問題を指摘する。

その曖昧なグレーゾーンにプラットフォームが踏み込むたびに、論争や不安の声が沸き起こる。

いまはすべてが既成事実として進み、それが後づけでルールのようになっている。われわれはプラットフォームに検閲の権限を与えたわけではないが、ヘイトスピーチやポルノの排除は行われている。政府によって行われるべき監視とプラットフォームによって行われるべき監視の線引きは明確にすべきだ。

この問題に対処するため、スンドララジャン氏は「デジタル権利章典」と呼ぶ5つのルール（透明性、アルゴリズムの公正性、ユーザーのデータ所有権、意思決定へのユーザー参加、異議申し立てのための適正手続き）を提唱している。

プラットフォームがこのルールを遵守し、ガバナンスを担保することが必要だ、とスンドララジャン氏。

そのためにも欠かせないのが、各国がプラットフォームに対して足並みをそろえた国際協調だという。

多数の国々が、プラットフォームに対して足並みを揃え、責任・説明・ルールの遵守を求めていけば、実施可能な解決策についての回答を得られる可能性は高まるだろう。現状はというと、プラットフォームは百を超す国々から百を超す異なる状況での何百もの提言に対応しなければならない。そのため、主要国間である程度一貫性のある要件を決めることができれば、偽情報対策にかなり効果があがるのではないかと思う。

●「幻想化する社会」と事実

報告書には筆者自身の論考も収録されている。取り上げたのは、「幻想化」というキーワードだ。

新型コロナウイルス禍の情報氾濫「インフォデミック」で露わになったのは、事実が共有できない社会の分断と「幻想化」への傾斜だ。少なくない人々が事実から乖離した「幻想」を現実に重ね、社会にダメージを与える。新型コロナを巡るフェイクニュースから、米大統領選の「不正」の主張まで、根拠も実体もない情報が現実であるかのように国境を越えて日本にも流入し、社会を脅かす。「幻想化」の歯止めに必要なのは、事実に基づく十分な情報の流通と、ソーシャルメディアを含めたメディア空間の再構築だ。確かな情報が、今ほど必要とされている時代はない。

サンスティーン氏が「ナッジ」の例として紹介した、ツイッターなどによる取り組みは、米アリゾナ州立大学ジャーナリズム大学院教授、ダン・ギルモア氏が提唱してきた「スローニュース」の考え方とも重なる。

「まず深呼吸して、スピードを落とし、深く掘り下げる」。つまり、インターネットの登場、ソーシャルメディアの普及を通じて加速し続ける情報を、いったん減速させ、その真偽や価値をしっかり見極める、ということだ。

そこで現実感とのフックになるのが、客観的な事実だ。

事実はさほど感情を刺激しないし、多くの場合は目を引くような面白みもない。フェイクニュースは事実よりも速く、広く、深く拡散することもわかっている。だが、事実と常識が共有できない社会は、分断と「幻想化」への傾斜を強め、破滅的な未来へと突き進む。正確な事実を、丁寧に、繰り返し伝え続けることが、社会の「幻想化」への歯止めになる。