「コレクティブ・ハルシネーション」と情報空間における基本的人権

■「コレクティブ・ハルシネーション」と情報空間における基本的人権─ 山本龍彦 人々の興味関心を引きつけるアテンション・エコノミーとAIがタッグを組み、我々の情報空間を一元的に支配する傾向が高まっている。 プラットフォーマーはユーザーのインターネット上の閲覧履歴を基にAIを使って嗜好や認知バイアスを分析し、強いリコメンデーションをかける。それによって、ユーザーが興味関心をもつ情報にばかり触れるようになる「フィルターバブル」や、特定の意見や思想が増幅していく「エコーチェンバー」などの現象が起きている。そこへ生成AIも登場し、情報空間は混沌としている。 憲法学では従来、「思想の自由市場」という考えが支持されてきた。悪質・有害な言論や思想は批判的な言論によって淘汰されるため、市場競争によって自ずと良い言論が生き残るというものだ。 だが、今の社会ではコンテンツや情報がどれだけユーザーの「早い思考」を刺激できるか、AIを使ってどれだけユーザーに刺激を与えられるかという競争に変わってきている。アテンション・エコノミーの拡大によって、我々の認知システムは常に攻撃を受けているのだ。 私は生成AIを「おいしい毒リンゴ」に例えている。生成AIは、どのような情報を与えるかによって出力内容に偏りが出る。AIが「ハルシネーション」（もっともらしい嘘）を生み出すこともある。たとえ毒が含まれていても、それなりにおいしい味がするので人は食べ続けてしまう。その結果、人間の認知システムが毒に侵される可能性があるのだ。 また、AIが毒を含む情報を学習データとして取り込むことで、さらなる毒を生み出してしまう。私はこれを「コレクティブ・ハルシネーション」（集団幻覚）と呼んでいるが、生成AIの発展によって人々の認知の歪みはさらに増幅するだろう。 このような状況下で、民主主義国家はかなり危ない状態にある。民主主義を維持するためには倫理観や道徳観が異なる人たちがファクトに基づいて論争を展開することが重要だ。しかし、土台になるファクトを共有できなければ議論そのものが成り立たなくなる。社会や国家の分断が進み、民主主義を成り立たせるのは極めて難しくなるだろう。そんななか、プラットフォーム権力が巨大化し、国家を超えるような力をもち始めるというのが未来のシナリオだ。 今後はAIが個人を評価し、就職活動や銀行の融資などに影響が及ぶようになるだろう。今こそ個人データの保護や管理を基本的人権としてとらえていくことが重要だ。 とはいえ、すべてのデータのトランザクションを把握したりコントロールしたりするのはおよそ不可能だ。四六時中、画面上にデータ取得や活用に対する同意を求めるポップアップが出てくるようではユーザーが「同意疲れ」を起こし、その反動からなんでも瞬間的に同意してしまうことにもなりかねない。 こうした事態を防ぐには、個人情報やデータの管理を基本的人権としてとらえつつ、各人のプライバシー選好に合わせて最適化された「パーソナルAI」に情報管理を「信託」することを検討してもいいのではないか。「情報自己決定権」をベースにしながらも簡単なルーティンはAIに任せることで、人々は重要かつクリティカルな決定に集中できる。 AI社会と憲法に関しては、特に人権と国家論について考える必要がある。日本国憲法19条では「内心の自由」が保障されている。アテンション・エコノミーやAIによって個人が認知システムをハッキングされたり操作されたりしないことは基本的人権の要となろう。 また、従来の憲法は国家権力を規律するものだが、今後は国家のみならず、AIの発展を背景に増大するプラットフォーム権力とも対峙しなければならない。そのために、AI社会における憲法はどうあるべきなのかを議論し、検討する必要がある。 ■情報的健康に目を向ける ビジネスパーソンにはぜひ、情報的健康（インフォメーション・ヘルス）に目を向けてほしい。アテンション・エコノミーによって我々は好きな情報ばかりを偏って食べている可能性がある。刺激的かつアディクティブな情報ばかりを食べ続けると、フェイク・ニュースや偽情報に対する免疫力が低下する恐れがある。まずは、日常的にどのような情報を摂取しているのかに目を配ってほしい。 食に関しては、多くの人々が栄養バランスを考えながら、自分が食べるものに意識を向けている。食に対する消費者のリテラシーの高まりは、人々の健康に配慮する企業が市場においてしかるべき地位を確立する流れを後押しした。情報空間においても同じ動きを期待したい。 ユーザーである個々人が情報的健康に目を向け、アテンション・エコノミーの問題性を把握し、社会全体で情報ビジネスの構造を健全なものへと転換していくことが重要だ。ユーザーの情報的健康を考えずに人々をアディクティブな状態にするビジネスモデルに加担している企業を批判的な目でとらえてビジネス構造自体を変革していかなくては、情報空間や言論空間はより一層、カオティックな状況に陥るだろう。 山本龍彦◎慶應義塾大学大学院法務研究科教授、慶應義塾大学グローバルリサーチインスティテュート副所長。著書に『〔超個人主義〕の逆説ーAI社会への憲法的警句』（弘文堂）、『おそろしいビッグデータ』（朝日新聞出版）などがある。 （文＝瀬戸久美子）