Stories on Xの登場

X（旧Twitter）が「Stories」という新機能の提供を開始した（Impress Watchの記事）。

課金ユーザ限定なので私自身はまだ触っていないのだが（そもそも日本ではまだ使えない？）、米国巨大IT企業の内情に詳しく、今回もX/Twitterオーナーのイーロン・マスクから直接情報提供を受けたというジャーナリスト、アレックス・カントロウィッツのニューズレターBig Technologyの記事を見る限りでは、X独自のAIチャットボットGrokがニュースを要約するというものらしい。しかし新聞社の記事などを直接要約すると著作権等で問題が生じる可能性があるので、Grokは記事のテキストを直接読むのではなく、その記事に関するX上の投稿を集めて要約するという。ある意味日本でいうTogetterというか、まとめサイトに毛が生えたみたいなものでしょうか。

一般意思3.0?

これを聞いて思い出したのが、むかし批評家の東浩紀が唱えた「一般意思2.0」という話である。かつてジャン=ジャック・ルソーが「社会契約論」で打ち出した「一般意思」論を下敷きに、個々人の思考や嗜好を「特殊意思」、それらを単純に集めた総和を「全体意思」として、おそらく意見や利害が全く一致していないであろう全体意思にどうにかこうにか折り合いを付けさせたものを「一般意思」とするならば、これを社会的意思決定の基本に据えることはできないだろうか。そしてその抽出には、ルソーの時代には存在しなかった情報技術を駆使した「一般意思2.0」が想像できる、という議論だった。伝統的な政治学では「どうにかこうにか」の部分に熟議や議会制民主主義が入るのだろうが、熟議の不毛や政治の不全を痛感している現代においては、（当時の）TwitterのようなSNSやそのコンテンツの数理的処理のほうがむしろ期待できる、という見方だったと記憶している。

東が「一般意思2.0」を書いたのはまだTwitterに多少の希望や期待があった2011年のことで、現在X/Twitterのオーナーであるイーロン・マスクはおそらく一般意思云々という話は東にしろルソーにしろ全く知らないだろうし、そもそも記事ではなくユーザの投稿内容を要約するというのは、Xに限らずマスメディアとの著作権侵害訴訟を多く抱える現在のソーシャル・メディアらしい苦し紛れでしかないとは思うが、外形的には東が想像した「一般意思2.0」に割と近いように思われる。「どうにかこうにか」の中身が昨今流行りの生成AI、LLMになったというわけだ。

懸念と課題

しかし個人的には、現状の生成AIをこの種のシステムに使うのは極めて問題があるように思えてならない。ニュースの元記事を学習させるならまだしも、それについて言及したXユーザの投稿を使うということは、ただでさえ誤読と意図的扇動で溢れている現在のXの有り様が、そのままGrokが吐き出す「ニュース」に反映されるということに他ならない。そしてそれを鵜呑みにしてしまう人は多くいるのだ。もちろんニュースではなくあくまでストーリーズ、オハナシと名乗ってはいるけれど、世論の醸成やミスリードに影響力を持つ可能性は大いにある。これは一番最悪な形のフィルターバブルだし、LLMは原理的にこの種の仕事に向いていないのである。

思うに、人工知能がソーシャル・メディアの雑音から一般意思を正しく抽出できるようになるのは、不可能ではないにせよまだはるか先のことなのだと思う。私は最近のAIの目覚ましい進歩を否定しないが、出来ないことを出来ると売り込んで、面倒な事態を引き起こす人が多いことには辟易している。皮肉なことに、それ自体は極めて人間らしい所業ではあるのだが。