大量殺人や自殺を防ぐために、プラットフォーム事業者は問題発言を削除するべきか

(写真:ロイター/アフロ)

 今の時代ではあまりピンとこなくなってしまった表現に「井戸端会議」や「床屋談義」というのがあります。

井戸端会議(コトバンク)

床屋談義(Weblio辞書)

 いずれも市井の人々が噂や与太も含めて四方山話に花を咲かせる様子を端的に言い表した言葉ですが、今の時代であればSNSがまさにそういう場として大いに機能しているということになるのでしょう。大きく違うのは、井戸端会議や床屋談義から飛び出した奇想天外な作り話やデマが口コミを通じて世間に広がるにはそれなりの時間を必要としましたが、SNSならば一瞬にして世界中へ拡散するのも不可能ではないというところです。何気ないツイートをしてみたところ、物好きに発掘されて大量のリツイートをもらって十万単位の読者に届いてバズってしまう、という経験のある人もいるのではないでしょうか。

 しかしながら、テクノロジーの粋を活かして実現しているSNSであれども、そこで流通する話の中身と質は残念ながら「井戸端会議や床屋談義の時代とさして変わらない」というのが現実でもあります。妙な例えになりますが、光速で移動可能な宇宙船があるのに、それを操縦するのは自転車の運転もおぼつかないような人間ばかりで、どこへ向かって飛んでいくのか誰も知らないみたいな状況なのかもしれません。フェイクニュースのような現象もまさにそうした状況によって破壊力がどんどん強化されどこまでも拡散されるようになったと理解すれば分かりやすいでしょう。質の低い書き込みをする人たちが悪いのではなく、本質的には人間いかに経験を重ねようとも、神羅万象すべてについて専門性の高い発言などできないということでもあります(安倍晋三総理大臣を除く)。

 こうしたことからネット上にある情報、とくにSNSというプラットフォームにおいて流通する“不適切な”言説などをどうやって制御するかということがここ近年の大きな課題となりつつあるように感じます。あるいは、そのような言説をするのは構わないが、他の多くの人の目に触れないように流通させないようにしよう、という制御をさせるべきだという議論は、非常に増えてきました。我が国でも、ネット右翼やポリコレ左翼が各々の陣営に有利なようにYouTubeで野放図な発言を繰り返したり、クラスター化の進むTwitterなどのSNSでプロパガンダ紛いの極論を垂れ流したり、少し前は匿名掲示板のログを使いNAVERまとめやブログを使っての「まとめサイト」が分かりやすい中傷やデマを流して大量のアクセスを集め問題になっていました。

 で、米国で銃乱射による大量殺人という大変不幸な事件があったわけですが、その犯人が「ネット上の投稿サイトに犯行予告を投稿していた」という事実を受けてトランプ大統領がかなり突っ込んだ提案をしたようです。

トランプ大統領、銃乱射でソーシャルメディアに協力要請--オバマ氏は銃規制を呼びかけ(CNET Japan 19/8/6)

ソーシャルメディアに対し、「このような人物を、実際に銃を乱射する前に発見するツールの開発」に取り組むよう求めた。

(中略)

「インターネットやソーシャルメディアの危険性は無視できず、今後も無視されることはない」

出典:CNET Japan

トランプ大統領、エルパソ乱射でインターネットとゲームを批判(ITmedia 19/8/6)

政府機関とソーシャルメディア企業との提携により、大量虐殺者を攻撃前に検出するツールを開発している

出典:ITmedia

 つまり、ネット上に書き込まれる言説はすべてチェックし、明らかに危険なものついてはそれを書き込んだ者の行動を阻止すべく何らかの具体的な策を講じなければならないということでしょうか。はたしてそんなことが現実に可能なのかどうかは謎ですが「ツールを開発している」という発言があるので今後そうした取り組みが実施されることになるのでしょう。しかし、これって米政府によるネット言論の検閲を実施しますと公言しているようなもので、個人の権利についてなにかと神経質な米国において本当に実現できるのかどうかは気になるところです。

 また、自殺をほのめかす発言から大量殺人の意図を持つ人物の書き込みまで、そういう溜まりに溜まった負のストレスを吐き出す場がなければ、SNSで誰にも知られることなく突然自殺を試みたり大量殺人を行ってしまうことになります。予兆を書き込める場所があることで、かえってその人のガス抜きになっていたり、周囲の人が気づいて宥めたり犯行を思いとどまらせるチャンスになっている可能性もあります。単に「そういう犯行予告や自殺志願の書き込みがあるから、プラットフォーム事業者はそのような書き込みをさせるな」と言うことで、言論の自由が封殺されるような検閲紛いの行為をプラットフォーム事業者にさせることは、却って問題を複雑にしてしまうかもしれません。

 実際のところ、すでにTwitterやFacebookなどでは不穏当な発言をするとたとえそれが文脈上冗談であることが明白でも発言が自動的に削除されたりアカウントを停止されてしまうところまでは来ていますから、トランプさんの望むようなシステムの稼働は可能なのかもしれません。近い将来は不穏な発言を繰り返すとアカウントが停止するだけで済まず、警察がやってきて身柄拘束という事態が発生することも珍しくなくなるのかもしれないですね。

 あと数年もするとSNSでネタを語るのはあまりにも危険すぎるということで、人々は狭い社会に回帰し皆昔ながらの井戸端会議や床屋談義に戻っていくという未来もありそうです。