チャット・コントロールとは

ここ数年EUでくすぶっている問題がチャット・コントロール（chat control）である。CSAM（児童性的虐待コンテンツ）やグルーミング（児童性加害者が未成年者をインターネットなどを介して手なずける行為）の防止策と称して、チャットだけではなくありとあらゆるオンライン・コミュニケーションをリアルタイムで監視し、検閲することを目的とした施策を導入しようとする動きが続いている。ベルギーやスウェーデンの政治家などに強力な推進者がいるため最近では立法化がかなり懸念されていたが、暗号やセキュリティの専門家、プライバシー擁護派や人権活動家、メッセージング・サービスの運営会社、そして政治家といった様々なバックグラウンドを持つ人々が連携した反対運動が功を奏し、先週予定されていたEU理事会での採決は、過半数を取れる見込みがないということで延期に追い込まれた。しかし今後も推進派はあきらめないだろうし、日本などEU以外にも飛び火する可能性はある。

チャット・コントロールの仕組み

テキストメッセージにせよビデオ通話にせよ、我々がオンラインで行うやりとりは、我々の手元にあるコンピュータやスマートフォンを離れて相手に送られる際には暗号化されている。暗号アルゴリズムや通信網自体に意図的に脆弱性を仕込み、法執行機関などの第三者が盗聴できるようにするという手口もあり、そもそも総当たり式の力任せで暗号が解読されることもないわけではないが（今後量子コンピュータなどが実用化されればその可能性は上がる）、現時点では、適切に暗号化された通信は基本的に第三者には解読できないということになっている。ゆえに、検閲したければ勝負は暗号化される前、デバイス上でということになる。人間がコンテンツを見る以上、どこかの時点ではデバイス上でデータが復号されているはずだからだ。そこでメッセージング・アプリやデバイスのメーカーに、暗号化される前の画像やメッセージを人工知能で分析したり、政府が提供する既知の違法画像等のデータベースと照合したりして、怪しげなものは法執行機関に報告することを義務づける、というのがチャット・コントロールの基本的な仕組みである。もちろん暗号化される前に検閲されるわけだから、エンド・ツー・エンド暗号化云々は全く無意味になってしまう。クライアントサイド・スキャンやアップロード・モデレーションと呼ばれるものも基本的には同じ話である。

なお採決予定だった最新案（PDF）（「チャット・コントロール2.0」と呼ばれていた）では、さすがにまずいと思ったのかテキストメッセージは検閲の対象からはずされており、画像やビデオ、URLに限定されていて、ユーザには同意しない権利があるとされていた。しかし同意しない場合にはどのみち画像等の共有やアップロードが出来なくなるので、あまり意味がない。法執行機関や諜報機関は、いわゆる「ゴーイング・ダーク」――犯罪者が暗号通信によって外から見えないように「暗躍」すること――の懸念を声高に主張するのだが、最新案では諜報機関、軍、警察、EUの一部省庁は、チャット・コントロールの対象外となっていた。実態がダークになって見えなくなるのは法執行機関のほうだったのである。

チャット・コントロールがもたらす世界

チャット・コントロールが実現するのは文字通りジョージ・オーウェルの「1984」的な大量監視社会であり、暗号通信エコシステムに、それこそ犯罪者やならず者国家にも悪用されかねない大穴を開けて信頼を崩壊させる。深刻なプライバシーの侵害であるのは言うまでもないとして、この種の検閲はそもそも児童虐待防止にもうまく機能しないことが知られている。いわゆる偽陽性が多すぎて、児童ポルノでもなんでもない画像等が誤検知されてしまうからだ。チャット・コントロールを実現する技術を売り込もうとする側は、検出率が8割超えだの9割超えだのと主張するのだが、情報開示請求で出てきた資料によればこれはこうした業界の言い分に過ぎない。技術の詳細やテストデータはおろか、独立機関による検証も拒否しているので、額面通りに受け取ることはできないのである。しかも大規模なメッセージング・サービスでは、一日にやりとりされるメッセージが1000億通以上ということも珍しくない。仮に検出率が本当に99%だとしても、10億通は誤検出である。とすれば、法執行機関には大量の誤情報がもたらされ、本物の手がかりを追って捜査し本物の子供を救う時間はほとんど無くなってしまうだろう。それに、チャット・コントロールに従わないのは違法である、というだけのことなので、本物の性犯罪者は気にせず違法な暗号化サービス等を使うだろう。使えなくなるのは遵法意識の高い一般市民だけである。

更に言えば、チャット・コントロールのような仕組みがいったん確立されると、対象は児童ポルノに留まらないはずだ。例えば反体制派の文書が置かれているURLを「有害コンテンツ」と指定すれば、それに言及した反体制派を一網打尽に摘発できる。というか、現実には一網打尽どころか、全く無関係な人も暗号化された画像やURLが送られることで監視対象に巻き込まれることになるだろう。チャット・コントロール的なアプローチは、児童虐待被害者の危険を減らすどころか、逆に全ての人のオンライン・セキュリティを危険にさらすことになるのである。

新パノプティコン

ちなみに、私が個人的に恐れているのは、チャット・コントロールのような政府による検閲そのものではない。それによって引き起こされる自己検閲である。監視されていると感じると、人は自己検閲を始める。やがては口頭など本当にプライベートなやりとりであっても監視の目を気にするようになり、ひいては言論はおろか思想自体を自己規制することにつながるだろう。私的な会話を奪われることは、言論の自由を奪われることであり、結局は民主主義社会の根幹を損なうことなのだ。