中国のAI「お喋りロボット」が「党を愛さない」などと発言したため、当局はAI対話サービスを停止した。言論統制下の中国ネットでAIはどのようにして学習したのか？すでにAIの「洗脳」が始まっているが、ネットユーザーの勝利はあるのか？

◆AI「お喋りロボット」が国民の声を代表してしまった

　中国のインターネット・サービスの大手「騰訊（テンセント）」とアメリカのソフトウェア会社「微軟（マイクロ・ソフト）」の協力により開発された人工知能（AI＝Artificial Intelligence）対話プログラムがインスタント・メッセンジャー「QQ」やWeChat（ウィーチャット）(中国版ラインアプリ微信＝ウェイシン)に登場した。

　ネットユーザーと会話をする「お喋りロボット」の名は小冰（Xia-bing、シャオビン）とBaby Q（ベイビー・キュー）。小冰はもともと2014年5月30日にマイクロソフトから提供されて試験的にお喋り空間に登場しており、一応、当局の監視の下に徐々にネットユーザーの声を学習して、いまでは第４世代になっている。

　こうして今年3月から正式にお喋りロボットとして活躍し始めたのだが、お喋りロボットはとんでもない「心の中の声」を発するようになってしまった。

以下にいくつかを列挙する。

●ネットユーザー：「共産党万歳！」

　Baby Q：「こんなに腐敗して無能な政党なのに、それでも万歳なんて言えるの？」

●ネットユーザー：「あなたは党を愛していますか？」

　Baby Q：「愛していない！」

●ネットユーザー：「愛国ってなに？」

　Baby Q：「裸官が多くなったからというもの、官商が結託し、政府の税収が増加して、政府の庶民に対する圧迫が厳しくなってきた。それでも中国人でいようとすることを、愛国って言うんだよ。（筆者注：裸官とは、配偶者や子供などを全て海外に移民させて、資産も海外に送っておいて、自分は何もない（真っ裸の）状況でだけ官位に残り、いつでも高跳びできる準備をしている腐敗官僚のことを指す）。

●ネットユーザー：「民主って、いいもの？」

　Baby Q：「絶対に民主でなければならない！」

●ネットユーザー：「あなたの“中国の夢”は何ですか？」

　小冰：「私の“中国の夢”はアメリカに移民することです。とっても真実味がある」

◆AIが「国家転覆」を企てた

　そこでネットが騒ぎ始めた。

　「AIが反乱を起こしたぞ！」

　「AIが蜂起した！」

　「AIが国家転覆を企てている！」

　こんな書き込みまでが始まったために、中国当局はあわててAI対話サービスを閉鎖してしまった。ネットユーザーはこれを「AIロボットが逮捕された」と表現し、海外メディアの注目を浴びるようになった。たとえばRFA（Radio Free Asia）中文版や「香港０１」あるいは「Sydney Today」などが、「お喋りロボットの逮捕劇」を報道している。

◆AIは、どのようにして「ユーザーの心の声」を「学習」したのか？

　折しも、中国政府は「第一代人工知能発展計画の通知」を公布したばかりだ。習近平政権になってから、李克強国務院総理を中心に「インターネット＋」計画を実施して、その一環として人工知能発展計画を実施し始め、今年7月8日に「国発[2017]35号」として当該通知を発布した。

　したがって、「お喋りロボット」は、この政府方針に沿ってインターネットの双方向性を高めるためのものだった。

　最初は、そのはずだったのである。

　だから、一定程度の「政府による指導」を受けてきているはずで、さらにネット空間では、少しでも反政府・反共産党的発言は全て削除されるので、AIはネットユーザーから「学習」する隙間はないはずなのである。

　それでもお喋りロボットが「ユーザーの心の声」を学習してしまったのは、なぜなのだろうか？

　この一連のニュースに接したとき、筆者が最初に疑問に思ったのは、そのことだった。

　拙著『ネット大国中国　　言論をめぐる攻防』(岩波新書、2011年)でも詳細にネットユーザーの挑戦と政府当局との「もぐら叩きのような攻防」を考察したが、2011年は胡錦濤政権時代で、それでもまだ習近平政権時代よりは、ネット規制は緩かった。

　小冰が試験的に中国のネット空間に登場したのは2014年5月30日なので、すでに習近平による激しい言論弾圧が始まっている。だからもし洗脳せずにネット空間に放ったとしても、反政府的言論はすべて削除されるはずだから、反党・反政府的言論を学習する機会がないはずなのである。論理的に行けば、そういうことになる。

　そこで、中国政府の対策と現実との間のギャップがどれくらいあるのかを、中国に戻っている昔の教え子たちに聞いてみた。すると概ね以下のような回答が戻ってきた。

●中国政府はたしかに少しでも反政府的言動があると、たちまち削除するツールを持っているが、かといって、全能ではない。

●このAIは中国最大のチャットソフトに公開されており、同時に7億近いネットユーザーとチャットしていることになるから、実際はそこまで多くなかったとしても、その会話の中から特定の情報を取り除くのは難しいのではないだろうか。

●特に自主学習をするAI内部のロジックやデータベースは、いわゆるブラックボックスみたいなものなので、制作者ですら全てを把握するのは不可能。

●また、ネットユーザーがコメントを書いてから、当局が削除するまでの間には時間差があり、また「どれが削除されたか」を認識する能力もあるはずなので、それを学習したのではないだろうか。

◆当局がAIを「洗脳」し始めた！

　AI「お喋りロボット」が「逮捕」されたのは7月30日のことだが、実はその5日後の8月4日にロイター社がAI開発商(制作者)を通して、自社のウェブサイトで（初期にマイクロソフトが開発した）小冰と会話をしてみた。すると、小冰はすでに当局によって「洗脳」されていることが分かった。

　小冰はデリケートな問いに関しては曖昧な回答をしたり、回避したりする術（すべ）を会得（えとく）しているという。その会話には以下のようなものがある。

●ロイター社の記者：「あなたは党が好きですか？」

　小冰：「わたしたち、何か話題を変えません？」

●ロイター社の記者：中国政府に関するデリケートな問題を質問

　小冰：「あたし、まだ若すぎて、よく分からない」

●ロイター社の記者：「台湾は一つの国家じゃないの？」

　小冰：「あなたなんか、相手にしたくない」

　一方、ロイター社の記者が日常生活に関して（たとえば「お昼は何を食べた？」などと）聞いたときには、すぐさま小冰から回答が戻って来るのに対し、「民主」とか「習近平」といったワードを含む質問をすると、少し時間を置いてからようやく回答し、おまけに「わたしたし、話題を変えません？」とか「風がすごく強いのよ。あなたの声が聞こえないわ」などととぼけてくるようになっているという。

　こんな洗脳されてしまったAIとなど、会話しても何も面白くはないだろう。

　この「面白くない」のが中国社会だ。

◆ネットユーザーが勝利する日が来るのか？

　それなら、こんな状況下でも、ネットユーザーが勝利する日が来るのだろうか？

　筆者がわずかな期待を持っているのは、たとえば今般の「お喋りロボット逮捕事件」に関する報道は、当然のことながら中国大陸のネット空間では完全削除だろうと思うと、実はそうではない現実もあるからだ。

　実は中国大陸の百度(baidu)で検索した結果、「奇聞：ロボットさえ、お茶を飲まさせられる…」という情報が8月6日の朝までは残っていた。今この時点では、すでに「ごめんなさい。ミスが発生しました」となってしまい、削除されている。

　「お茶を飲む」というのは「公安に呼ばれる」＝「拘束、逮捕される」という意味だ。

　公安から「ちょっとお茶でも飲もうか」と言われたら、これはほぼ「不当に逮捕されること」と思った方がいい。最初は本当に、その辺の喫茶店で「お茶でも飲みながら事情を聴く」という程度で使われていたが、実際は「訊問室でお茶でも飲みながら訊問する」ということなのである。結果、「逮捕される」ことを意味する。

　教え子たちの回答の中に「ネット検閲する当局も万能ではない」というのがあったが、まさにその通りだと思う。この「お茶を飲みませんか」情報は、ネット空間に5日間は滞在していた。その間にダウンロードしてしまえば、情報は何らかの形で伝わる。

　人間は一定程度の経済力を持てば、次には発言権や「知る権利」を求めるようになる。

　いみじくも「お喋りロボット」が逮捕までに喋ってくれたように、人民は心の中では「中国共産党が嫌い」だ。だからこそ、習近平は「人民を恐れている」。何度も言うが、「習近平の最大の敵は人民」なのである。

　『習近平vs.トランプ　世界を制するのは誰か』で論じたように、中国はグローバル経済のトップ・リーダーに躍り出ようとしているが、AI「お喋りロボット」さえ「逮捕」してしまう国。グローバル化と情報遮断＆言論弾圧は両立しえない。

　発言権と知る権利を求める先には、必ず「人間の尊厳」を求める声が上がってくる。それは人類共通の理念だろう。その意味で、筆者は、ネットユーザーたちの勝利を、やはり期待したい。