グーグルよ、「邪悪」になれるのか?――米中AI武器利用の狭間で
「邪悪になるな」という理念を守るために中国を撤退したグーグルが、再び中国市場に参入しようとしているとして、米軍トップが「中国軍に恩恵を与える」とグーグルに警告。背景には米中のAI武器利用競争がある。
◆米軍制服組トップがグーグルに警告
米軍制服組トップのダンフォード統合参謀本部議長が、米上院の軍事委員会公聴会でグーグルの中国における事業活動に触れ、「間接的に中国人民解放軍に恩恵を与えている」と批判した。3月17日のCNNやロイターあるいは中国共産党機関紙「人民日報」の姉妹版「環球時報」などが、一斉に報じた。
それらによれば、米軍当局は「グーグルが米・国防総省の事業から撤退しておきながら、中国市場に再参入しようとするのは適切でない」とみなしており、結果的に「中国による民間技術の軍事面への転用を容易にする役割をグーグルが果たしている」と批判しているとのこと。
それに対してグーグルの広報担当者は「米・国防総省のいくつかの事業から撤退したものの、完全撤退ではなく、一部での関与は続けている」と述べ、撤退した理由に関しては「社内の反対意見を受けたため」とCNNの取材に回答している。
中国のメディアはさらに、グーグルが米・国防総省から撤退した事業の中には、小型無人飛行機(ドローン)の軍事作戦能力向上などに向けた人工知能(AI)活用の事業があることに焦点を当てている。
◆中国「次世代AI発展計画」発布の年に北京に「グーグルAI中国センター」
というのも、グーグルの中国市場再参入のコアになっているのはAIだからだ。
2017年12月13日、グーグルは北京に「グーグルAI中国センター(Google AI China Center)」を設置している。
この年はまさに習近平政権が「次世代AI発展計画」を発布した年だった。
今年2月12日付のコラム「中国のAI巨大戦略と米中対立――中国政府指名5大企業の怪」で述べたように、国務院(中国人民政府)は2017年7月8日、国発〔2017〕35号として「次世代AI発展計画(中国語では新一代人工智能発展規画)」を発布している。これは2015年5月19日に国発〔2015〕28号として発布された「中国製造2025」を補強する計画だ。
同コラムでは、中国がAI国家戦略の達成を3段階に分け、各段階における達成目標と産業規模をご紹介したが、その第一段階(~2020年)を実現するための手段の一つとして、北京に「グーグルAI中国センター」を設立したと解釈するのが妥当だろう。
注目すべきは「次世代AI発展計画」の「三、重点任務」の中の(四)には「AI軍民融合領域を強化せよ」という項目があることだ。
これはまさに米上院の軍事委員会公聴会で軍当局が示した「中国による民間技術の軍事面への転用を容易にする役割をグーグルが果たす可能性がある」ことへの懸念の正当性を裏付けている。
上記(四)のAI軍民融合強化の項目には、その目的を果たすために「科学研究所や大学、企業などと軍事産業が常態的に提携し協調するメカニズムを構築すること」とある。
この文言は実際上、「グーグルなどのAI開発に優れた米大手IT企業と中国のAI産業を結びつけた研究所を中国に設置せよ」と中国政府が暗に指示したに等しい。研究組織を通して、アメリカの国防に協力している最先端のAI技術を中国が頂こうという構図が見えてくる。
「環球時報」は「呆気にとられる!グーグルが中国人民解放軍を助けているだって?」という見出しで、長文の批難記事を掲載しているが、米軍当局者が米上院の軍事委員会公聴会で述べた懸念は、少しも「呆気にとられる」ようなことではなく、非常に現実味を帯びた警告と言わねばなるまい。
◆「グーグルの女神」李飛飛(リー・フェイフェイ)と「AIの民主化」
「グーグルAI中国センター」設立時にグーグル側から派遣された代表は、グーグル・クラウドのAI事業部を担当していた李飛飛(Fei-Fei Li、リー・フェイフェイ)という女性科学者だった。
1976年に北京で生まれ、四川省で育った後に、天安門事件後の1993年に両親に連れられて渡米した李飛飛は、苦学しながらプリンストン大学を卒業し、若くしてスタンフォード大学の教授になっていた。
そして2017年1月4日、スタンフォード大学AI実験室の主任の身分のままグーグルのAI事業部における研究をも、チーフ・サイエンティストとして担当するようになる。
「グーグルAI中国センター」が設立された頃には、李飛飛は、「グーグルの女神」として中国の若者に称賛されるようになっていた。というのは、彼女は2017年3月8日、グーグルの「Cloud Next 17 大会」でメインスピーカーとして講演したのだが、そのテーマが「Democratizing AI(AIの民主化)」で、その全文が中国語に翻訳されて動画とともに中国のネットに掲載されたからだろう。「計算の民主化」「データの民主化」「アルゴリズム(計算処理の仕方)の民主化」などは、中国の若者の心をつかんだ。「AIは全人類の幸福のために使われなければならない」と李飛飛はスピーチで強調している。
ところが、若者までが熱い視線を送っていたこの「グーグルAI中国センター」は、あっという間に揺らぎ始めたのである。
なんと、1年も経たない2018年9月11日に、李飛飛はグーグルを離職してしまったのだ。スタンフォード大学における教育研究に専念することになったという。
李飛飛の後継にはグーグル・クラウドのAI研究開発部門を主管する李佳(Jia Li、リー・ジャー)という女性が就いたが、李佳もまた2カ月後の2018年11月にグーグルを去ってしまった。
◆揺らぐグーグル
目まぐるしい人事異動は、グーグルの中心が揺れ動いていると、人々の目には映った。
それは中国の市場に再参入するのか否かというビジネス展開の場においても「揺らぎ」を招いている。
たとえば、2018年12月11日、グーグルの現在のサンダー・ピチャイCEOは米下院司法委員会で、「現時点では中国における検索事業に乗り出す計画はない」と証言した。というのも、同年8月、グーグルが中国向けの「ドラゴンフライ」と呼ばれる検索エンジンの開発を進めているという報道が、国内外で広く報道されていたからだ。
それに対してアメリカのペンス副大統領は、同年10月4日にハドソン研究所で演説し、「ドラゴンフライの開発を即座にやめるべきだ」と、グーグルの対中接近路線を批難している。それもあって、ピチャイは中国市場に再参入するつもりはないと証言したのだろうが、それならなぜ冒頭に書いたようなグーグルに対する警告が、今年3月になって発せられたのだろうか。
◆AIの軍事利用とグーグルの「AI原則」
実はグーグルがかつて米・国防総省と結んだ計画 ”Project Maven” には、画像や動画分析のためのAIアルゴリズム開発が含まれている。戦場における画像や動画をAIに学習させて、攻撃するターゲットの正確度や状況判断の迅速性などを高める効果をもたらす。
これを実現するために、Project Mavenはドローンが撮影した膨大な画像や動画を学習データとしてアルゴリズムを構築することを基軸としている。
どこからどう見ても、「AIの軍事利用」だ。
そこで2018年6月、グーグルは契約を更新する2019年初頭を目途に、Project Mavenから抜けると宣言した。
なぜなら3000人ほどの従業員が「AIを軍事利用するプログラムへの参加」に反対する署名運動をして、次々と重要な人材がグーグルから去っていったからだ。
グーグルには「邪悪になるな(Don’t Be Evil)」という理念がある。だからこそ、多くの優秀な技術者や研究者を集めることができた。
「グーグルの女神」と称せられた李飛飛が突如グーグルを去った背景にも、こういった事情があったのだろう。
もう一度、前述の李飛飛のスピーチに目をやってほしい。テーマは「AIの民主化」で、その中には「アルゴリズムの民主化」がある。これはProject Mavenを示唆してのことだったにちがいない。だから彼女は「AIの武器利用」の可能性のあるグーグルを去ったのだろう。そして中国の「次世代AI発展計画」の中にある「AIの軍民利用」をも警戒して、「グーグルAI中国センター」を去り、スタンフォード大学に戻る道を選んだと解釈される。
グーグルのピチャイCEOは2018年6月に「AIを武器利用に使用しない」という、グーグルの「AI原則」を発表した。
そして、その「AI原則」を盾にして、約束通り、2019年3月にProject Mavenの契約が切れるのを待って、米・国防総省から離れることになった。
だからこそ、この時期に、冒頭で書いた米上院の軍事委員会公聴会でのグーグル批判が飛び出す結果を招いたものと思われる。
中国のメディアは、それに先んじた1月14日に「グーグル(谷歌)によってAIプロジェクトの梯子を外され怒り狂った米国防部が、シリコンバレーでAI人材を探し回っている」というタイトルで、すでに米当局の動きを予見する報道を拡散させている。
◆彷徨うグーグルの理念「邪悪になるな」
一方、グーグルは、こっそりとAIの軍事利用計画のために大量のクラウドワーカーを雇用していたことが、今年2月5日に明らかになった。The Interceptが、「グーグルはギグ・エコノミー・ワーカーを、異論のあるProject Mavenのために雇用していた」で明らかにした(この報道のタイトルは、筆者が最初にアクセスしてからだけでも、3回にわたって修正されているため、アクセスした時点でのタイトルは、又もや微妙に異なっているかもしれない)。
「ギグ・エコノミー」とは、ネットを通して単発の仕事を受注する働き方で、「ギグ・ワーカー」は1時間あたり1ドル(時間給110円!)にも満たない低賃金の頭脳労働者として使い捨てにされている。このようなことをしている時点で、既にかなり「邪悪」ではないのか。
2006年から2010年にかけて、グーグルは中国市場に本格参入していたが、中国政府の検閲に従うことを嫌い、「邪悪になるな」という魂を重んじて、中国市場を去った。
あの頃のグーグルは美しかった。
中国の若者はそのグーグルに民主への熱い思いを込めて涙し、別れを惜しんだものだ。
あのグーグルはどこへ行ったのか?
AIの軍事利用という新たな局面に遭い「邪悪になるな」という魂が彷徨っている。
詳細に追いかけてみると、「グーグルAI中国センター」もまたネット上のみで働くギグ・ワーカーを曖昧模糊とした形で募集している痕跡があり、なにやら煮え切らない怪しさが漂っている。AIの軍事利用とは決別してもビジネスチャンスは逃したくないという迷いが、さらなる不透明感を醸し出しているように思う。
なお、中国を去るグーグルに対する2010年における中国の若者の切なる思いは、拙著『ネット大国中国――言論をめぐる攻防』(2011年)で執拗に追いかけた。