キッシンジャー氏、戦争でのAI利用を懸念「シュミット氏は友人だがGoogleは市民にとって脅威」
アメリカの元国家安全保障問題担当大統領補佐官で元国務長官のヘンリー・キッシンジャー氏が2019年11月に国家安全保障会議においてAI（人工知能）についてスピーチを行った。1923年生まれでナチス・ドイツのユダヤ人差別から逃れてドイツからアメリカに移民してきた国際政治学者のキッシンジャー氏は96歳になるが、今でもアメリカの政財界に強い影響力を持っている。特にアメリカの外交・安全保障問題では戦略の大家であるキッシンジャー氏の動向と発言はアメリカ国内だけでなく世界中から注目されている。
キッシンジャー氏は講演の中で「Googleの元会長のエリック・シュミット氏は友人だが、世界中のデータや情報を収集して、AI技術開発に注力しているGoogleは市民にとって脅威である。Googleの元CEOのシュミット氏はAIが人間の意識を大きく変えようとしていることを理解している。シュミット氏は私にAIの研究者をたくさん紹介してくれたが、私はAIについては歴史的にも哲学的にも戦略的にも様々な面で懸念している」と語った。AI技術の発展は軍事分野でも活用が進んでいる。Googleは2017年から米軍が画像認識技術とAI技術をドローンなど軍事で活用していくプロジェクト「Project Maven」を行っていたが、2018年4月に米国防総省の同プロジェクトへの協力をやめるように3000人以上の社員が署名して請願書を提出した。
キッシンジャー氏は「AIが人間の意識を超越していくことを確信している。AI技術者たちはAIの持っている潜在的な能力に対して謙虚な姿勢だが、私は戦略家の立場から申し上げると、AIは戦争と戦略の本質を変えることに繋がると考えている。AIはこれからも発展していき、私たちの生活や経済活動を大きく変えていくだろう」とコメント。
「そして、私たちが安全保障の観点で直面している問題の本質は、"世界を破壊できる核兵器が敵陣営に向かって発射されたら、どのような脅威が起きるのだろうか？"ということと同じだ。核兵器や様々な大量破壊兵器が1970年代以降に多く開発され、外交において様々な報復や抑止に使われるようになってきているが、その存在自体がますます難解になってきている。そしてAIのアルゴリズムが兵器使用における判断のプロセスに活用されるようになってきており、それがスタンダード（標準）になっていくのだろう。つまり、AI自身が判断して標的に攻撃を行うようになる。しかし、そのようにAIが判断して攻撃を行うようになる前に、決断するリーダーや人間はAIの限界について、もっと理解して、その影響力と脅威についてしっかりと考えていくべきだ。紛争や戦場においてAIによる判断で攻撃を行う"戦争ゲーム"が本当に信頼できるのかどうかを考えないといけない」と強調し、戦争におけるAIの活用に対する懸念を訴えた。
キッシンジャー氏は自身の著書『国際秩序』（日本経済新聞社、2016年）で科学技術の発展と国際政治と安全保障に与える影響について以下のように語っていた。
テクノロジーがいくら進歩しても、人類が発明した核兵器の威力の恐ろしさや、その使用を抑制している均衡がそれと比べて脆弱であることに、代わりないのだ。核兵器が通常の軍事的手段になるようなことを許していはならない。そのような重大な局面が訪れれば、国際秩序は既存の核保有国間に、不拡散を堅守する合意を求めるだろう、さもないと秩序は核戦争の惨禍を担うはめになる。歴史のほとんどを通じて、テクノロジーの変化は数十年、数年という単位で、斬新的に進歩してきた。既存のテクノロジーを磨いたり、組み合わせたりして、それが進められた。急激なイノベーションもやがては、従来の戦術的・戦略的ドクトリンにあてはめられることがあった。現在が過去と大きく異なっているのは、コンピューターの処理能力の進歩の速さとITがあらゆる面にまで拡大しているという点だ。コンピューターは小さくなり、コストが下がり、指数的に処理速度が速くなって、先進的なCPUがほとんど全てのものに組み込まれた。革命的な影響は、人間の仕組みのあらゆるレベルにまで広がる。スマートフォンを駆使する個人は推定約10億人。一世代前の多くの情報機関の限界をしのぐ情報と分析を保有している。こうした個人がやりとりするデータを集めたり、モニターしたりする企業は、現代の国家の多くや、従来の勢力をはるかにしのぐ影響力と監視能力を発揮する。
現代の世界は、文明生活を破壊する威力がある核兵器という遺産を受け継いだ。しかしながら、核兵器は使用された時には破壊的な影響を及ぼすとはいえ、その重要な意味合いと使用は、戦時と平時という明確に異なる時期ごとに区別して分析することができる。だが、インターネットの新テクノロジーで、全く異なる展望が開けた。サイバースペースは、歴史の実例全てを覆す。どこでも存在する（ユビキタス）が、それ自体は脅威ではない。危険であるかどうかは使い方次第だ。サイバースペースから出現した脅威は、漠然としていて、明確な形がなく、出所を突き止めづらい。ネットワーク化された通信は、社会、金融、工業、軍事セクターで普及し、絶大な利益をもたらす面がいろいろある。脆弱性も根本的に変化した。インターネット・テクノロジーは、戦略やドクトリンを凌駕してしまった。とにかく、当面はそれが続くだろう。
出典:ヘンリー・キッシンジャー著、伏見威蕃訳『国際秩序』日本経済新聞社、2016年 PP386-391（一部略）
