Googleの元エンジニア、キラーロボット開発を懸念「偶発的に戦争が起こり大惨事になりかねない」

(写真:ロイター/アフロ)

「化学兵器と同じように国際条約で規制されるべき」

 Googleの元ソフトウェアエンジニアで昨年Googleを退職したLaura Nolan氏が2019年9月に英紙ガーディアンのインタビューでキラーロボットの危険性について語った。キラーロボットとは自律型殺傷兵器(Lethal Autonomous Weapons Systems:LAWS)のことで、AI(人口知能)の発展によって、人間の判断を介さないでロボット自身が攻撃を仕掛けてくる。人間の判断を介さないことからロボットが暴走して残虐な攻撃、殺戮に繋がるのではないかといった懸念や、ロボットが人間を殺害するという倫理的な観点からキラーロボットの開発が懸念されている。

 Laura Nolan氏は、Googleが米軍のドローン開発のプロジェクトに参加していることに反対して、2018年にGoogleを退職。同氏は「キラーロボットという新しい時代の兵器が登場し、新たな戦争と新たな非道的行為、残虐性を導く可能性がある。人間の判断を介さないキラーロボットの開発は禁止されるべきだ。キラーロボットは化学兵器と同じように国際条約で規制されるべきだ。遠隔地から人間が操作して攻撃を行うドローンと違って、キラーロボットはプログラムされていないような悲惨な結果を招きかねない」と訴えた。

「私自身がキル・チェーンにいることに気がついた」

 Laura Nolan氏はGoogleを退職後、キラーロボット開発に反対するNGO「Campaign to Stop Killer Robots(キラーロボット・ストップ・キャンペーン)」に参画し、キラーロボットの危険性を訴えている。同氏は「キラーロボットは同時に何台でも動くことによって、大きな残虐な結果になりかねない。キラーロボットが何百台、何千台と開発されたら、現在の国際人道法の違反になりかねない悲惨さを招くだろう。人間の判断を介さないことから、キラーロボットが人間が想像できないような動きをして、偶発的な大きな事故につながることもありうる。そのためにも予測することが不可能で危険に満ちたキラーロボットの開発は禁止されるべきだ」と語った。

 Laura Nolan氏は2017年から米軍が画像認識技術とAI技術をドローンなど軍事で活用していくパイロットプログラム「Project Maven」に従事しており、アイルランドでのトップ・ソフトウェア・エンジニアの1人だった。Googleでは2018年4月に米国防総省の同プロジェクトへの協力をやめるように3000人以上の社員が署名して請願書を提出。同氏は「攻撃対象が人かモノかをAIが判断できるようにすることが私たちに課された仕事だった。米軍のプロジェクトを通じて、ドローンからの動画の画像認識技術が急速に発展していき、倫理的な問題の懸念が高まって来た。私自身が戦場で人を直接殺害するわけではないが、米軍のプロジェクトのためにAI技術の開発に従事することによって、私自身が兵器によるキル・チェーン(kill chain)の一部にいることに気がついた。アフガニスタンで米軍がドローンで攻撃していたように、キラーロボットでの攻撃によって多くの人間が標的にされるようになりかねない」と語っていた。

「キラーロボットに市民と兵士の区別はできない」

 また「自律した兵器が、レーダーで察知したシグナルで人間には予測不可能な攻撃を仕掛けるシナリオがありうる。ロボット兵器には市民か兵士かの識別能力や人間のような常識はない。他にもキラーロボットが恐ろしいのは、実際の戦場でしかテストすることができないことだ。ひょっとするとロシア軍がシリアでキラーロボットを導入してくるかもしれないが、そんなことは誰にもわからない。キラーロボット自身が判断することのテストを行うとしたら、それはリアルタイムに行われなければならない。さらに、そのようなキラーロボットのシステムやプログラムはどのようにテストをするのか?例えば市民と兵士の区別をどのようにキラーロボットが判断するかの試験を行うのだろうか?戦場にいる兵士なのか、ただ銃を持ってウサギを追っている市民なのか、区別できるのか?」と投げかけた。

「核施設を攻撃して、大惨事にもなりかねない」

 さらに「アイルランド政府には、キラーロボットの開発や導入にはもっと反対するように動いて欲しい」と語っていた。続けて「私はAI搭載のミサイル誘導システムやミサイル防衛システムに反対しているのではない。それらは完全に人間のコントロールが出来ており、人間の誰かが責任をもって扱うことができる。自律型殺傷兵器やキラーロボットは、戦争における技術的な問題だけでなく倫理的な問題も変えていくことになる。キラーロボットについての懸念はほとんどの人が語らないが、キラーロボットが偶発的に突然、戦争を開始してしまい、人間を攻撃するだけでなく、核施設を攻撃して、大惨事にもなりかねないことを肝に銘じてほしい」と語っていた。