人工知能とロボットの発展によって「キラーロボット」と呼ばれる自律型殺傷兵器（LAWS）の登場が懸念されている。SF世界のような話だが、ロボットがロボット自身の判断で人類に攻撃を仕掛けてくることが懸念されており、国際社会ではそのようなキラーロボットが登場しないようにと国連などでも真剣に議論されている。

　赤十字国際委員会（International Committee of the Red Cross：ICRC）の法律アドバイザーを務めるオーストラリア人のNetta Goussac氏がオーストラリアのメディア「The Strategist」のインタビューで、キラーロボットの回避のためにも、「人間による判断」が重要だと主張。Netta Goussac氏は「技術の進展があまりにも速いために、キラーロボットの登場の防止の対策は、急がなくてはいけない」と強調。「各国家がキラーロボットの開発の必要性を考えるのではなくて、キラーロボットに何をさせて、何をさせてはいけないかを真剣に考えることが重要だと赤十字は考えている」とコメント。

「ロボットには責任や判断できる倫理観がない」

　さらにNetta Goussac氏は「現在は、まだそのようなロボット自身の判断で人類を攻撃してくるようなキラーロボットはないが、一度キラーロボットが登場してしまうと、国家はすぐにそのようなキラーロボットを兵器として利用することになるだろう。そのようなキラーロボットの登場が実現する前に、どこまでなら許容して、どこからは禁止するかの合意や条約を締結することが重要だ」と語った。そして「国際社会、国家間で自律化した兵器への対策として、人間の役割をしっかりと議論すべきだ。このようなキラーロボットが戦場に登場すると、国際人道法に違反するような行為が多く行われる可能性が高い。人間だけが法律に従うことができる存在であり、ロボットや機械には国際人道法を遵守できる責任や判断できる倫理観は備わっていない」とコメント。

　「自律した兵器やキラーロボットの登場が、人道主義の観点からどのような結果をもたらすかを問わなくてはならない。そのために、どのような法律を適用すべきかを考えないといけない。例えば化学兵器禁止条約や地雷禁止条約と同様の法律の適用が考えられる。自律型殺傷兵器やキラーロボットは人間が設計して開発するものだが、人間が開発したキラーロボットがいつ、どこで攻撃を仕掛けてくるかが、人間にわからないものだ。人間が開発したキラーロボット自身の判断と人間の間に距離があることが赤十字としても懸念している。キラーロボットを兵器として使用することの法的な判断と、それに従うことが重要だ」とも語った。

「人間の役割を真剣に議論しないといけない」

　続けて「一番の問題は、自律化した兵器が環境や状況に応じて攻撃を停止したりすることができないことだ。例えば、市民か軍人かどうかの判断は自律した兵器やキラーロボットにはできないだろう。空中や海中での戦闘において、一般市民がいない場所での自立した兵器やキラーロボットの使用は考えられるかもしれないが、状況や環境が複雑になればなるほど、どのような事態が起きるか想定することができなくなる。もっと大切なことは、そのようなキラーロボットが登場しても、人間が監視してコントロールできるようにしておくことだ。重要なことは技術的な特徴ではなく、キラーロボットや自律兵器を利用する環境であり、それらは戦闘の状況に応じて変化していく。キラーロボットはまだ具体的に登場してきていないので、技術的な特徴でルールを設定するのは難しい。まずは戦争やキラーロボットの使用における人間の役割とは何かを真剣に議論していかないといけない」と語った。

▼新たな戦闘技術の登場に対する赤十字社の立場を述べるNetta Goussac氏（2018年1月）