Yahoo!ニュース

完全自律型兵器のグローバルユース会議①「人間の責任を確実にするため若者は重要な役割を担っています」

佐藤仁学術研究員・著述家
(写真:ロイター/アフロ)

2020年12月12日に完全自律型兵器に関するグローバルユース会議がオンラインで開催されていた。国際学生会議と国際NGO連合体の「キラーロボット反対キャンペーン」が主催し、20カ国以上からの若者が参加して、完全自律型兵器に関する自国の立場、禁止を支持する理由について訴えていた。AI(人工知能)技術が発展し、人間の判断を介さないで標的を攻撃する「キラーロボット」と称される自律型殺傷兵器(Lethal Autonomous Weapons Systems:LAWS)は、人間の判断を介さないで標的を殺傷することが非倫理的であるという理由から国際NGOや世界30か国の政府が反対している。

今回は、完全自律型兵器に関するグローバルユース会議の中から国連軍縮部のコメントとイギリス、フィンランドのユーススピーカーの声を紹介する。

国連軍縮部「若者は危機意識の向上と新たな考え方を広げるという重要な役割を持っています」

会議の冒頭に、国連軍縮部ユースエンゲージメント担当のキム・スー・ヒュン氏がビデオメッセージで以下のコメントを寄せていた。

地球市民として若者がこれまで主導してきたグローバルでの活動を振り返ると、気候変動で若者が企業や政府を動かしてきたことと同じように、軍縮や軍備管理・不拡散の分野においても和漢のが活躍するだろうと期待しています。

今日の世界には18億の若者がいます。史上最高の人口規模で、若者は変化をもたらす力を持っています。若者のアイディアは全ての人のための平和と安全保障を強化し、深刻な地球規模課題を解決するための新たな視点をもたらします。

国連事務総長は2018年に発足した「軍縮アジェンダ」の中で、「若者世代が変革のための究極のパワーであり、そのパワーが軍縮を長らく支え続けている」とコメントしています。平和と安全の維持のために若者が果たしてきた貢献は2019年12月に開催された「若者・軍縮・不拡散」と題する決議案が全会一致で採択されることにもつながりました。この決議は若者が自国の軍縮・不拡散の議論やその意思決定プロセスにより積極的に参加することを提言しています。

国連軍縮部は若者の参加を軍縮教育の中心に据えています。私たちは軍縮・不拡散問題において若者の声に耳を傾けていくことが不可欠であると考えています。2021年1月の核兵器禁止条約発効は、若者が主導した核兵器のもたらす被害を訴える世界的な運動の集大成といえます。

自律型殺傷兵器がもたらす国際的な安全保障についても、国連軍縮部ではこの課題も担当しています。現在、私たちの世界を再定義しようとしている新しい技術の多くは軍縮・不拡散・軍備管理などの目標の達成に貢献することができます。しかし残念ながら新たに自律性を持つ兵器のコンセプトやシステムの研究・開発・試験が行われ、兵器システムの重要機能において自律性が高まってきているという報告が増えています。

そのような兵器に対して、国際法の適用について共通の基準や理解が存在していない状況において、私たちは国際人道法の基本原則である、公共の良心に反する自律型兵器システムの開発・使用リスクに直面しています。これはとても憂慮すべき事態です。しかし、世界中の若者やイノベーターは、親交技術が人類のために貢献するよう導くパワーを持っています。若者は危機意識の向上と新たな考え方を広げるという重要な役割を持っています。

大量破壊へ機や通常兵器による脅威を軽減するため、そして新しい兵器システムの使用において人間の責任を確実にするため、若者は重要な役割を担っています

イギリス「イギリスはLAWSの開発に積極的に関与」

イギリスのユーススピーカーとしてオックスフォード大学のレイラ・マンソルベ氏が参加した。

イギリスは国際舞台で自律型殺傷兵器の課題に一貫して取り組んできました。この分野ではイギリスは先進的であると自負しています。ジョンソン首相は2019年に開催された国連総会で「イギリスは親交技術の開発を導く規範や基準を形成するためのグローバル原則を設ける」と宣言しました。この分野におくえる世界的なリーダーであると自認しています。

2020年に国連で開催された「特定通常兵器開発禁止制限条約」の政府専門家会合に対するイギリスの声明も心強いものでした。人間のコントロールの必要を強調し、既存の規制体系を補強するためにLAWSに関する一連のガイドラインを作成することのメリットが示唆されていました。

しかしイギリスは具体的な法的規制の必要性については否定し続けています。新しい法的枠組みは必用でも望ましくもないと主張しています。実際にイギリスはLAWSの開発に積極的に関与しています。国防省は自律的に任務を遂行できるドローン兵器の研究開発に積極的に資金を提供しています。イギリス軍の司令官が「イギリスは自律型システムを確実に利用する」と発言しています。また「近い将来に12万人の軍人のうち3万人がロボットになるかもしれない」と語っていました。このようにイギリスは自律型兵器に積極的に関与していることがわかります。

このようなロボットの軍隊は避けなければなりません。自律型兵器に頼るようになれば戦争はあまりにも簡単になります。戦争をテレビゲームのようにシュールな大変に変えてしまいます。自律型兵器に簡単にアクセスできるようになることは戦争を「リスクのない」ものにするというよりも、戦争の敷居を低くして世界の平和と安全を脅かすことになります。例えば、自律型兵器が当たり前の兵器になれば、個人や企業、テロリスト集団が購入して配備して使用するこが可能になります。そのような人々が大人数の仲間を集めなくても、国家の秩序を乱すことができてしまいます。選挙で選ばれている少数の人々が自律型兵器を活用して、無責任に影響力を強大に行使することは民主主義に対する脅威です。

もう1つの反対の理由は道徳と倫理の観点です。人間を単なるデータに還元することは許されることではないです。私たち人間は冷静に計算されたコードとして特定して、駆逐されるだけのただの標的ではないです。人間は、それぞれの国に住む市民であり、人間の尊厳を少しでも尊重する国の政府は非倫理的な自律型兵器の規制に反対すべきではありません(規制すべきです)。

自律型兵器システムが登場して流通するようになれば、効果的な規制を行うことは困難になってしまいます。政府はこれらの兵器システムの開発・使用を規制するために、特に人権尊重の歴史的伝統を持つイギリスのような民主主義を愛する国はLAWSの拡散によって得られるものよりも、失うものが多いことを認識しなければなりません。

世界と国内の安全保障、民主主義、そして人間の尊厳と尊重のためには直地に断固とした行動が必要です。私たちは完全に自律的な兵器の開発・取得・配備・使用を防ぐための法的措置の導入を指示するよう、イギリス政府に強く求めます。イギリス政府が私たち若者の声に耳を傾けてくれて、完全自律型兵器のない未来のために行動してくれることを信じています。

フィンランド「AI技術の心配よりも自律技術を使用する人間の愚かさを心配すべき」

フィンランドのユーススピーカーとしてリッカ・アーノス氏が参加した。

フィンランドは世界一安全で幸せな国にランクインした国です。そして最高のガバナンスと教育制度システムがあります。フィンランドが自律型殺傷兵器システムを倫理的にも法的にも深刻なリスクを伴う課題として認めたことを発表できることを誇りに思っています。

フィンランド政府は「人間は、生と死の問題を扱う時に常に究極の責任を負うべきである」と発表しています。こうした発言にもかかわらずフィンランド政府はキラーロボットを禁止したり、制限するために新しい国際条約について交渉するという提案は支持していません。

これはフィンランドが中立性を保とうとして、全ての重要な意思決定から遠ざかっているような、ちょっと恥ずかしがり屋の国だからかもしれません。しかし自律型兵器システムのような喫緊の課題については、他の国が追い付くのを待つべきではありません。むしろフィンランドが他の国が追い付くための手本を示す先駆者になるべきです。

技術開発の先進国としてフィンランドはAIが人類を脅かすのではなくて人類に利益をもたらすようにすべきです。今こそ、その決断をする時です。個人的にはフィンランドには現在自律型兵器システムの禁止に賛成している30国のグループに入って欲しいです。私は戦争においても正義と道徳があると信じています。殺戮の連鎖(キルチェーン)から人間の力を取り除くことは、人間が命の喪失から距離を置くことに繋がります。さらに人間によるコントロ―ルを取り除くことは、我々人間をロボットと区別する中心的な特徴の1つを失うことになります。

人間と違って自律型兵器システムは例えば、それが道徳的であったとしても、殺傷しないためのプログラミングに反して行動することはできないです。人為的ミス(ヒューマンエラー)を防げることは、人間的な善を奪うことでもあります。思いやり、共感、憐み、慈悲、熟考というのは唯一で価値ある資質であるだけではなく、戦争で人間性を失わないための前提条件でもあります。

私たちはAI技術の心配をするよりも殺傷し、破壊するために新しい自律技術を使用する人間の愚かさを心配すべきです。このような兵器は、私たちを不完全な状態から脱する手助けをしてくれるわけではないです。キラーロボットを使用すると戦争における人間の潜在的な善を失うことになります。キラーロボットの使用は世界平和、人間性にとって破壊的な結果をもたらす可能性があります。

(関連記事)

完全自律型兵器のグローバルユース会議①「人間の責任を確実にするため若者は重要な役割を担っています」

完全自律型兵器のグローバルユース会議②「キラーロボットの結果に苦しんで生きていくのは私たち若者」

完全自律型兵器のグローバルユース会議③「若者のアイディアと理想でキラーロボットの完全禁止を」

完全自律型兵器のグローバルユース会議④「多くの若者はキラーロボットよりも他に切迫した問題がある」

完全自律型兵器のグローバルユース会議⑤「キラーロボットが子供にどのような影響を与えるのか考えて」

完全自律型兵器のグローバルユース会議⑥「キラーロボットによる顔・音声認識技術には強く反対」

完全自律型兵器のグローバルユース会議⑦「キラーロボットは人類にとって前例のない脅威です」

完全自律型兵器のグローバルユース会議⑧「キラーロボットは私たちの世代の核爆弾」

完全自律型兵器のグローバルユース会議⑨脳科学者の茂木健一郎氏「AI技術の軍事活用は生死に関わる問題」

学術研究員・著述家

グローバルガバナンスにおけるデジタルやメディアの果たす役割に関して研究。科学技術の発展とメディアの多様化によって世界は大きく進化してきました。それらが国際秩序をどう変化させたのか、また人間の行動と文化現象はどのように変容してきたのかを解明していきたいです。国際政治学(科学技術と戦争/平和・国家と人間の安全保障)歴史情報学(ホロコーストの記憶と表象のデジタル化)。修士(国際政治学)修士(社会デザイン学)。近著「情報通信アウトルック:ICTの浸透が変える未来」(NTT出版・共著)「情報通信アウトルック:ビッグデータが社会を変える」(同)「徹底研究!GAFA」(洋泉社・共著)など多数。

佐藤仁の最近の記事