新たなセキュリティ領域としての「キラーロボット」:ロボットが人を襲撃してくる時代へ

「Slaughterbots」より

 「ロボットが人を殺しに来る」あたかもSF映画の1シーンのようだが、国際社会では現在真剣に議論されている。IoTやロボットの普及、そして人工知能(AI)の発展によって、新たな脅威として台頭してきているのがキラーロボットだ。つまり人間が関与しないで、ロボットが自律的に敵を殺傷することができるようになる。AIの急速な技術進化はシンギュラリティ(技術的特異点)と呼ばれ、人間に計り知れない影響を与えかねないということで、イーロン・マスク氏やホーキング博士などが以前から警鐘を鳴らしている。

「AIの健全な発展を阻害しないよう冷静な議論が必要」

 まだ世の中には出てないが「自律型致死兵器システム(Lethal Autonomous Weapons Systems:LAWS)」と呼ばれており、2017年11月には、国連の特定通常兵器使用禁止制限条約(CCW)の枠組で公式専門家会議が開催され、日本からは外務省や防衛省らが参加した。

 その中で日本からは外務省が「LAWSに関連するロボット技術や人工知能(AI)技術において先進的な技術を擁する日本として、知見の提供を行うなど積極的に議論に参加したい。特にAIは、産業、医療、災害対応等、経済や社会の様々な分野で利用され、今後も急速な発展が見込まれていることから、その健全な発展を阻害しないよう冷静な議論が必要」と国際社会に対して問題提起をしていた。

 

 LAWSの脅威については、国際社会で数年にわたって議論が繰り返されてきた。いくつかのNGOもキラーロボット反対を呼びかけている。一方で、AIの利便性は誰もが認めるところであり、健全な技術的発展は経済や人間生活にも大きく貢献している。そのため、あらゆる開発を禁止することはできない。この問題は、すぐに結論が出る領域ではないことから、来年以降も議論を継続する必要性を確認する報告書が採択された。

小型ドローンが人類を襲う動画を公開

 2017年11月の国連での会合を前に、キラーロボットの脅威をアピールするために、カリフォルニア大学バークレイ校コンピュータサイエンス学科で35年以上AIの研究をしてきたStuart Russel教授らが「Slaughterbots」(Slaughter:虐殺とRobots:ロボットの造語)という動画を制作して公開した。以下がその動画で、公開から数週間で既に200万回以上再生されている。

 キラーロボットというと、いわゆる「ロボット」を想像するかもしれない。だが、動画の中にもあるように、どこにでもあるような小型ドローンが悪用されて、人類を襲ってくることもありうる。

 Stuart Russel教授は「ロボットが人間を殺すことを許すようになってしまったら、人間にとって安全と自由が崩壊する。何千人もの研究者が同意している。この動画の中で見た未来を防ぐことはできる。だが急がねばならない」と動画の中で訴えている。

 サイバースペースにおけるAIの発展は人間の生活や産業界に多大なベネフィットをもたらしている。AIやドローン、IoTは人々の生活の一部にもなっている。一方で、AIやロボットの発展によって、従来のサイバーセキュリティとは違った側面の脅威が登場しようとしてきた。もはやSF小説や映画の世界ではなく、「ロボットが人間を襲ってくる」ことが現実に起きるかもしれない。現在、国際社会では真剣に新たなセキュリティ領域としてキラーロボットについて議論されている。