「核の管理」をAIにさせるべきか AIの軍事利用では人間の生存が考慮されなくなる可能性も
ジャーナリストの佐々木俊尚が11月15日、ニッポン放送「飯田浩司のOK! Cozy up!」に出演。岸田総理の訪米について解説した。
岸田総理が訪米、APEC首脳会議に出席
アジア太平洋経済協力会議(APEC)の首脳会議に出席するため、岸田総理大臣は11月15日から5日間の日程で米サンフランシスコを訪問する。また、日米など14ヵ国が参加する経済圏構想「インド太平洋経済枠組み(IPEF)」の首脳会合にも出席する見通し。松野官房長官は今回の首脳会議において、「岸田総理が自由で開かれた貿易投資の推進に加え、サプライチェーンの強靭化、デジタル技術、気候変動対策といった重要課題で積極的に議論を牽引していく」と述べた。 飯田)外交の1週間ですね。 佐々木)個人的に興味があるのは、AIについて議論されるのではないかということです。
AIで核を管理するべきかどうか
佐々木)アメリカは「AIで核を管理するべきかどうか」という議論を始めていますが、中国に対して「AIの核管理をやめて欲しい」と言うのではないかという話もあります。 飯田)やめて欲しい。 佐々木)いま、軍事関連でAIが多く使われています。2010年代の終わりぐらいに米国防総省とGoogleが組み、イラク戦争などで空中のドローンから撮った地上映像があるではないですか。その写真をAIで解析し、「どこにテロリストのアジトがあるか」を見つけ出すという話が出ました。AIは人間にはわからないような特徴を見つけるのが得意なので。 飯田)膨大な資料のなかから。 佐々木)ミサイルの命中精度を上げるために、「こういう特徴がある建物はテロリストのアジトである可能性が高い」というような形でAIを活用するのです。ちなみに国防総省とGoogleが組む話は、Google社員が「AIを軍事利用するな」と猛反対したので、途中で頓挫してしまいました。しかし、Google社員がそう言っても、AIの軍事利用はどんどん進んでいきます。
敵に勝つ、反撃することは最適化できるが、「地球を終わらせないようにする」ことに関しては最適化できないAI
佐々木)最終的には、不安定な人間が核ミサイルのボタンを突然押したりする心配のないよう、「AIに核管理させた方がいいのではないか」という議論が出てきます。しかし、「どういうタイミングで核ミサイルのボタンを押すのか」について、果たしてAIに管理させていいものか。最適化の問題なのです。 飯田)なるほど。 佐々木)何を最適化するか……。敵に勝つ、あるいは攻撃を受けたらすかさず逆襲するという形であれば、AIは最適化できます。例えば、ロシアや中国が核を搭載した大陸間弾道ミサイルを撃ってきたら「すかさず反撃する」という場合は、人間よりも素早くミサイルのボタンを押せるかも知れません。ただ、「地球を終わらせないようにする」ということに関しては最適化されていないわけです。 飯田)AIは。 佐々木)敵に勝つことが目標なのか、地球を終わらせないようにするのが大事なのか、それは人間にしか選択できないわけです。仮に、中国から誤って核ミサイルがアメリカ本土に飛んで来たとします。それに反撃しなければいけないとき、AIにボタンを押させるのがいいのか、それとも「全面戦争になってしまうから、とりあえず一旦やめておこう」と大統領が判断するのか、難しいところではないですか。「それはAIに判断させてはいけない」という話があるわけです。