このような前例があることを考えても、今年のノーベル物理学賞が決して的外れな基準で選ばれたわけではないと言えるだろう。 ■AIが「ダイナマイト」にならない仕組みが必要 　ノーベルが発明したダイナマイトは、トンネル掘削などの土木工事を飛躍的に早く、安全に進められるようにする革命的なものだった。そしてノーベルは、ダイナマイトの特許によって大きな財産を得た。 　やがて戦争が起こると、ダイナマイトは大量虐殺用の兵器として使われるようになった。ノーベルは、ダイナマイトが兵器として使われたとしても、それが抑止力になるのを期待していたという。ところが実際は、ダイナマイトの破壊力は戦争をさらに激しいものとした。

　そしてノーベルの兄が死去したとき、それをノーベル本人と思い込んだ新聞が「死の商人、死す」との見出しの記事を掲載したのを知ったノーベルは、人々の安全のために作った道具が、人々を殺すための物だと認識されていることに、大きなショックを受けたと言われている。 　現在、大幅に進歩したAIやその応用技術は、人々に役立つものとして大々的に宣伝されている一方で、ダイナマイトのように本来とは異なる使い方がされたり、誤った目的に使われたりすることで、誰かを傷つけたり、誰かの仕事を奪ったり、誰かの権利を侵害したりする事例が発生し、関連する裁判も起こされるようになって来ている。究極には、戦争などで人類の将来を危機にさらすといった、SF映画の中の話のような問題の発生も危惧されつつある。

　ジェフリー・ヒントン氏が2023年にGoogleを離れたのは、AIが自身の想定を超える発達を見せ始めたために、その危険性を人々に訴えかけるためだった。 　今のところ、AIはまだソフトウェアでしかないが、人々が意志決定にAIの力を借りるようになれば、その判断によっては予想外のリスクを生み出す可能性も考えられなくはない。SF映画の中の出来事が現実にならないよう、AI研究者や科学者、AI企業らには、高い倫理基準や、リスク軽減のための方法を用意することが求められる。