最終的にAIは人類を滅ぼすのか？ 人工知能研究者が導き出した「意外な答え」
---------- 遠くない将来、人間の能力を超えることが確実視されているAI(人工知能)。本当にAIは、私たち人間の仕事をすべて奪ってしまうのだろうか？ それでもなお、私たちに残される仕事とは？ 人工知能研究者・北海道大学大学院教授で、著書に『10年後のハローワーク』がある川村秀憲氏が予測する。 ---------- 【写真】わが子の「考える力」を奪う親たち、その意外過ぎる共通点
AIが人類を超えたときに起こる2つの問題
よく聞かれる質問に、「AIが人類を滅ぼしてしまうのではないか」というものがあります。 もしもAIとロボットや兵器が一体化されるのであれば、あるいは物理的には可能なのかもしれません。 しかし、AIはそれ自身が人間からの命令を受けて動くものですし、同時にAIやロボットを構成している資源も、結局は人間によって作られ、供給されているものです。 従って、AIによって人間が滅亡してしまえばAIやロボットたちもまた立ちゆかなくなることは明らかで、「AIが積極的に人間を滅ぼす」という結論は、いくらAIが発展しても出てこないのではないでしょうか。 ただこの設問から、私はふたつの重要な問題を考えたいと思うのです。 ひとつは、AI自体の能力が人間を超えていくことが確実ななかで、AI自体の自己再生産をどこまで進めるべきなのか、という問題です。 そしてもうひとつは、AIが学習すべきオリジナルのデータ、つまり人間による成果物がなくなる日は来るのか、という問題です。
生成されるデータの質が劣化していく？
AIには意思がないため、人間が止めない限り学習をやめることはありません。その結果、できる限り要求に応えられるよう、学習を重ねていくことになります。 絵を描いてくれる生成AIは、「Stable Diffusion」(ステイブル・ディフュージョン)など、すでに多数開発されています。そこで、人間のユーザーが描いてほしい絵を指定するとしましょう。 ここでの人間の要求パターンはおそらく、「あたかも人が描いたように見えるけど、ほかとは違うオリジナルのもの」ということになるでしょう。誰かの絵をそのままコピーするわけにはいかないからです。 そこでAIは、指示された絵と似た絵を学習したうえで、意図的にノイズを加えたり除去したりしながら、あたかもオリジナルのような絵を生成することになります。 では、そんなプロセスが常識となったあと、AIが生成した絵ばかりがだんだんと増え、100％人が描いた絵が減っていくとしたら、どうなるでしょうか。 AIが学習するデータのうち、実際に人間の手になるものの比率が下がってしまい、AIが描いたデータを別のAIが学習、再生産する事態になってしまいます。このような場合、生成される画像データの品質が劣化していくという研究もあります。
