AIがもたらす「ブラックボックス問題」

Photo by gettyimages

山中でも、それも荒唐無稽と笑っていられませんね。 羽生そうなんです。現在のAIは民間企業が開発しているので、ある時期まで基本的に開発プランは公開されず、あるとき、「こんなものができました」と世の中に発表される形ですね。 そういう状況では、AIの開発について、社会が新しい規準や新しい倫理をつくるといっても、どうしても現実のほうに先を越されて後手に回ってしまいます。そして、その規準や倫理を誰が、どこで、どういう形で決めるのか、その枠組みすらできていない段階では、極めて漠然とした話になるのでは、とも思います。 データがある世界では、AIは人間の経験値を超える結果を生み出す可能性があります。ただ、それが絶対かと言われると、絶対ではないわけです。そのとき、先ほども言った「ブラックボックス問題」、結果はうまく行っているけれど、そのプロセスが誰にも見えない状況を人間の側が受け入れられるかどうかが問われます。 理屈としては理解できなくなって、AIが出した結果なり結論なりを信じるか信じないか、ただそれだけの話になってしまう可能性もあります。でも人間は人間なりに考えたり、発想したりすることを捨ててはいけない、やめてはいけないと思います。