「AIの意見は鵜呑みにできない」！山中・羽生、2人の天才がうなずく意外すぎる「AIの限界」
「iPS細胞技術の最前線で何が起こっているのか」、「将棋をはじめとするゲームの棋士たちはなぜ人工知能に負けたのか」…もはや止めることのできない科学の激動は、すでに私たちの暮らしと世界を変貌させつつある。 【漫画】刑務官が明かす…死刑囚が執行時に「アイマスク」を着用する衝撃の理由 人間の「価値」が揺らぐこの時代の未来を見通すべく、“ノーベル賞科学者”山中伸弥と“史上最強棋士”羽生善治が語り合う『人間の未来AIの未来』(山中伸弥・羽生善治著)より抜粋してお届けする。 『人間の未来AIの未来』連載第6回 『「AIが人間を事前に逮捕」人間とAIの協力の先に起こりうる衝撃的な「近未来」をノーベル賞科学者・山中伸弥が徹底解説』より続く
意味づけするのは人間の仕事
山中今後、僕たちのような研究者や医師たちの仕事がどう変わっていくのか。たとえば、AIは「こういうことをすればどうか」と研究の方向性まで助言してくれるかもしれないですね。でも、それを実行するかしないかを決めるのは、やっぱり人間です。 羽生AIは無意味なデータを大量に作るんです。ずっと動いてくれるので、将棋の棋譜も何百万局と作ってくれます。では、それが全部参考になるかと言うとそんなことはなく、その中のごく一部がすごく参考になるだけです。だから、それに意味づけとか意義づけしていくのは、やっぱり人間なのかなという気がします。 でも、そういうことがわかった上で、ご本人や家族が「いや、それでもあきらめたくない。最後まで闘いたい」と希望すれば、AI君が何と言おうとも、希望をかなえてあげるべきでしょう。その判断はやっぱり人間にしかできません。 そういう意味で、人間の意思は最後まで必要です。AIが全部決めると、「医療経済的にこの患者の治療は必要ありません」とか「80歳の患者に何千万円を要する治療は割に合いません」と判断しかねません。「いや、それでも治療を続けたい」という希望は考慮すべきです。 羽生そうだと思います。
AIの判断能力の可能性
山中でも、もしかしたらAI君はその辺りも各種データをもとに「理論的に考えるとこうなりますが、この患者の性格と経済力を考慮に入れると、別の選択肢があり得ます」と指示するくらい賢くなってしまうかもしれないですけど。 羽生それには恐らく2つのアプローチがあると思います。一つは何百万人分というビッグデータをもとに「確率的にはこういうふうな選択肢があります」と答えを出すやり方。もう一つは、その人が生きてきた過去のデータを蓄積しておいて、それをもとに「彼はこういう答えを望んでいるはずだ」と答えを出すやり方です。 山中そのときは、判断の根拠となるような、その人の個人データを蓄積しておかなければいけませんね。ランダムに入ってくるデータは蓄積できると思いますが、個々人のデータは個人情報の壁があって、できるかどうかですよね。 羽生そうですね。ただ、今はスマホを操作しているだけで、その人の情報がすべてフリーで「向こう側」に蓄積されています。 山中確かに頼みもしないのに、アマゾンから「あなたにおすすめの本」とか言ってきますから。時々カチンと来ますね(笑)。でも相当賢い部下であるのは間違いない。 『将来は「全人類のゲノムを把握」…科学の常識を“破壊”した「ゲノム解析技術」驚異の最前線』に続く
羽生 善治、山中 伸弥
