安全から利益追求の流れに

――オープンＡＩは営利組織への転換を図っているという。

　「非常に強力な政府の規制がない限り、営利組織が人類を超えるＡＩを開発するのに、安全な場所だとはいえない。オープンＡＩの当初の目的は、安全なＡＩを開発することだったが、利益を追求する流れに巻き込まれてしまった。

　グーグルがＡＩ分野で先頭を走っていた頃は、他の企業よりも技術面で先行しており、責任ある行動を取ることができた。技術を公開したら、人々が何をするかがわからないため、公開しないという判断ができた。

　だが、オープンＡＩがマイクロソフトと提携して開発すると、グーグルも何もしないわけにはいかなくなる。営利企業同士が競い合うと、安全性が後回しにされる。軍拡競争と同じだ。これを防ぐには政府の規制が必要になる」

――具体的にはどんな規制が有効か。

　「開発企業が保有するコンピューターの処理能力の３分の１を、ＡＩの安全性の研究開発のために投じることを義務づける法整備だ。現在のところ、ＡＩの開発企業が安全性の研究に使っているコンピューターの処理能力はおそらく１％程度だろう。これを３０倍に引き上げるべきだと思う」

――サム・アルトマン氏やイーロン・マスク氏のようなごく少数の人々や企業にＡＩ分野の権力が集中している現状をどうみるか。

　「マスク氏のような人物がいる場合は、大きな問題ではないか。Ｘを見る限り、社会的に無責任な行動を取っている。マスク氏が権力を握る独裁的な政府が米国で誕生すれば、人々を監視するためにＡＩを使うこともためらわないだろう」

――巨大ＩＴ企業の分割は、安全なＡＩの開発に有効か。

　「現在は、ＡＩの基本的な研究の多くがグーグルで行われている。成功した企業を分割すれば、競争を促すので消費者には良いことかもしれない。だが、基礎研究にとっては悪い影響を及ぼす恐れがある。グーグルの分割によって研究の成果が失われるかもしれない」

医療分野や自動運転、大きなメリット

――ＡＩの進化は、社会にどんなメリットをもたらすのか。