OpenAIの最新モデル「GPT-4o」にスカーレット・ヨハンソンが激怒、くすぶる倫理課題
俳優組合はAIヘの懸念を共有していた
もともと、ヨハンソンを始めハリウッドの俳優たちは、AIへの懸念を共有していた。2023年夏から秋にかけて、ハリウッドの映画製作や宣伝活動が停止したことは記憶に新しい。全米脚本家組合(WGA)と映画俳優組合-アメリカ・テレビ・ラジオ芸術家連盟(SAG-AFTRA)が相次いでストライキを打ったからである。ヨハンソンもSAG-AFTRAの組合員である。ヨハンソンのOpenAIへの抗議に対してSAG-AFTRAは支持を表明している。 2023年夏のストライキの重要な争点は、脚本家らと俳優らがAIからの保護措置を求めたことだった。俳優から見れば、動画や音声を生成するAIは、俳優の外見、声、動きをコピーした「デジタルレプリカ」を操ることが可能だ。俳優組合はこのようなAIの濫用を警戒した。映画スタジオ側は妥結条件にAIの利用条件を明記した。
OpenAIは映画の批評性を無視
一方で、AIのトップ企業であるOpenAIはこうした俳優らの懸念を無視してしまった。ヨハンソンが明らかにした交渉の経緯を聞くと、OpenAIは深い考えなしに「サマンサ」に似せたAIを作ろうとしたように見える。アルトマンからヨハンソンに送られたオファーには「ヨハンソンの声が人々の心を和ませるだろうと感じた」と書かれていたという。映画「her/世界でひとつの彼女」を観て、「『サマンサ』のようなAIを作りたい」と思ったのだろう。 だが、映画「her/世界でひとつの彼女」を注意深く鑑賞した人であれば、この映画が、人間が感情移入するように作られたAIへの批評を含むことは明らかだ。この映画のようなAIを実際に作り出そうとすることは、映画への「誤読」であるとする厳しい指摘も出ている。 もちろん映画「her/世界でひとつの彼女」は娯楽作品として作られており、映画をどのように読み解くかは鑑賞者の自由だ。例えば「映画に出てくる『彼女になってくれるAI』がほしいなあ」と深く考えずに夢想することも自由ではある。だが、社会的影響力が大きなAI開発企業が映画を誤読し、女優の意思や尊厳を無視することは、問題の種類が違う。 OpenAIはAGI(汎用人工知能)を作ること――つまり人間に匹敵する、あるいは人間を超えるAIを作ることをミッションとして掲げる企業である。そのような企業は、映画や小説に描かれたガジェットだけでなく、映画や小説を――人間についても理解しようと務める義務があるのではないだろうか。そのような努力をしていれば、GPT-4oの声がヨハンソンの尊厳を傷つけることが、前もって理解できたのではないだろうか。 映画「her/世界でひとつの彼女」を鑑賞した人は、例えば「男性に媚びるような声を出すAIは、女性の役割のステレオタイプの再生産として批判されるだろう」と思うかもしれない。また「人間の感情や精神の内面に干渉し、また人間からの感情移入を促すAIを製品として提供することには、注意深くあるべきではないか」といった感想を抱く人も多かっただろう。OpenAIは「映画のようなAIを作ろう」と考えるのではなく、「映画が批判的に提示する課題をよく検討したAIを作ろう」と考えた方が良かったのではないか。