「チャットGPT音声」問題のヨハンソン氏はデジタルリスクを体現する、そのわけとは？
「チャットGPT音声」問題の渦中にある俳優、スカーレット・ヨハンソン氏は、デジタルリスクを体現している――。
チャットGPT最新版の音声に、ヨハンソン氏が「不気味なほど似ている」と抗議した騒動は、オープンAIが「声は別人」と説明しながら、当該の音声を停止する事態となった。
騒動は尾を引く。オープンAIのCEO、サム・アルトマン氏がヨハンソン氏側に複数回のアプローチをしていた経緯や、ヨハンソン氏の出演映画への「ほのめかし」のX投稿などから、米メディアは相次いで「訴訟になればヨハンソン氏に有利」との見立てを取り上げている。
一方で、ヨハンソン氏はこれまでも、ディープフェイクスによる偽造ポルノの拡散や、メールアカウントへのハッキングでプライベートのヌード写真が流出するなど、デジタルリスクの標的となってきた経緯がある。
テクノロジー社会のリスクの最前線に、ヨハンソン氏はいる。
●米俳優組合が動く
私たちは、ヨハンソン氏がすべてのSAG-AFTRAメンバーにとって極めて重要なこの問題について発言してくれたことに感謝します。私たちは彼女の懸念を共有し、チャットGPT-4oの機能「スカイ」の開発で使用された音声について、明確性と透明性を要求する彼女の権利を全面的に支持します。
「映画俳優組合-米テレビ・ラジオ芸術家連盟（SAG-AFTRA）」は5月21日、そんな声明を公開した。
同組合は2023年、「米脚本家組合（WGA）」とともに歴史的な大規模ストライキを実施した。AIが脚本家や俳優を代替していくとの懸念が広がる中で、要求の柱の1つは、「デジタルレプリカ（複製）への演者の同意と報酬」だった。
※参照：NetflixがAIマネージャーに年収1億円、ハリウッド俳優たちが震える理由とは？（08/07/2023 新聞紙学的）
そのAIの脅威が、映画会社からではなく、AIの開発元から押し寄せたのが、チャットGPTの音声をめぐる今回のヨハンソン氏の騒動だ。
昨年9月、サム・アルトマン氏から、現在のチャットGPT 4.0システムの声優として私を採用したいというオファーを受けました。（中略）熟考の末、個人的な理由から、その申し出は断りました。それから9ヵ月後、私の友人、家族、そして一般の人々は皆、「スカイ」と名付けられた最新のシステムがいかに私に似ているかを指摘しました。公開されたデモを聴いたとき、私は衝撃を受け、怒り、そして親しい友人やニュース関係者も区別がつかないぐらい、不気味なほど似ている声を、アルトマン氏が追求することに不信感を抱きました。
チャットGPTの最新版、GPT-4oの発表から1週間後の5月20日、ヨハンソン氏はそんな声明を出している。
声明では、GPT-4o発表の2日前にも、アルトマン氏からヨハンソン氏のエージェントに、改めてアプローチがあった、とも明かしている。
「AI音声」が問題化したのは、5月13日、オープンAIがGPTシリーズの最新版、GPT-4o発表のデモで、女性のAI音声によるリアルタイムのやり取りを公開したことだった。
ソーシャルメディアでは、やや低音のAI音声が、ヨハンソン氏に似ているのでは、との声が上がる。
テックメディア「テッククランチ」は、X上で「ヨハンソン氏のように聴こえるか？」とのアンケートまで実施。「聞こえる」との回答が38.4%、「ある程度」が38.5%だった。
アルトマン氏は、最新版発表に合わせて、ヨハンソン氏がAIの声を演じたスパイク・ジョーンズ監督の映画「her/世界でひとつの彼女」を思わせる、「彼女（her）」との書き込みをXに投稿。「ヨハンソン氏似」の見立てを後押しした。
アルトマン氏のこの映画への思い入れは強く、「予言的」とも述べている。
ヨハンソン氏は今回の声明でアルトマン氏の投稿を取り上げ、「その類似性が意図的なものであるとさえほのめかした」と指摘している。
だが、アルトマン氏は、その見立てを否定する。
「スカイ」の声はスカーレット・ヨハンソン氏のものではなく、彼女に似せようとしたこともありません。ヨハンソン氏に連絡を取る前に、「スカイ」の声を担当する声優をキャスティングしました。ヨハンソン氏への敬意から、当社の製品で「スカイ」の声を使用することを一時停止しました。ヨハンソン氏には、より適切なコミュニケーションが取れなかったことをお詫び申し上げます。
同社の公式ブログは、5月20日付でアルトマン氏のそんな声明を掲載している。
同社は、その声明通り、「スカイ」の声を停止した。だが、これで幕引きとの雰囲気にはなっていない。
ヨハンソン氏の声明は、こう締めくくられている。
ディープフェイクスや、自分自身の肖像、自分自身の作品、自分自身のアイデンティティの保護と格闘している今、これらの問題は絶対に明らかにされるべきだと思います。個人の権利が確実に守られるよう、透明性の確保と適切な法案の成立という形で解決されることを期待しています。
ヨハンソン氏も言及し、組合も支持を表明しているのが、カリフォルニア州選出のアダム・シフ下院議員（民主党）が4月に提出した「生成AI著作権開示法案」だ。著作権に関わる学習データの登録を義務付ける内容となっている。
そして、ヨハンソン氏が「格闘」という言葉を使っているのは、単なる比喩ではない。
●ディープフェイクスの最初の被害者
誰かが私や他の人の画像を切り取り、別の体に貼り付け、思い通りに不気味なほどリアルに見せることを止めることはできない。インターネットには基本的にルールがない。なぜなら、米国の規制が適用されるのは国内だけだが、インターネットは事実上、無法地帯だからだ。
ヨハンソン氏は2018年12月、そんな声明を発表している。
2017年秋、米ネット掲示板「レディット」に「ディープフェイクス」と名乗るユーザーが登場し、AIを使った偽造ポルノ動画を公開し始めた。
ヨハンソン氏はこの時、俳優のエマ・ワトソン氏やガル・ガドット氏、歌手のテイラー・スウィフト氏らとともに、真っ先にその標的とされた女性著名人の1人だった。
※参照：AI対AIの行方：AIで氾濫させるフェイクポルノは、AIで排除できるのか（02/24/2018 新聞紙学的）
インターネットは、セックスが売られ、弱者が食い物にされる場所にすぎない。そして、どんな低レベルのハッカーでもパスワードを盗み、IDを盗むことができる。誰か1人が標的にされるのは時間の問題です。
この時の声明では、ヨハンソン氏はこんな指摘もしている。
ヨハンソン氏は、2011年に発覚した50人以上の著名人に対するメールアカウントのハッキング事件でも、被害者となっている。この時は、プライベートで撮影したヌード写真がネットに流出した。実行犯は禁錮10年の刑が確定している。
2016年には、香港の男性がヨハンソン氏をモデルにした、対話可能なロボットを製作したとも報じられている。
さらに2023年11月にも、ヨハンソン氏の画像を無断使用したAIアプリに法的措置を取った、という。
●「ヨハンソン氏有利」の見立て
「スカイ」の声は別の俳優が録音した、とオープンAIが説明しても、今回の経緯は、訴訟になればヨハンソン氏に有利と見られる――そんな見立てが相次いでメディアで取り上げられている。
その中で、いくつかの先例が指摘されている。
フォードのテレビコマーシャルで、歌手で女優のベット・ミドラー氏に断られた広告代理店が、バックコーラスを務めた歌手にミドラー氏の歌唱を「故意に模倣させた」ことが争われた訴訟では、最高裁が1992年、ミドラー氏に40万ドル（約6,300万円）の賠償請求権を認める判断を出している。
また歌手で俳優のトム・ウェイツ氏が、フリトレーのスナック菓子「ドリトス」のコマーシャルに別の歌手のものまねによる歌が使われたことをめぐる訴訟では、最高裁は翌1993年に、250万ドル（約3億9,000万円）の賠償を命じる判決を出している。
いずれも、著名人の名前、肖像、声などによる経済的価値・利益を排他的に使用する権利「パブリシティ権」をめぐる訴訟として知られる。
今回のケースでは、この「パブリシティ権」にAIが絡むことになる。
※参照：「AIドレイク」は削除されても「AIシナトラ」は30万件、AIフェイク音楽の裏側とは？（08/25/2023 新聞紙学的）
●「安全よりもスピード」退任騒動の渦中で
今回の「チャットGPT音声」の問題は、オープンAIが安全性より「ピカピカの製品」開発競争に傾いているとして、安全対策のためのAI開発チーム「スーパーアラインメント」を主導してきたヤン・ライカ氏が退任したタイミングと重なった。
同チームを率いてきたもう1人、共同創業者でチーフサイエンティストのイリヤ・サツケバー氏も退任している。
サツケバー氏は、2023年11月のアルトマン氏に対する突然のCEO解任劇で、解任側として動いた。解任劇の背景には、同社が安全性よりもスピード重視に傾いている、との懸念があった。
※参照：偽情報・犯罪・雇用「AIの深刻なリスク」、”ゴッドファーザー”らが示す現実味とは？（05/20/2024 新聞紙学的）
ウォールストリート・ジャーナルによれば、ヨハンソン氏の代理人を務めるブライアン・ロード氏は、オープンAIに対し、「ペースを落とし、透明で、倫理的で、責任ある製品開発のためのプロセスを導入すること」を求めているという。
ヨハンソン氏の問題は、AI開発のリスクを示している、との主張だ。
（※2024年5月27日付「新聞紙学的」より加筆・修正のうえ転載）
