5月21日、女優のスカーレット・ヨハンソン氏は、OpenAIが自分の声を忠実に模倣したAI音声を使用していることに言及した声明を発表した。同氏は昨年9月に、主に最新のGPT-4oの顧客によって使用されるシステム用に声を提供してほしいという、OpenAIからのオファーを断っている。 この声明においてヨハンソン氏は、同社によるGPT-4oモデルの最新のデモにおいて、声が非常に似ていることにショックを受けたと述べている。その直後にOpenAIは、「スカイ（Sky）」と呼ばれているその音声の使用を中断することを発表した。同社はこの音声が別のプロの女優によるものだと述べているが、それが誰なのかは明かしていない。 ファッション業界では、AI音声の誤った使用が大きな問題になったことはないが、TikTokやインスタグラムのクリエイターのあいだではすでに問題となっている。この問題はボットの活動とともに、ここ数カ月で大きくなった。ソーシャルメディアのボットは投稿、「いいね！」、フォローなどの動作を自動的に行い、マーケティングや世論の操作に使用可能だ。

ボット、AI音声の影響

たとえば、TikTokの動画やコメント欄でシーイン（Shein）をプロモートしているものは、ボットやAI音声が普及しつつあることを示している。この6カ月にわたり、TikTokでシーインが否定的に言及されるたびに、ボットアカウントが大量の肯定的なメッセージを溢れさせ、すぐに賛成票が投じられ、ブランドの人気や顧客の満足度について誤解を招くような雰囲気を醸成した。 シーインは、この記事に間に合うコメントを返していない。 規制がなければ、このような方法によってシーインに対する公衆の認識を好意的な評価へと操作し、商品をプロモートすることが可能だ。 これらのボットアカウントは、プロフィールをクリックすると多くの場合にプロフィールは空白で、ユーザー名も疑わしいものだ。たいていの場合、アカウントは新しいもので、存在しないまたは詐欺のインスタグラムのプロフィールにリンクされている。 また、これらのアカウントは肯定的な投稿でもシーインをプロモートしている。たとえばTikTokで昨年、買い物客に対してこの夏のアパレルをシーインで買い求めるよう勧めている動画がバイラル化し、シーインを肯定するコメントが大量に寄せられたが、よく調べるとそれらのコメントのアカウントはボットだった。この動画はすでに削除されている。