“ニセ音声”の有働由美子「私はタイガースより、ジャイアンツのファンです」――10秒でAIが作成 SNSでも投稿相次ぐ…問題は？
日テレNEWS
AIで本人に近い音声が簡単に作成でき、SNSで投稿が相次いでいます。有働由美子キャスターの音声をAIに学習させると、すぐにニセの音声が完成。AIが音声を作成するのは違法ではありませんが、悪用のリスクもあり、声優から困惑の声も上がっています。
■生成AIのニセ音声…クオリティーは？
佐藤梨那アナウンサー 「有働由美子キャスターのような声に聞こえる、『こんばんは。news every.です。今夜は3時間お付き合いください』という音声があります。これは生成AIが作ったニセモノの音声です」 「SNSでは『#歌わせてみた』『#aicover』といった投稿が相次いでいて、例えばアニメ『名探偵コナン』のコナン君や著名人の声で、全く関係のない曲を歌わせる動画が数多くあります。声優側からは困惑の声も上がっています」
■「ニセの声」が勝手に作られる恐れも
小野高弘・日本テレビ解説委員 「問題は、簡単に作れてしまうことです。サイバーセキュリティー会社のトレンドマイクロに協力していただき、4秒ほどの（有働さんの）音声サンプルをAIに学習させました。これをソフトに取り込んで、読ませたい文言を打ち込みました」 「（すると）わずか10秒ほどで、AIが音声を作ってしまいました。（有働さんのニセモノの音声で）『私はタイガースより、ジャイアンツのファンです』とも言っています」 佐藤アナウンサー 「声は（まるで）有働さんですが、阪神ファンの有働さんは絶対言わないことを言っていますよね。本当に簡単にできてしまうのですね」 小野委員 「何だってしゃべらせてしまう、ということです。トレンドマイクロの担当者は『ソフトをダウンロードすれば、誰でも無料で作ることができます。その一方で、自分のニセの声が勝手に作られてしまう恐れもあります』と注意を呼びかけています」
■声優の団体「肖像権のようなものがない」
佐藤アナウンサー 「そもそもAIでニセモノの音声を作ることは問題ないのでしょうか？」 小野委員 「著作権法では、AIに著作物を学習させること、つまり誰かの音声を録音したものをAIが読み込むことは認められていて、作ること自体は違法ではありません。ただ、声優たちは困っています」 「大手声優プロダクション約50社が所属する日本声優事業社協議会は『声には肖像権のようなものがなく、無断で使われた場合の対応が難しい。作った音声でわいせつな言葉を言わせる、ウソや脅迫といった犯罪行為をされたら困る。今後の対策を協議中』と言います」
