便利になる一方で、犯罪に使われるリスクも…2024年はAI「音声分野」に注目！ 専門家が解説
◆便利な一方、詐欺に使われる懸念も
吉田：そんな音声分野でのAIの問題点はありますか？ 塚越：この技術を使えば、悪いこともできてしまいます。去年は特定の人の声をAIで学習させた合成音声（ボイスクローン）を使った電話詐欺なども多発しました。アメリカでは、子どもの声のボイスクローンで「ママ、助けて」と電話をかけてきた事例がありました。いわゆる「振り込め詐欺」にも合成音声が利用される危険性も指摘されています。 他にも、特定のアーティストの声のボイスクローンを作って、別のアーティストの歌を歌わせることがアメリカで問題になり、YouTubeから該当の動画が削除されたこともありました。2024年もボイスクローンの悪用は起こり、規制や著作権の問題になるのかなというところです。 ユージ：すごい技術ではあるものの、やはり、詐欺に悪用されるという事例が懸念ですね。去年のハリウッドのストライキでもAIの使い方が争点の1つでしたが、音楽業界でもAIの規制について議論する必要がありますね。
◆AIの政治利用にも注意が必要
ユージ：今年はアメリカ大統領選挙も注目されていますが、前回の大統領選挙では、フェイクニュースが問題になりました。今回は、AIによるディープフェイクが問題になりそうですか？ 塚越：先ほどもご紹介した通り、ディープフェイクの技術では、（映像内の）顔を変えるだけでなく音声も変えられます。SNS企業も常に対策はしているのですが、イタチごっこ状態です。 今年は生成AIによる動画生成がさらに簡単にできるようになることが予想され、選挙のときに生成AIの動画版など、さまざまなフェイクが出る可能性が高いので、気を付けなければいけないところです。 ユージ：AIの政治利用、さらなる問題も出てきそうですね。 塚越：そうですね。音声翻訳は素晴らしい技術ですが、逆に問題にもなるのかなと思います。例えば去年10月に、英語しか話すことができないニューヨーク市長が、こうした技術を使って、中国語やスペイン語で、自動音声による電話（ロボコール）を有権者にかけていたことがわかっています。 ロボコール自体は違法ではないのですが、英語しかできない市長が、まるで中国語やスペイン語を話せるかのような誤解を与えた可能性があります。中国語やスペイン語が第一言語の人は、市長が外国語を話せると勘違いした人も多く、それだけで親近感が湧いたということで、ある意味で政治家として選挙に影響を及ぼしたり、支持率が変わってしまったりします。 ユージ：確かにさまざまな人種の人たちが暮らしている国では、「この市長は自分たちの言語に寄り添っているから投票しようかな」っていう気持ちになるかもしれませんね。 塚越：逆に言えば、単に混乱することもあるので、この辺りは規制しなければいけません。翻訳に嘘を入れてしまうと、人は騙されることもあります。いいこともあるのですが、こういったところが問題かなと思います。 ユージ：できないようなことを、あたかもできたように見せることは法的には問題がなくても、良くないと思います。きちんと「AIによる翻訳を使っています」と言ってほしいですね。これは詐欺に近い行為にもなりますか？
塚越：詐欺に近いと思われてしまうので、規制が必要です。今回の能登半島地震でも、さまざまな寄付を募る詐欺が発生しています。実際の状況とは異なるフェイク画像を貼り付けた嘘の投稿がSNSにあふれるなど、さまざまな被害が生じています。このあたりもきちんと対応しなければなりません。 （TOKYO FM「ONE MORNING」2024年1月4日（木）放送より）
