フェイク動画 「岸田首相」動画も… ニュース映像「加工」生成AIか 政府の対応は
日テレNEWS NNN
一見、日本テレビのニュース番組のように見えますが、加工された「フェイク動画」。岸田首相のフェイク動画も作られましたが、どう対策していくのか。8日の国会では… ◇ 「これは1か月の利益です」「もはや重労働や多くの労働は必要ありません」 日本テレビ「news every.」の放送を加工して、投資を呼びかける悪質なフェイク動画。本物と比べても、アナウンサーの動きもそっくりです。 「あなたはわずかにあなたの家を投資するだけです」 声も偽物で、岸田首相の動画も悪用しています。日本テレビは「当社は関与しておらず推奨もしていない」と注意を呼びかけています。 ◇ 生成AIで作られたとみられるこのフェイク動画。SNSで拡散され、8日に国会でも議論になりました。 立憲民主党 中谷一馬議員 「日本の総理大臣までもが詐欺の広告に悪用される事例。厳正に対処していただきたいと思いますがいかがでしょうか」 松野官房長官 「偽広告が流通していることは承知しており、重要な課題だと認識をしています」 ◇ 同様のフェイク動画は、岸田首相が使われたものも。顔や声が加工されています。 「明日が国会も休みにあたりますのでコンビニエンスストア、一般的にはコンビニと呼称される施設にて」 実際に今年5月、岸田首相は「生成AIによる音声加工」を目の当たりにしていました。 AIエンジニア 安野貴博さん(今年5月) 「(AIの)リスクというところなんですけど、ぜひデモをさせていただきたい」 「あーあー聞こえますでしょうか。このマスクをつけるとリアルタイムに私の声が“総理の声に変換”されて聞こえるようになる」 岸田首相 「あっそう」 AIエンジニアの安野さんの声が、岸田首相そっくりの声に変わるという(マスクを使った)デモンストレーションでした。 AIエンジニア 安野貴博さん 「こういった普通のノートパソコンであっても、こういったことができてしまうわけでございます」 「これがディープフェイクと呼ばれる技術」 ◇ “本物のように変えてしまう”生成AI。 AIエンジニア 安野貴博さん 「(フェイク動画の)レベルも高くなっていて、専門家でもわからなくなってきている。映像があれば本当にあったと信じられた時代は終わった」 (11月8日放送『news zero』より)