現実の問題となったディープフェイク

photo by gettyimages

　つい先日、EUで世界初となる包括的なAI規制法「AI法(AI Act)」が成立した。同法は既にEUの議会等を通過していたのだが、5月21日に加盟各国に承認されたことで、正式に成立する運びとなったのである。ただ本格的な施行は2年後の2026年となり、EU各国や規制対象となる域内の企業等は、それまでに各種対応を進めることが求められている。 【画像】韓国・文在寅の「引退後の姿」がヤバすぎる…！ 　AI法のポイントのひとつが「ディープフェイク」、すなわち生成AIで生み出された画像・映像に関して求められる対応だ。ご存知の通り、技術の進化によって、ディープフェイクは現実と見分けがつかないほど精巧なコンテンツを生み出せるようになった。そこで同法では、「ディープフェイクコンテンツを使用する場合、そのコンテンツがAI生成であることを明示すること」という規定を設けたのである。また明示的な義務ではないものの、ディープフェイクコンテンツのトレーサビリティを確保する、つまり後から特定のコンテンツがディープフェイクかどうかを検証可能にするために、「電子透かし」(人間の見た目には分からないものの、特殊なソフトウェアを使って確認することで、そのコンテンツがAIによって生成されたものかどうかチェックできる「しるし」を埋め込む技術)の仕組みを導入することを提案している。 　こうした明確な規定が盛り込まれた背景には、当然ながらディープフェイクに対する大きな懸念がある。たとえばいま日本でも大きな問題になっているが、有名人の見た目や音声を真似た偽広告をディープフェイクで作成し、それをSNSの広告枠に出稿することで、投資詐欺を働くという手口が増えている。また実在の人物にそっくりのアダルトコンテンツがディープフェイクで生成され、SNS等で拡散するというケースも問題になっており、最近ではテイラー・スウィフトなどの有名人が被害にあった。この例はさらに、身近な人物の評判を落とすために猥褻画像を拡散するという、ディープフェイク版「リベンジポルノ」にまで発展したり、あるいはあえて拡散させず、その画像を見せてターゲットを脅迫したりするといったケースもあり、より深刻な被害をもたらしている。 　これらの悪用も決して許されないものだが、より社会にとってインパクトが大きいのが、選挙における悪用だ。誰かがしていないことをしているように見せるディープフェイクは、後からそれが嘘だったと否定して回ることはできるものの、選挙で特定候補の評判を落とすために使われた場合、それによって生じた「その候補者の落選(あるいはその人物と政治的に対立する候補の当選)」といった結果は、打ち消すことができない。したがってそれは、より社会にとって許容できないディープフェイクと言えるだろう。