フェイクポルノ規制論に「テイラー・スウィフト効果」が火をつける――。

世界的人気の米歌手のテイラー・スウィフト氏の、AIを使ったフェイクポルノ画像（ディープフェイクス）がXなどで拡散した騒動は、メディアの注目を集めた。

そのインパクトが、ディープフェイクスへの規制論を後押ししている。

騒動を受け、ホワイトハウスは「法的な対応が必要」とコメント。連邦議会には新たなディープフェイクス規制法案が提出された。

生成AIの高性能化、自動化により、ディープフェイクスの脅威が高まる。

ディープフェイクスの96％は、女性を標的とした改ざんポルノであることが指摘されてきた。当初からその標的となってきた著名人の1人がスウィフト氏だ。

一方で人権団体などは、表現の自由の萎縮などのリスクを指摘する。

フェイクポルノ規制の行方は？

●「画像はフェイクでも、危害は現実」

米上院司法委員会委員長のディック・ダービン氏（民主党）は1月30日、同委員会のリンゼイ・グラハム氏（共和党）ら超党派議員とともに提出したディープフェイクスによるフェイクポルノ規制法案のニュースリリースで、そう述べている。

リリースでは、テイラー・スウィフト氏のフェイクポルノ画像拡散を、被害事例として紹介する。

「対抗法」と名付けた法案では、フェイクポルノの被害者による作成者・拡散者に対する賠償請求権を創設するという。

同委員会は翌31日には、ネット上の子どもの性的被害に関するソーシャルメディア企業への公聴会を開催。

顔をそろえたメタCEOのマーク・ザッカーバーグ氏やXのCEO、リンダ・ヤッカリーノ氏らトップに対し、「安全よりもエンゲージメントと利益の絶え間ない追求」（ダービン氏）、「その手は血塗られている」（グラハム氏）といった厳しい批判が相次いだ。

ネット上の性的被害は、この数日の世界的な関心の的となった。

その発火点となったのが、スウィフト氏のフェイクポルノ画像拡散だった。

●4,500万回を超す表示

スウィフト氏のフェイクポルノ画像の拡散が明らかになったのは、1月25日だ。

テクノロジーメディアの「404メディア」の同日付の報道によれば、フェイク画像はメッセージサービス「テレグラム」やネット掲示板「4chan」経由でX上に拡散し、マイクロソフトの画像生成AI「デザイナー」が使われていたようだという。

同じくテクノロジーメディア「ザ・ヴァージ」は、X上で注目を集めた投稿がアカウント停止になるまでに4,500万回超の表示数と、2万4,000件超のリポスト（共有）を集めたと報じた。

この拡散に対して、スウィフト氏のファンが「#ProtectTaylorSwift（テイラー・スウィフトを守れ）」などの大量投稿で対抗。

Xは同日、「同意のないヌード (NCN) 画像の投稿は厳しく禁止されている」と表明。また、28日には「テイラー・スウィフト」のキーワード検索を一時的に停止する措置を取り、翌29日に再開している。

騒動は、ホワイトハウスの記者会見でも取り上げられた。

米大統領報道官、カリーン・ジャン・ピエール氏は、1月26日午後の記者会見で、報道陣からテイラー・スウィフト氏のフェイク画像の拡散についての見解を問われ、こう答えた。

ジャン・ピエール氏は、「コンテンツ管理はソーシャルメディア企業が独自の判断で取り組んでいる」としながら、こうも述べている。

さらにジャン・ピエール氏は、「議会は法的な対応を講じる必要がある」とした。

●96％がフェイクポルノ

ディープフェイクスが登場したのは2017年秋ごろ。2019年の調査では、その96％がフェイクポルノだとの実態が明らかにされている。

※参照：96％はポルノ、膨張する「ディープフェイクス」の本当の危険性（10/23/2019　新聞紙学的）

そして、生成AIの進化と普及により、その数も急速に拡大した。

テクノロジーカルチャーメディア「ワイアード」が報じた調査結果によると、最も人気のあるディープフェイクスのポルノウェブサイトに2022年にアップロードされた動画は7万3,000本だったが、2023年の1月から9月だけで、11万3,000本と大幅に増加したという。

ディープフェイクスは当初から、主に俳優や歌手などの女性著名人が標的となってきた。その最初期からの被害者の1人がスウィフト氏だった。

さらに、被害は一般の女性や少女に広がっている。

米国では、ニュージャージー州の高校で10代の女子学生たちのフェイクヌード画像が出回ったことをきっかけに、被害者の親子が対策強化の声を上げている。

スペインでも、10代の少女たちが被害者となった事件が表面化し、メディアの注目を集めた。

米連邦捜査局（FBI）も2023年6月、ディープフェイクスと、わいせつ画像を使った脅迫「セクストーション」への注意を呼びかけている。

フェイクポルノは、ネット上での子どもの性的被害として社会問題化し、上述のように、上院司法委員会によるプラットフォーム企業への公聴会開催に至っている。

さらに、米国は2024年11月に大統領選を控えて、AIを使ったフェイクニュースの脅威にも警戒感が高まる。

すでにニューハンプシャー州では、1月23日に行われた民主党予備選に投票しないよう呼びかける、音声ディープフェイクスを使ったと見られる「偽バイデン大統領」の自動音声電話が州内に広がった。

そんな中で、米誌タイムの「2023年の顔」にもなり、世界的存在感を持つスウィフト氏のディープフェイクス拡散は、規制論にも弾みをつけている。

加えて、スウィフト氏は政治的にも影響力を持つ。

2023年9月、2億7,000万人超のフォロワーを持つインスタグラムで、米国での投票に必要な有権者登録を呼びかけたところ、3万5,000人を超す登録があったという。

●「表現の自由」への懸念

ディープフェイクスを巡っては、上述のダービン氏らによる「対抗法案」以外にも、複数の法案が議会に提出されている。

下院では、被害者の賠償請求権と加害者への刑事罰（禁固2年以下か罰金、もしくはその両方）を盛り込んだ「親密画像のディープフェイクス防止法案」や、肖像や音声などAIによる無断複製に対する賠償請求権を定めた「AI虚偽禁止法案」、AI生成コンテンツであることの開示を義務づける「ディープフェイクス説明責任法案」「AIラベリング法案」などがある。

また、ホワイトハウスも2023年10月の大統領令で、フェイクポルノなどの画像生成防止のための業界標準策定の推進などを盛り込んでいる。

USAトゥデイの調べによると、米国では、州法規制の先駆けとなったバージニア州（2019年制定）を始め、10州でディープフェイクスによるポルノを規制している。その内容は刑事罰を定めたものから、賠償請求権のみを規定したものまで、様々だ。

また、カリフォルニア州などでは、フェイクポルノ規制とは別に、選挙におけるディープフェイクス規制の州法もある。

ただ、ディープフェイクス規制には、強い懸念も示されている。規制による、米国憲法修正1条が保護する表現の自由への侵害だ。

デジタル人権団体「電子フロンティア財団（EFF）」は、スウィフト氏の騒動が起こる前の1月19日付の声明で、連邦議会のディープフェイクス規制法案、特に1月10日に提出された「AI虚偽禁止法案」を取り上げた。

この中で、同法案は規制の対象が広すぎるため、表現の自由を制限することになり、「まったくの的外れの法案」と断じている。

「対抗法案」を提出したダービン氏は、これに先立ち、ネット上の子どもの虐待コンテンツ（CSAM）規制法案を提出している。

だが「表現の自由とプライバシーを脅かす」として米自由人権協会（ACLU）やEFFといった人権団体やネット業界からの批判を受け、審議は行き詰まっているという。

上述の公聴会は、これに対する巻き返しの側面もあるようだ。そこに、「テイラー・スウィフト効果」のインパクトもあった。

●「スウィフト効果」の行方

EUでは、2023年12月に包括的な合意に達した規制法「AI法」で、子どもや障害者などの脆弱性を利用して精神的・身体的な害を生じさせることを禁じているほか、生成AIによるコンテンツについて、開示義務を課している。

※参照：「AI規制法」は生成AIの７大リスクに対処できるか？（06/16/2023　新聞紙学的）

日本ではディープフェイクスによるフェイクポルノに関して、名誉毀損と著作権法違反で摘発した事例がある。

フェイクポルノ画像の拡散による「テイラー・スウィフト効果」で、フェイクポルノ規制論に勢いはついた。

ただし、高まる脅威への危機感の一方で、規制論議の行方は、必ずしも明確ではなさそうだ。

（※2024年2月1日付「新聞紙学的」より加筆・修正のうえ転載）