■2023年8月に規制が施行された 　技術の普及、悪用だけでなく規制も早かった。 　中国のサイバー空間規制当局である国家インターネット情報弁公室は2023年1月、ディープフェイクを利用した偽情報の発信などを禁止する規定を施行し、AIによる合成技術を使った画像や音声、動画をサービスとして提供する場合、その旨を明示することを義務付けた。 　中国版TikTok「抖音」は2023年5月、生成AI、ディープフェイクなどを使ったコンテンツ配信のルールを公表、配信者にはAIを使用していることの明記、コンプライアンスの順守などを求めた。中国版インスタグラム「小紅書(RED)」は、AI技術を使ったと推定される投稿に運営会社がラベルを加えている。

　2023年8月には、主要国で初めてとなる生成AIの本格的な規制である「生成AIサービス管理弁法」が施行された。 　同弁法は生成AIを手掛ける企業向けのルールを定めるもので、中国国内に向けてサービスを提供する生成AIコンテンツに、「社会主義核心価値観(中国共産党が提唱する価値観で、「富強」や「愛国」をはじめ12の言葉からなる)の反映」を求めているほか、わいせつ・ポルノ情報、虚偽情報を含む内容を禁止し、知的財産権やプライバシーの保護についても言及した。

　ただ、強力な罰則がなければ、これらの規制は大して機能しないかもしれない。前述したAI美女ライバーたちも、多くは自身がAIであると認めていない。運営会社や専門家がそう推測しているだけであって、実際には運営会社のフィルタリングを潜り抜けている投稿も多い。 　YouTubeも2024年3月、生成AIなどを利用して改変や合成がなされたリアルな動画について、その旨を明記するよう義務付けると発表したが、実効性には疑問が残る。冒頭で紹介した生成AIで作成された可能性のある「ミス東大」を名乗る「雪乃なぎさ」のYouTubeアカウントは3月中ごろに停止されたが、3月21日に別アカウントが開設され、これまで同様、いや、さらに過激な投稿を再開している。