新技術が登場すると、すぐに悪用例が出るのも中国のお決まりで、2023年5月末には、AIによる顔交換技術を使って有名人になりすまし、中国のライブコマース・プラットフォームで商品を紹介する行為が横行していると、 国営テレビ局が注意を呼びかけた。

顔交換モデル一式は3万5000元（約70万円）で購入でき、リアルタイムで表情などを変化させることも可能だという。

AIを開発する資金力と技術力がない企業・個人向けにこうした著名人顔交換モデルが販売されている。この手法には著作権や肖像権侵害の疑いがあり、消費者にAIを使っていると告知していなければディープフェイクに該当する。

2023年8月に規制が施行された

技術の普及、悪用だけでなく規制も早かった。

中国のサイバー空間規制当局である国家インターネット情報弁公室は2023年1月、ディープフェイクを利用した偽情報の発信などを禁止する規定を施行し、AIによる合成技術を使った画像や音声、動画をサービスとして提供する場合、その旨を明示することを義務付けた。

中国版TikTok「抖音」は2023年5月、生成AI、ディープフェイクなどを使ったコンテンツ配信のルールを公表、配信者にはAIを使用していることの明記、コンプライアンスの順守などを求めた。中国版インスタグラム「小紅書（RED）」は、AI技術を使ったと推定される投稿に運営会社がラベルを加えている。

2023年8月には、主要国で初めてとなる生成AIの本格的な規制である｢生成AIサービス管理弁法｣が施行された。

同弁法は生成AIを手掛ける企業向けのルールを定めるもので、中国国内に向けてサービスを提供する生成AIコンテンツに、「社会主義核心価値観（中国共産党が提唱する価値観で、｢富強｣や｢愛国｣をはじめ12の言葉からなる）の反映」を求めているほか、わいせつ・ポルノ情報、虚偽情報を含む内容を禁止し、知的財産権やプライバシーの保護についても言及した。

ただ、強力な罰則がなければ、これらの規制は大して機能しないかもしれない。前述したAI美女ライバーたちも、多くは自身がAIであると認めていない。運営会社や専門家がそう推測しているだけであって、実際には運営会社のフィルタリングを潜り抜けている投稿も多い。

YouTubeも2024年3月、生成AIなどを利用して改変や合成がなされたリアルな動画について、その旨を明記するよう義務付けると発表したが、実効性には疑問が残る。冒頭で紹介した生成AIで作成された可能性のある「ミス東大」を名乗る「雪乃なぎさ」のYouTubeアカウントは3月中ごろに停止されたが、3月21日に別アカウントが開設され、これまで同様、いや、さらに過激な投稿を再開している。

著者：浦上 早苗