中国のネット当局、4月以降にAI製品3,500件超を是正
なぜこのAI規制ニュースが重要か
中国のインターネット当局が、今年4月以降に規則に適合していないAI関連製品3,500件超への対応を進め、違法・有害情報の削除やアカウント停止を行ったことが明らかになりました。急速に広がる生成AIや深偽造（ディープフェイク）をどうコントロールするのかという、世界共通の課題を象徴する動きです。
4月からの集中キャンペーンとは
サイバースペース管理を担う中国の当局は、4月にAI技術の「乱用」を対象としたキャンペーンを開始しました。対象となったのは、ミニプログラム（アプリ内で動く小さなサービス）、ウェブアプリケーション、AIエージェントなど、オンライン上で利用されるさまざまなAI製品です。
当局によると、この期間に次のような対応が行われました。
- 関連ルールに適合していないAI製品 3,500件超への是正指導
- 違法または有害とされたコンテンツ 約96万件の削除
- 関連するオンラインアカウント 3,700件超の閉鎖
数字だけを見ると厳格にも感じられますが、背景には、AI技術が一般の利用者にまで一気に広がったことによるリスク管理の必要性があります。
深偽造とラベリング不備が主な標的に
今回のキャンペーンで問題視されたのは、主に次のようなAIの使われ方です。
- 顔を入れ替えるフェイススワップ動画や、声をそっくり真似る音声生成などの深偽造
- AIが作成した文章・画像・動画であることを明示せず、利用者を誤解させるコンテンツ
深偽造は、芸能人や個人の顔・声を無断で使ったり、実際には起きていない出来事をあたかも事実のように見せたりすることができるため、プライバシー侵害や虚偽情報の拡散につながりやすいとされています。
また、AI生成コンテンツのラベリング（表示）は、利用者が情報の性質を理解し、批判的に読み解くための重要な手がかりです。ラベルがない、あるいは分かりにくい場合、広告やフェイクニュースとの境目がさらにぼやけてしまいます。
プラットフォームに求められる技術的な安全策
当局は地方レベルのサイバースペース当局に対し、規則に適合しないAI製品への対応を強化し、その販路やトラフィック（閲覧や利用の流れ）を断つよう指示しました。あわせて、大手サイトやプラットフォームに対し、技術的な安全対策を強めるよう求めています。
具体的には、次のような対応が想定されます。
- 深偽造コンテンツを自動検知し、表示前にフィルタリングする仕組み
- AIが生成したコンテンツに対する分かりやすいラベル表示
- ルールに反したAIサービスに対する段階的な制限や停止措置
同時に、AI生成コンテンツのラベリング規則の実施を加速させることも、今回のキャンペーンの柱とされています。開発者やサービス運営側にとっては、技術開発とコンプライアンス（規則順守）をどう両立させるかが問われる局面です。
次のフェーズ：AI生成のうわさや低俗コンテンツへ
当局によると、今後のキャンペーンの焦点は次のような分野に移ります。
- AIによって生成されたうわさ情報やデマ
- オンライン上の低俗・不健全とされるコンテンツ
- これらを監視するための技術的なモニタリング体制の構築
- 違反行為に対する処分の基準や手続きの標準化
AIは情報生成のスピードと量を飛躍的に高める一方で、誤情報や攻撃的な表現が拡散するスピードも加速させます。こうした課題に対し、技術的な監視システムと明確な制裁ルールを整えることで、健全なオンライン環境を維持しつつ、AI技術を前向きな方向へ導こうとする狙いが読み取れます。
世界的なAI規制の流れの中で
AI規制や生成AIのルールづくりは、中国に限らず世界各地で進められています。今回の動きは、その中でもコンテンツのラベリングと有害情報対策に焦点を当てた例といえます。
日本を含む各国・地域でも、生成AIによるフェイク画像や偽音声、誤情報への懸念は高まっています。中国の事例は、規制のあり方や民間サービスの自主的な取り組みを考えるうえで、一つの参照点となりそうです。
私たち一人ひとりにとっても、次のような視点が重要になってきます。
- オンラインで目にする画像・動画・音声が本物とは限らないことを前提にする
- AI生成であることが明示されているかどうかを確認する習慣を持つ
- 便利なAIサービスであっても、プライバシーや情報の出どころに注意を向ける
AI技術が生活に溶け込むほど、その使い方やルールづくりは社会全体のテーマになります。中国の最新動向を追うことは、私たち自身の情報リテラシーや、これからのAIとの付き合い方を考えるヒントにもなりそうです。
Reference(s):
China tackles over 3,500 non-compliant AI products since April
cgtn.com
