中国がAI悪用を3か月取り締まりへ 生成コンテンツやうそ情報を重点監督
2025年12月現在、中国で人工知能（AI）技術の悪用を取り締まる3か月間の全国キャンペーンが始まりました。無許可のAIアプリやうそ情報、なりすまし投稿などを重点的に規制する動きで、インターネットとAIの関係が一段と問われる局面になっています。
中国インターネット当局が3か月の全国キャンペーン
この取り組みは、中国の最高インターネット規制当局である中央サイバースペース委員会弁公室（Office of the Central Cyberspace Affairs Commission）が出した通達に基づくものです。通達は今週水曜日に公表され、AI技術の「悪用」に対する集中的な取り締まりを全国規模で3か月行うとしています。
キャンペーンは、次の2つのフェーズに分けて実施されます。
2つのフェーズの概要
- 第1フェーズ：関連するアプリやサービス、技術の「源流管理」を強化
- 第2フェーズ：うそ情報やわいせつ表現、なりすましなど具体的な違反行為を重点的に取り締まり
第1フェーズ：AIアプリと生成コンテンツの管理強化
第1フェーズでは、まずAI技術が使われる「場」そのものを整えることに焦点が当てられます。通達によると、主なポイントは次の通りです。
- 無許可のAIアプリやサービスをプラットフォームから削除すること
- AIが自動生成した文章や画像、動画などのコンテンツと、それを支える関連技術の規制を強化すること
- オンラインプラットフォームに対し、違反行為を識別・検証する仕組みや能力の向上を求めること
言い換えると、AIサービスを提供する側と、それを載せるプラットフォーム側の双方に、より厳格な自己チェックと管理を促す段階と言えます。
第2フェーズ：うそ情報、なりすまし、「荒らし」行為を重点監督
続く第2フェーズでは、より具体的な問題行為に焦点が移ります。通達は、AIを使って次のようなコンテンツを作成・拡散する行為を取り締まりの対象として挙げています。
- 事実に基づかないうわさ話や、誤解を招く誤情報
- わいせつな内容などの不適切なコンテンツ
- 他人や組織になりすます行為
- 執拗な中傷や挑発など、いわゆる「インターネット荒らし（トローリング）」行為
このフェーズでは、違法または有害とみなされるコンテンツを削除するだけでなく、違反行為を行ったアカウントに対する処分も強化されます。対象は個人アカウントにとどまらず、マルチチャンネルネットワーク（MCN）と呼ばれる複数のクリエイターを束ねる組織や、オンラインプラットフォーム自体にも及ぶとされています。
AI規制で当局が重視しているポイント
通達の内容からは、中国当局がAIの「技術」そのものよりも、社会に流通する「コンテンツ」とその影響をより強く意識していることがうかがえます。特に目立つのは、次の3点です。
- うそ情報や誤情報の拡散を防ぎ、情報空間の信頼性を高めること
- わいせつな内容や攻撃的な発言など、オンライン上の有害コンテンツを抑制すること
- なりすましやトローリングへの対策を通じて、利用者の権利と秩序を守ること
AIが高度になるほど、コンテンツの作成・拡散のスピードも速くなります。今回のキャンペーンは、そのスピードに対応できるよう、プラットフォーム側の監視や検証の能力を底上げする狙いもあると考えられます。
プラットフォームとクリエイターへの影響
このAI取り締まりは、中国国内でサービスを展開するオンラインプラットフォームやMCN組織、クリエイターに直接影響します。今後3か月の間に、次のような変化が起きる可能性があります。
- AI機能を持つアプリやサービスの審査が厳格化し、無許可・未登録のサービスは削除されるリスクが高まる
- 生成AIを使った投稿や広告に対し、事前チェックや表示ルールが強化される
- うそ情報やなりすましと見なされるコンテンツを投稿したアカウントに対して、凍結やペナルティが科されやすくなる
一方で、プラットフォームが違反検出の仕組みを整えることは、利用者にとって安全性の向上につながる可能性もあります。どのような運用がされるのかが、今後の焦点となりそうです。
日本の読者が押さえておきたい視点
AIの悪用をどう防ぐかは、日本を含む多くの国と地域で共通の課題になっています。中国の今回の取り組みは、次のような意味で注目する価値があります。
- 大規模プラットフォームに対し、違反コンテンツの検出能力向上を強く求めている点
- 技術の規制だけでなく、MCNなどコンテンツ流通の「ハブ」となる組織も監督対象としている点
- うそ情報やなりすまし、トローリングといった、SNS時代ならではの問題をAI規制の文脈に組み込んでいる点
中国の動きをきっかけに、「どこまでをAIの自由な活用と認め、どこからを悪用として線引きするのか」という問いは、今後さらに国際的な議論のテーマになっていきそうです。
今後3か月の注目ポイント
今回のキャンペーンは期間を区切った集中的な取り締まりですが、その成果や課題は、今後のAI関連ルールづくりにも影響を与える可能性があります。これから3か月ほどの間、特に次の点に注目すると、ニュースがより立体的に見えてきます。
- 主要プラットフォームがどのような新しいガイドラインや技術的対策を打ち出すか
- MCNやクリエイターの間で、AI活用ルールを巡る自主的な取り組みが広がるか
- キャンペーン終了後、この枠組みが恒常的な規制や制度に発展するのかどうか
AIとインターネットの関係をめぐるルールづくりは、今後のデジタル社会の方向性を左右する重要なテーマです。中国で始まったこの3か月の動きは、世界のAIガバナンスの議論を考える上でも、注視しておきたいトピックだと言えるでしょう。
Reference(s):
cgtn.com
