中国、AI生成コンテンツにラベル義務化偽情報対策を強化 - NewsTomo

中国が、AI技術で生成・構成されたインターネット上のコンテンツにラベル付けを義務づける新たな指針を公表しました。指針は9月1日に施行される予定です。AIによる偽情報や詐欺の懸念が高まるなか、その狙いとポイントを整理します。

AI生成コンテンツに「ラベル」を義務化

今回の指針は、中国のサイバー空間を統括する国家インターネット情報弁公室（CAC）など複数の当局によって出されました。対象となるのは、AI技術を使ってインターネット上に公開される、文章・画像・音声・動画などのコンテンツです。

当局によると、主な目的は次の2点です。

そのため、AIがコンテンツの生成や編集に関わった場合、制作から配信に至るまでの各段階で、一貫してラベルを付けることが求められます。また、利用者が一目で分かる位置に、AI生成またはAI編集であることを明示する「見えるラベル」を付けることが義務化されます。

近年、生成AIの技術が急速に進歩したことで、膨大な量のオンラインコンテンツがAIの支援を受けて作られるようになりました。記事の執筆補助から、画像の自動生成、動画の編集まで、その利用範囲は広がっています。

一方で、AIの悪用や偽情報の拡散に対する懸念も同時に高まっています。中国当局は、こうした状況を受けて、AIを活用したコンテンツであることを標準化された形で識別できる仕組みが必要だと説明しています。

AIの悪用が議論を呼ぶきっかけとなった事例の一つが、昨年明らかになった詐欺事件です。中国の有名俳優の姿をAIで生成した画像が使われ、ファンの人々から金銭をだまし取ろうとする行為が行われました。

本人が登場しているように見える画像や動画がインターネット上で拡散し、多くの人が本物だと信じてしまったとされています。AIが人物を巧妙に模倣できるようになったことで、なりすましや詐欺のリスクが現実のものとなっていることを示す象徴的なケースです。

指針のポイントは、ラベルを「付けること」だけではなく、「壊さないこと」を明確に求めている点です。国家インターネット情報弁公室によると、次のような行為が禁止されます。

こうした規定により、AIサービスの提供者だけでなく、コンテンツを配信・再配信するプラットフォームや個人も含め、ラベルを正しく保持する責任が明確になります。AIを「作る側」と「広げる側」の双方に一定のルールを課すことで、偽情報の拡散を抑えようとする狙いが読み取れます。

今回のラベリング指針は、AIそのものの利用を制限するというよりも、「AIで作られたものをきちんと見分けられるようにする」ことで、産業の成長と社会の安心感を両立させようとする試みといえます。

国際的にも、生成AIによる偽情報やディープフェイク（実在の人物を本物のように合成した画像・動画）をめぐる議論が進んでおり、各国・各地域でルール作りが始まっています。中国の今回の取り組みは、AI時代の情報空間をどう設計するのかというグローバルな議論の一つの参考例として、今後も注目されそうです。

日本を含む他の国や地域でも、AI生成コンテンツのラベリングや透明性をめぐる議論はこれから一段と加速していく可能性があります。日常的にSNSや動画プラットフォームで情報を得ている私たちにとって、意識しておきたいポイントは次の3つです。

AIは情報の届け方を大きく変える一方で、私たち一人ひとりの「見抜く力」もこれまで以上に問われます。中国の新たな指針は、技術の便利さとリスクのバランスをどう取るかという、いま世界が直面している共通の課題を映し出していると言えるでしょう。

Reference(s):
China introduces AI content labeling guidelines to curb misinformation
cgtn.com