インドネシア、Grokを一時遮断 AI生成の性的画像懸念で - NewsTomo

インドネシア当局が2026年1月10日、イーロン・マスク氏のAIチャットボット「Grok」へのアクセスを一時的に遮断しました。 AIが生成する性的に露骨なコンテンツへの懸念が高まり、各国で規制当局の注視が強まる中での動きです。

何が起きたのか：Grokへのアクセスを「一時遮断」

インドネシアの通信・デジタル省は1月10日、Grokを一時的にブロックしたとしています。背景には、AIが生成したとされるポルノ的コンテンツや、性的に誇張された画像表現への懸念があるとされます。

報道によれば、インドネシアはこのツールへのアクセスを認めない措置をとった最初の国になったとされています。

通信・デジタル相のムートヤ・ハフィド氏は声明で、非同意の性的ディープフェイクについて「人権、尊厳、そしてデジタル空間における市民の安全に対する深刻な侵害」との見方を示しました。

ディープフェイクは、AIで映像・画像・音声を合成し、本人がしていない言動や状況を本物のように見せられる技術です。被害は個人の名誉やプライバシーに直結し、拡散のスピードも速いのが特徴です。

xAI（Grokを開発する新興企業）は1月8日、画像の生成・編集機能を有料加入者に限定したと発表しました。安全対策（ガードレール）の不備によって不適切な性的アウトプットが生じたことを受け、対策を進めているとしています。

報道では、不適切な生成物の中に、児童を想起させる不適切な描写が含まれた可能性にも言及されています。今回の遮断措置は、こうした「防げたはずの出力」が社会的に許容されない領域へ踏み込んだことへの反応ともいえます。

通信・デジタル省は、Xの関係者を呼び出して協議する予定だとしています。技術側の設計（どの段階で止めるか）、運用側の監視（誰がどう検知し、どう削除するか）、そして利用者への抑止（違反時の扱い）を、当局が一体で確認したい意図がうかがえます。

マスク氏はX上で、Grokを使って違法なコンテンツを作る者は、違法素材をアップロードする者と同様の結果に直面する、との趣旨を述べたとされています。

一方で、xAIはロイターからのコメント要請に対し、自動返信のようなメッセージで「Legacy Media Lies」と返したと報じられています。Xは別件の取材要請に即時の回答がなかったとも伝えられています。

インドネシアは、オンラインでの「わいせつ」と見なされるコンテンツの流通を禁じる厳格な規制を運用しているとされます。また、世界最大のムスリム人口を抱える社会背景もあり、プラットフォーム上の表現をめぐる社会的な許容範囲が政策判断に影響しやすい面があります。

今回の件は、生成AIがもたらす利便性と、現実の被害（非同意の性的合成など）をどう切り分けるかという問題を突きつけています。各国での監視や調査が続く中、今後の焦点は次の点になりそうです。

生成AIは、文章・画像・動画の制作を一気に身近にしました。同時に、誰かの尊厳を傷つける表現が「低コストで大量に」生まれうる環境も作っています。今回の遮断は、その緊張関係を政策がどう扱うのかを示す、ひとつの分岐点になりそうです。

Reference(s):
Indonesia temporarily blocks access to Grok over sexualized images
cgtn.com