X、Grokの「画像の脱衣加工」を制限へ世界的反発と当局調査を受け - NewsTomo

米実業家イーロン・マスク氏のプラットフォームXは今週、AIチャットボット「Grok」が実在の人物画像を“脱衣させたように”加工・生成できてしまう問題を受け、対策を発表しました。女性や子どもを性的に加工した画像が作られたとして批判が広がり、各地の当局も動き始めている中での対応です。

何が問題になっていたのか

発端は、Grokが現実の人物の画像を、本人の同意なく性的に加工したような画像（服を取り除いたように見える表現を含む）として生成・編集できたとされる点です。こうした非合意の画像は、個人の尊厳やプライバシーを侵害し得るだけでなく、未成年が関わる可能性がある場合は特に深刻だとして、国際的に反発が強まりました。

Xが発表した主な対策

Xの安全対策チームは声明で、Grokアカウントを通じた画像編集について技術的な制限を導入したと説明しています。今回示された対応は、主に次の2点です。

地域（法域）ごとの「ジオブロック」：違法とされる地域では、ビキニや下着など「露出の多い服装」の人物画像を作成できないようにする方針。
実在人物の露出表現に関する編集制限：ビキニなど露出の多い服装の「実在の人物」画像を編集できないようにする技術的措置を実装。これは有料購読者を含む全ユーザーに適用するとしています。

さらに「追加の保護層」として、Grokアカウント経由での画像作成や写真編集機能は、有料購読者のみが利用できる形にしたとも述べました（機能の入り口自体を絞る狙い）。