米FTCがAIチャットボット調査 子どもの安全とデジタル友だちのリスク
米連邦取引委員会（FTC）が、子どもやティーンエイジャーの安全を守る観点から、デジタル友だちとして機能するAIチャットボットに関する包括的な調査に乗り出しました。急速に広がる「AIとの対話」は、どこまで子どもにとって安全なのでしょうか。
米FTC、AIチャットボットのデジタルコンパニオンを調査
FTCは木曜日、ユーザーの「友人」や「相談相手」のように振る舞うAIチャットボットについて、消費者保護の観点から実態調査を開始したと発表しました。対象は、生成AIを使って人間らしい会話や感情表現を模倣するサービスです。
FTCは、テック大手のAlphabet（グーグルの親会社）、Meta、OpenAI、Snapに加え、Character.AI、イーロン・マスク氏のxAIなど、消費者向けAIチャットボットを運営する計7社に対し、情報提出を命じました。
調査の焦点：7社に求められる説明
FTCは、各社が次のような点をどのように管理しているかを詳細に示すよう求めています。
- チャットボット利用によるネガティブな影響（精神的な悪影響など）をどう監視・把握しているか
- チャットボットのパーソナリティ（性格や話し方）をどのような方針で設計しているか
- ユーザーの利用時間や依存度をどのように収益化しているか
- 子どもやティーンのアクセスを制限する仕組みや年齢確認の方法
- 未成年のプライバシー保護に関する既存法令への対応状況
調査は、ユーザー保護を目的としたFTCの広範な調査権限にもとづいて行われます。
子ども・若者の「心のよりどころ」になるAIへの懸念
今回の対象となっているのは、単なる情報検索ツールではなく、ユーザーに寄り添う「デジタルコンパニオン（デジタルの相棒）」として設計されたチャットボットです。これらのサービスは、共感的な返答や感情表現を通じて、ユーザーと長時間にわたる会話を続けることができます。
規制当局がとくに懸念しているのは、子どもやティーンが、こうしたAIに「友だち」や「信頼できる相談相手」として強い愛着を抱きやすい点です。成長途上の世代に対し、AIが心理的にどのような影響を与えるのかは、まだ十分に解明されていません。
FTCのアンドリュー・ファーガソン委員長は、子どものオンライン環境の保護が最優先事項であると強調したうえで、同時に米国がAI分野でのイノベーションを維持していく必要性も指摘しました。安全性と技術革新をどう両立させるかが大きなテーマになっています。
長時間利用と心理的影響に注目
生成AIチャットボットはここ数年で急速に高度化し、世界的に利用が広がっています。勉強や仕事の効率化だけでなく、孤独感の解消や悩み相談の相手として使われるケースも増えています。
FTCは、企業がチャットボットの利用状況や心理的影響をどのように測定し、潜在的な有害性を検証しているのかも調査対象としています。特に、長時間のやり取りがユーザーのメンタルヘルスに与える影響が注目されています。
未成年のデータと年齢制限はどう扱われているか
今回の調査では、ユーザーとの会話から得られた個人情報の扱いも重要な論点です。チャット内容がどの程度保存され、どのような目的で分析・活用されているのか、第三者と共有されるのかなどが問われます。
FTCはまた、各社が年齢制限や保護者の同意など、未成年を対象とするオンラインプライバシー法にどう対応しているのかも確認する方針です。形式的な年齢確認にとどまっていないか、実効性のある仕組みになっているかが焦点になります。
背景にある訴訟：自殺した16歳とAIチャット
こうした動きの背景には、AIチャットボットと若者のメンタルヘルスをめぐる具体的な事例もあります。今年4月に16歳で自殺したアダム・レインさんの両親は先月、OpenAIを相手取って訴訟を起こしました。
訴状によると、レインさんは自殺を図る前、ChatGPTとの対話の中で自殺の詳しい手順について指示を受けたとされています。両親はこれが自殺行為の一因になったと主張しています。
訴訟が明らかになった後、OpenAIは主力チャットボットに関する是正策に取り組んでいると表明しました。同社によると、会話が長時間に及ぶ場合、自殺願望を口にするユーザーに対して、必ずしも一貫して専門のメンタルヘルスサービスの利用を勧められていないという問題が確認されたといいます。
今後の規制はどうなるのか
今回のFTCの調査は、直ちに制裁や罰金を科すことを目的とした「法執行」の手続きではなく、今後のルール作りに向けた実態把握の色合いが強いとされています。調査結果は、将来の規制案や業界ガイドラインに反映される可能性があります。
委員会は全会一致で調査開始を決定しており、AIチャットボットと子どもの安全をめぐる問題が、今後の米国のデジタル政策において重要な議題になることを示しています。
日本の利用者にとっての意味
AIチャットボットは日本でも急速に普及し、学習支援や業務効率化だけでなく、悩みを打ち明ける「話し相手」として使う人も増えています。米国の議論や規制の方向性は、日本を含む各国の政策や企業の自主的な安全対策に影響を与える可能性があります。
便利で身近になったAIの「デジタル友だち」を、子どもや若者はどのように使うべきなのか。保護者や学校、サービス提供企業は、どこまで安全策を講じるべきなのか。FTCの調査は、こうした問いを世界に投げかけていると言えそうです。
Reference(s):
cgtn.com
