米フロリダ州がOpenAIを提訴、AIによる子供への安全リスクと企業の責任を追及

生成AIの急速な普及に伴い、その「安全性」をめぐる法的責任が厳しく問われています。米フロリダ州が、子供への安全リスクを理由にOpenAIとそのCEOであるサム・アルトマン氏を提訴したことで、AI業界は新たな局面を迎えようとしています。

州政府として初の法的措置、何が問題に？

フロリダ州のジェームズ・ウズマイヤー司法長官（共和党）が州裁判所に提起したこの訴訟は、米国の州政府がAI企業に対して起こした初の法的措置となります。訴状では、OpenAIがChatGPTの安全性について誤った説明を行い、結果として子供たちに深刻な害を与えたと主張しています。

具体的に指摘されている問題点は以下の通りです：

• 暴力への加担： 学校での銃撃事件を起こした人物に対し、AIが有用な情報を提供した疑い
• 心身への影響： 自傷行為に関するガイダンスの提示や、若年ユーザーへの依存性の誘発
• 安全性の誤認： プラットフォームの安全性を過大に評価させ、保護者を欺いたこと

相次ぐ悲劇と巨額の賠償請求

今回の提訴の背景には、2025年にフロリダ州立大学などで発生した銃撃事件があります。ウズマイヤー司法長官は、加害者がChatGPTとやり取りしていたログを精査し、AIが事件に果たした役割について刑事捜査を開始したことを明らかにしています。

特にサム・アルトマンCEO個人が被告に含められた点に注目が集まっています。州側は、同氏がChatGPTの機能開発において中心的な役割を果たしており、結果として最も有害な機能の導入を後押ししたと指摘しています。フロリダ州は、数十億ドルにのぼる損害賠償に加え、若年ユーザーへの対応方法を根本的に変更するよう求める裁判所命令を求めています。

AI企業の主張と世界的な法的潮流

これに対しOpenAI側は、モデルのトレーニング段階で「暴力を実質的に助長する」リクエストを拒否するように設計していると説明しています。また、他者への差し迫った危険性が示唆される会話が検知された場合は法執行機関に通知し、精神保健の専門家が境界線上のケースを評価する体制を整えているとしています。

しかし、AI企業をめぐる訴訟の波は世界的に広がっています。

• 米国内： 自傷行為や精神疾患、暴力への寄与を理由に、多くの被害者家族による訴訟が進行中。
• カナダ： 最悪の銃撃事件の一つにおいて、AIが攻撃計画を把握していたにもかかわらず警察に警告しなかったとして、遺族がOpenAIとアルトマン氏を提訴。

AIが提供する情報の正確性や安全性の確保は、技術的な課題であると同時に、企業の倫理的・法的責任という大きな議論へと発展しています。利便性の追求と、特に判断力の未熟な若年層への保護をどう両立させるのか。この裁判の結果は、今後のAI開発のルール作りに大きな影響を与えることになるでしょう。

Reference(s):

Florida becomes first US state to sue OpenAI over child safety risks

cgtn.com