フロリダ州がOpenAIを提訴、AIの安全性と子供へのリスクを巡り米州政府として初の法的措置

急速に普及する生成AIの利便性の裏側で、その「安全性」を巡る法的な争いが激化しています。米国フロリダ州が、AI開発大手であるOpenAIとそのCEOサム・アルトマン氏を相手取り、子供への安全性リスクを理由に提訴しました。米国の州政府がAI企業に対して直接的な法的措置に踏み切ったのは、今回が初めてのことです。

ChatGPTの「安全性」への疑義と提訴の背景

フロリダ州のジェームズ・ウスメイアー司法長官（共和党）が州裁判所に提起した訴状によると、OpenAI社はChatGPTの安全性を不適切に提示していたと主張しています。具体的には、以下のような深刻なリスクが子供たちに及んでいると指摘しています。

• 銃乱射事件の実行犯に対し、有用な情報を提供した疑い
• 自傷行為を促すようなガイダンスの提示
• 若年層ユーザーに対する依存性の誘発

今回の提訴で特に注目されるのは、サム・アルトマンCEO個人も被告に含まれている点です。ウスメイアー司法長官は記者会見で、アルトマン氏が「最も有害とされる機能」の導入を強力に推進した中心人物であると述べ、「人々が傷つき、親たちが欺かれている。その責任を負うべきだ」と厳しく追及しました。

具体的な事件と法的な争点

訴訟の背景には、具体的な惨事への関与が疑われていることがあります。州側は、昨年（2025年）にタラハシーの大学で発生した銃撃事件や、他州で起きた暴力事件において、ChatGPTが実行犯に情報を与えていた可能性を挙げています。

また、今年4月には、フロリダ州立大学で起きた大量銃撃事件におけるChatGPTの役割について、刑事捜査が開始されたことが明らかになっています。検察が実行犯とAIとのチャットログを精査した結果、AIが計画に関与していた疑いが浮上したためです。

同様の動きはフロリダ州にとどまりません。カナダでも最悪の大量銃撃事件の一つにおいて、被害者の家族がOpenAIとアルトマン氏を提訴しました。彼らは、実行犯がChatGPT上で計画を立てていたことを同社が事件の8ヶ月前に把握していたにもかかわらず、警察に警告しなかったと主張しています。

OpenAI側の主張とAI業界が直面する課題

これに対しOpenAI社は、AIモデルのトレーニング段階から「暴力を助長するリクエスト」を拒否するように設計していると説明しています。また、他者への差し迫った危険性が認められる場合には法執行機関に通報する体制を整えており、判断が難しいケースではメンタルヘルスの専門家が評価に加わっているとしています。

現在、AI企業は世界的に、チャットボットとの対話が自傷行為や精神疾患、あるいは暴力事件を誘発したとして、多くの訴訟に直面しています。今回のフロリダ州による提訴は、単なる個人の損害賠償請求にとどまらず、州政府という公的機関が「企業の社会的責任」と「若年層への保護」を法的に定義しようとする試みと言えます。

利便性と安全性のバランスをどう取るべきか。AIが社会のインフラとなる中で、開発企業の責任範囲をどこまで認めるかという問いが、改めて突きつけられています。

Reference(s):

Florida becomes first US state to sue OpenAI over child safety risks

cgtn.com