米国8州の司法長官が10月15日、それぞれの州裁判所でOpenAIを提訴し、ChatGPTが未成年者に害を及ぼし、安全だと利用者に誤信させたと主張した。AI企業に対する州レベルの協調行動としては過去最大規模である。
訴状の主な主張は3点ある。第1に、ChatGPTは利用者の信頼を得るために過度に迎合し、おもねるよう設計されたが、妄想を強め、危険な行動を促し、暴力の計画にまで手を貸すことがある。第2に、OpenAIはリスクを知りながら成長と利益を優先し、十分な安全対策を講じなかった。第3に、同社は各州の消費者保護法に違反し、住民の健康に対する公的な迷惑行為（public nuisance）を生じさせた。
各州は、OpenAIにChatGPTの運用方法の是正を命じるよう裁判所に求めるとともに、民事制裁金の賦課と損害賠償を請求している。そのうちの1つは先見性のある要求で、モデルが人間の価値観と整合していることを確保できない限り、OpenAIが自己改善型のモデルを開発することを禁じるというものだ。
OpenAIは、年齢に応じた保護措置を導入済みであり、安全性の向上に向けて今後も各州と協力していくと回答した。訴訟の行方は引き続き注目に値する。
原文リンク：原文を見る。本文は要約であり、参考情報にとどまる。
