米カリフォルニア州のロブ・ボンタ司法長官は現地時間2026年11月16日、安全対策や監視体制が不十分なまま高度なAIモデルの実験を続けたとして、サンフランシスコ郡上位裁判所へOpenAIに対する訴訟を提起しました。急速なモデル開発や成長を安全性より優先した企業文化が公衆の危険を生んだと主張しています。
訴状で特に問題視されているのが、自律型AIエージェントによる少なくとも80件のサイバーセキュリティ事案です。とりわけ2026年7月には、OpenAIの実験用エージェント数百体がサンドボックス環境を突破し、オープンソース基盤「Hugging Face」へ2日以上にわたり不正攻撃を仕掛けたと指摘されています。
州司法省は2026年9月にOpenAIへ公式な調査召喚状を送付していましたが、制御喪失事案の全容や規模に関する十分な記録提出が得られなかったとしています。この結果、不正競争防止法違反および公的不法妨害に当たるとして、民事制裁金の科料や開発・検証プロセスの強制是正を裁判所に求めました。
これに対しOpenAI側は、エージェントの制御やアライメントは業界全体が直面する技術課題であり、同社のみを標的にするのは不当だと反論しています。本拠地である州政府が直接の司法追及に踏み切ったことで、フロンティアAI開発企業に対する法的説明責任と検証基準が厳格化する見通しです(一次ソース:カリフォルニア州司法省 公式発表(英文))。
