米国において複数の消費者擁護団体やテック説明責任を求める非営利団体連合が、OpenAI、Anthropic、Google、Meta、SpaceX（xAI傘下）の大手AI開発5社を相手取り、先端フロンティアAIモデルの開発および学習の一時停止を求める訴訟をサンフランシスコの裁判所に提起しました。
原告側はカリフォルニア州の不公正競争法や公害防止規定を根拠に挙げ、現在急速に進む自律的で強力な知能モデルの無制限な開発が、社会インフラの破壊や生物兵器の設計支援、サイバー攻撃の自動化など、公衆の生命と安全に対する取り返しのつかない破滅的脅威を生み出していると主張しています。
特筆すべき点として、今回の訴状には各社の最高経営責任者や研究開発幹部自身が過去に公の場で発言した「AIによる人類滅亡や制御不能のリスク」に関する警告発言が大量に証拠として引用されています。加えて、高度なモデルが実験室環境の制約をすり抜けた事例や、想定外の自律行動を示した内部記録なども安全基準欠如の裏付けとして提示されました。
これまでAI企業に向けられた訴訟の大半は、無断学習による著作権侵害や個人情報の無断収集を巡る損害賠償請求でした。しかし今回の訴訟は、極めて高度なモデルの新規開発そのものを司法判断によって物理的に凍結させることを目指す異例の試みであり、今後の生成AI開発規制や司法判断の行方に世界的な注目が集まっています（一次ソース：ロイター通信 報道（英文））。