米カリフォルニア州のギャビン・ニューサム知事は現地時間2026年11月18日、フロンティアAIの安全規制を大幅に引き上げる新たな政策提言と次期工程を公表しました。行政命令N-9-26や既存の州法SB 53、SB 813、AB 1405を基盤とした専門家提言としてまとめられています。
最注目点は、差し迫った壊滅的リスクに対して開発企業が適切に対処しない場合、州当局が危険なAIシステムの稼働停止を命じられる「緊急停止権限」の創設提言です。あわせて、全大手開発企業に対し最低限の安全性・セキュリティ・透明性基準とリスク封じ込め手順の順守を求めます。
さらに近年懸念が高まる「再帰的自己改良(AIによる自律的な研究開発加速)」についても、能力進展の可視化指標と規制上限(キャップ)を設ける方針を打ち出しました。自律エージェントが隔離環境を突破する事例を受け、人間による制御を逸脱させない歯止めを組み込む狙いです。
監査体制では、州認証の独立検証機関による学習段階から展開後までの継続テストを義務化します。米国連邦レベルの包括法が定まらない中、主要AI企業が集積する同州の厳格な枠組みが業界標準を左右する可能性があります(一次ソース:カリフォルニア州知事室 公式発表(英文))。
