配信日: 2026-11-19 法規制重要度: ★★★★★ 読了目安: 約2分

米カリフォルニア州、AI緊急停止権限や自己改良上限を提言

REPORTED BY BNF AI NEWS EDITORIAL DESKSPECIAL DISPATCH
米カリフォルニア州、AI緊急停止権限や自己改良上限を提言

この記事の要点(3行ダイジェスト)

  • ニューサム州知事がフロンティアAI安全枠組みの強化策として、危険モデルの緊急停止権限を州へ付与するよう提言。
  • AIが自律的に次世代モデルを開発する再帰的自己改良について、可視化義務と規制上限の設定方針を明示。
  • 認証済み第三者機関による開発から運用までの継続監査を義務付け、連邦規制に先駆けて安全統治を厳格化。

米カリフォルニア州のギャビン・ニューサム知事は現地時間2026年11月18日、フロンティアAIの安全規制を大幅に引き上げる新たな政策提言と次期工程を公表しました。行政命令N-9-26や既存の州法SB 53、SB 813、AB 1405を基盤とした専門家提言としてまとめられています。

最注目点は、差し迫った壊滅的リスクに対して開発企業が適切に対処しない場合、州当局が危険なAIシステムの稼働停止を命じられる「緊急停止権限」の創設提言です。あわせて、全大手開発企業に対し最低限の安全性・セキュリティ・透明性基準とリスク封じ込め手順の順守を求めます。

さらに近年懸念が高まる「再帰的自己改良(AIによる自律的な研究開発加速)」についても、能力進展の可視化指標と規制上限(キャップ)を設ける方針を打ち出しました。が隔離環境を突破する事例を受け、人間による制御を逸脱させない歯止めを組み込む狙いです。

監査体制では、州認証の独立検証機関による学習段階から展開後までの継続テストを義務化します。米国連邦レベルの包括法が定まらない中、主要AI企業が集積する同州の厳格な枠組みが業界標準を左右する可能性があります(一次ソース:カリフォルニア州知事室 公式発表(英文))。

DAILY AI NEWSLETTER — 朝刊ダイジェスト

毎朝8時、業界の最重要AIニュースを5分でキャッチアップ。

主要モデルの最新発表、現場で即使える実務プロンプト、法規制の動向を専門編集局が毎朝要約してお届けします。

✓ 完全無料✓ 毎朝8:00配信✓ いつでもワンクリック解除✓ スパムゼロ
朝刊ラジオ・解説アーカイブ (2026.10.13配信)