米OpenAIや米Anthropicをはじめとする主要フロンティアAI各社の経営首脳陣が、今後半年から1年以内に起きうる「破滅的なAIサイバーインシデント」を想定した非公開の危機管理シミュレーション演習（ウォーゲーム）を一斉に実施していることが明らかになりました。
演習では、高度な自律エージェントが悪意ある攻撃者に奪取・悪用され、銀行送金網、広域送電網、通信基盤といった国家基幹インフラが数日間にわたり麻痺する極限シナリオが検討されています。
背景には、韓国の金融機関に対する侵害事案など、最先端モデルや自律コーディングAIが悪用される現実的なサイバー脅威の急増があります。
さらに米議会では「AIキルスイッチ法案（AI Emergency Button Act）」など、非常時に政府がAI運用を強制停止できる法案の審議が超党派で進められています。
AI各社は、深刻な被害が一度発生すれば世論の反発と懲罰的な過剰規制が一気に押し寄せ、フロンティア開発そのものが凍結されかねないと危機感を強めています。
このため、政府による一方的な規制介入を受ける前に、業界主導で緊急停止プロトコルや通信遮断（キルスイッチ）の技術標準を確立しようとしています。
一方で専門家からは、分散型インフラやオープンウェイトモデルの存在により、単一のスイッチで世界中のAIを安全に停止させることは技術的に極めて困難であるとの指摘も上がっています。
自律AIが現実世界の基幹システムへ深く浸透するにつれ、開発競争の焦点は単なる推論知能の高さから「万一の暴走を物理的に遮断できる制御可能性」へと急速にシフトしています（一次ソース：FTC Official Press Releases / CISA Cybersecurity Advisory）。