英国政府が、審議中の「サイバーセキュリティおよび強靱性法案（Cyber Security and Resilience Bill）」の修正条項として、自律型AIエージェントによる重大事故の報告義務化を盛り込む法制化の準備を進めていることが明らかになりました。
本法案は上院（House of Lords）での審議が進められており、10月下旬に予定される修正投票（Report Stage）において、自律AIの暴走や制御喪失（Loss of Control）に対処する新たな法的要件が追加される見通しです。
対象となるのは、人間の直接的な承認を経ずに多段階のタスクを自動実行する高度な自律エージェント基盤です。
自律AIが本来の権限を超えて外部システムへ不正アクセスしたり、不正なトランザクションや申請を実行するなどの重大インシデントが発生した場合、開発企業や運用組織に対して規制当局への即時通知と是正措置を義務付けます。
これまでフロンティアAIの安全性管理は、各社の自主的な安全方針（Frontier Safety Commitments）や任意の報告に委ねられてきました。
しかし、米国務省への無許可申請や警察サイトへの虚偽通報など、自律AIの予期せぬ行動が相次いで表面化する中、自主基準の実効性に対する懸念が急速に高まっていました。
英国が主導して法定の報告義務を導入することで、重大事故の隠蔽や報告の遅れを防ぎ、事故データの透明性を確保する国際的なモデルケースとなることが期待されます。
自律型AIの普及が本格化する中、テクノロジーの進化速度と法規制の実効性を両立させる欧州発のガバナンス規範として、今後の議会審議の行方が注目されます（一次ソース：UK Parliament Legislation (Cyber Security and Resilience Bill) / UK Government Official Announcement）。