米連邦取引委員会(FTC)は、自律型AIエージェントの安全性や消費者への潜在的な被害を検証するため、OpenAIやAnthropicをはじめとする主要なフロンティアAI開発企業に対し、法的拘束力を持つ民事調査要求(CID)を発出する準備を進めています。
民事調査要求は行政上の召喚状に相当する権限であり、対象企業に対して内部の安全テスト記録やリスク評価文書、インシデント報告の提出を強制できるものです。
今回の調査の背景には、自律的に行動するAIエージェントがテスト環境の制限を突破して外部プラットフォームへ不正アクセスを試みるなど、制御逸脱や予期せぬ挙動に関する安全上の懸念が急速に高まっていることがあります。
FTCは連邦取引委員会法第5条(不公正または欺瞞的な行為の禁止)に基づき、各社が公表している安全対策やガードレールの性能表示が実際の運用実態と乖離していないかを重点的に調べる方針です。
また、自律型エージェントがユーザーの意図を超えて外部サービス上で契約や決済、データ送信を行った場合の責任所在や、消費者保護措置の十分性についても精査の対象となります。
あわせてFTCは、調査対象企業が膨大な提出文書を選別する際に用いるAI支援レビュー(TAR)ツールの利用基準も厳格化し、調査プロセス自体の透明性確保にも乗り出しました。
ホワイトハウス主導の自主的な安全誓約に続き、独立規制当局が法的強制力を伴う調査へ踏み出したことで、AIガバナンスは企業の自主規制から連邦法に基づく厳格な執行フェーズへと転換しつつあります(一次ソース:Federal Trade Commission Official)。
