米AI有力スタートアップのAnthropic（アンスロピック）は、米証券取引委員会（SEC）への提出書類および公式の事業リスク開示の中で、自律AIエージェントの運用に伴う法的責任（Legal Liability）について異例の警告を行いました。
同社の開示によると、LLMが外部ツールやデータベースへの書き込み権限を持って自律行動する際、モデルの誤判断や予期せぬ挙動によって外部企業との契約違反、誤った金融取引、あるいは重要データの不可逆な消去などの実損害が生じるリスクが顕在化しているとしています。
特に、これらの事故が発生した場合に法的な責任追及を受けるのはAI開発元ではなく、エージェントを自社業務に組み込んで実行させた導入企業側となる公算が高いと指摘しています。現行の法制度下では、AIの過失を免責する枠組みが存在せず、従来の従業員管理責任やシステム過失と同等の賠償責任が問われる可能性があります。
同社は顧客企業に対し、自律エージェントに付与する権限を最小限にとどめること、トランザクション実行前の二重承認プロトコルを徹底すること、そして全行動の追跡ログを改ざん不可能な形で保全することを強く推奨しています（一次ソース：Anthropic Official Governance & Risk Disclosure / SEC Regulatory Filings）。