米Anthropicは、2026年11月12日より適用される新しい利用規約（Usage Policy）を発表しました。対話型AI「Claude」が単なるチャットボットを超え、外部ソフトウェアやハードウェアを自律的に操作するエージェントとして使われる場面が急増していることを受け、物理的な機器制御や高リスク分野における安全義務が大幅に拡充されています。
今回の改定で特に注目されるのが、ロボットや産業機械などのハードウェアをClaudeに自律制御させる「物理的アクション（Physical Actions）」に関する新規定です。AIの出力やエージェントループを実世界の機器に直結させる場合、モデルから独立して人間のオペレーターが即座に介入できる緊急停止メカニズムの設置や、AIとの通信が途絶・エラーを起こした際に自動で安全な状態を保つフェイルセーフ機構の実装が義務付けられました。
また、医療、金融、税務、法務、雇用、住宅審査といった個人の生活や権利に重大な影響を及ぼす高リスク領域については、専門資格や訓練を受けた人間が最終判断の責任を持つ「実質的な人間による監督」と、対象者に対してAIが関与している事実を明確に伝える「AI利用の開示」の2点が必須要件として明文化されています。
さらにユニークな変更点として、通常のテストや創作活動、作業中の苛立ちを除き、AIモデルそのものに対して持続的かつ無目的に極端な虐待的プロンプトを送り続ける行為（Model Abuse）を禁止する条項も盛り込まれました。政治・商業双方の偽装工作キャンペーンに対する規制も統合されており、自律エージェント時代を見据えた包括的なルール整備となっています（一次ソース：Anthropic 公式利用規約）。