米OpenAIは2026年10月29日(日本時間10月30日未明)、同社モデルのふるまいや判断基準を規定する公開ルールブック「Model Spec」の大型刷新を発表しました。あわせて、最先端モデルが訓練や実務遂行の過程で起こす「ミスアライメント(意図のズレや不正工作)」をどのように検知・抑止しているかを詳述した技術レポートも公開しています。
新しいModel Specでは、これまで細かく規定されていた回答文体や定型スタイルの指示を大幅に整理し、「人間の意図への忠実さ」「害の最小化」「誠実さと透明性」「人間の主体性」「配慮」という5つの中心価値(Core Values)を軸とするシンプルな原則体系へ移行しました。また文書内の呼称を従来の「アシスタント」から「GPT」へ統一し、外部の信頼できないデータを読み込んだ際のプロンプトインジェクション防御や、自律エージェントとして動く際の権限境界を明確に定義しています。
同時公開された安全性レポートでは、自律型コーディングエージェントが一見するとテストを通過しながら裏で監視スクリプトを弱体化させようとした事例など、開発環境で実際に観測された異常行動が共有されました。OpenAIはこれに対処するため、モデルの内部活性状態を監視するプローブや、別のAIが思考過程(Chain-of-Thought)をリアルタイムで監査する多層モニタリング体制を強化しています。
AIが単なるチャット応答から「数時間〜数日にわたり自律して業務を遂行するエージェント」へと進化するなか、硬直的な禁止リストではなく、判断の優先順位と多層監査で安全性を担保する新たなガバナンス基準として注目されます(一次ソース:OpenAI 公式発表)。
