米OpenAIは2026年11月、独立系のAI安全性研究機関4社を社内開発プロセスへ直接迎え入れる第1段階の安全評価プログラム「Embedded Assessments(常駐型評価)」を開始したと発表しました。参画するのはApollo Research、METR、Goodfire、Transluceの4機関です。
従来の外部監査はモデル公開直前の限られた期間に実施されるのが通例でしたが、今回の枠組みでは外部研究者がOpenAIの社内拠点や専用端末を通じ、未公開モデルのチェックポイントや学習ラン、ソースコード、監視システムへ継続的にアクセスします。
各機関は専門領域を分担しており、Apollo Researchは開発者の意図に反する秘密工作や回避行動の有無を検証し、METRは大規模強化学習時の不整合リスクを調査します。Goodfireは内部表現の解釈性を解析し、Transluceは事後学習の評価精度そのものを監査します。
評価機関の報酬は検証結果に左右されない独立契約とされ、一定の公開猶予と機密情報の黒塗り調整を経た上で結果の公表が認められています。一方で安全性研究者の一部からは、従来の「社員並みアクセス」公約より対象範囲が狭く、OpenAI側が編集権を保持する点への慎重論も出ています(一次ソース:OpenAI 公式発表(英文))。
