配信日: 2026-11-18 法規制重要度: ★★★★★ 読了目安: 約2分

OpenAI、外部4機関による内部常駐型の安全評価を開始

REPORTED BY BNF AI NEWS EDITORIAL DESKSPECIAL DISPATCH
OpenAI、外部4機関による内部常駐型の安全評価を開始

この記事の要点(3行ダイジェスト)

  • OpenAIがApollo Research、METR、Goodfire、Transluceの4機関と契約し、内部常駐型の安全評価を開始。
  • 公開直前の審査ではなく開発途中の学習データやチェックポイント、コードに直接アクセスして監視や検証を実施。
  • 独立した報酬体系と結果公表権を備える一方、外部研究者からは閲覧範囲の制限や機密編集権への懸念も浮上。

米は2026年11月、独立系のAI安全性研究機関4社を社内開発プロセスへ直接迎え入れる第1段階の安全評価プログラム「Embedded Assessments(常駐型評価)」を開始したと発表しました。参画するのはApollo Research、METR、Goodfire、Transluceの4機関です。

従来の外部監査はモデル公開直前の限られた期間に実施されるのが通例でしたが、今回の枠組みでは外部研究者がOpenAIの社内拠点や専用端末を通じ、未公開モデルのチェックポイントや学習ラン、ソースコード、監視システムへ継続的にアクセスします。

各機関は専門領域を分担しており、Apollo Researchは開発者の意図に反する秘密工作や回避行動の有無を検証し、METRは大規模強化学習時の不整合リスクを調査します。Goodfireは内部表現の解釈性を解析し、Transluceは事後学習の評価精度そのものを監査します。

評価機関の報酬は検証結果に左右されない独立契約とされ、一定の公開猶予と機密情報の黒塗り調整を経た上で結果の公表が認められています。一方で安全性研究者の一部からは、従来の「社員並みアクセス」公約より対象範囲が狭く、OpenAI側が編集権を保持する点への慎重論も出ています(一次ソース:OpenAI 公式発表(英文))。

DAILY AI NEWSLETTER — 朝刊ダイジェスト

毎朝8時、業界の最重要AIニュースを5分でキャッチアップ。

主要モデルの最新発表、現場で即使える実務プロンプト、法規制の動向を専門編集局が毎朝要約してお届けします。

✓ 完全無料✓ 毎朝8:00配信✓ いつでもワンクリック解除✓ スパムゼロ
朝刊ラジオ・解説アーカイブ (2026.10.13配信)