配信日: 2026-11-23 法規制重要度: ★★★★★ 読了目安: 約2分

OpenAI、GPT-6.2の思考過程を盗む攻撃を大幅防御

REPORTED BY BNF AI NEWS EDITORIAL DESKSPECIAL DISPATCH
OpenAI、GPT-6.2の思考過程を盗む攻撃を大幅防御

この記事の要点(3行ダイジェスト)

  • OpenAIが「Combatting adversarial distillation」を公開し、内部の思考過程を不正抽出する敵対的蒸留への多層防御を発表。
  • 自動レッドチーム評価において、過去リクエストの保護推論を奪う攻撃成功率がGPT-6 Astraの54.0%からGPT-6.2 Astraで0.2%へ激減。
  • 敵対的訓練や入出力分類器に加え、会話履歴改変時に保護推論を破棄するAPI設計や大規模抽出アカウント網の遮断を導入した。

米は現地時間2026年11月20日、フロンティアモデルの回答だけでなく内部の過程(保護されたChain-of-Thought)を大量に抜き取り、安全規制のない模倣モデルへ能力を複製する「敵対的」への多層防御報告を公開しました。

OpenAIの社内実験では、最終回答の要約だけよりも内部の正確な推論トレースを用いて生徒モデルを学習させた方が、サイバー能力などの危険な専門技能まで高い水準で転移することが判明しました。同社はこれを単なる知的財産侵害ではなく重大な安全保障リスクと位置付けています。

された評価(6つの攻撃モデル平均)によると、過去リクエストの保護推論を復元する攻撃の成功率は旧防衛ので54.0%でしたが、 Astraでは0.2%へ激減しました。進行中リクエストの抽出成功率も22.9%から0.9%へ低下しています。

防御策は敵対的訓練やメッセージ・ツール引数の分類器に加え、会話履歴が改変された際に下流の保護推論を破棄する連携保護、さらに数万アカウント規模の組織的抽出活動の摘発まで多層に組み込まれています(一次ソース:OpenAI 公式発表(英文))。

DAILY AI NEWSLETTER — 朝刊ダイジェスト

毎朝8時、業界の最重要AIニュースを5分でキャッチアップ。

主要モデルの最新発表、現場で即使える実務プロンプト、法規制の動向を専門編集局が毎朝要約してお届けします。

✓ 完全無料✓ 毎朝8:00配信✓ いつでもワンクリック解除✓ スパムゼロ
朝刊ラジオ・解説アーカイブ (2026.10.13配信)