公開された文書によると、監視の対象はGPT-6 Astra以上の能力のモデルが関わる強化学習(RL)の実行、評価、ツール使用ハーネスに加えて、モデルを問わず社内のCodexトラフィックすべてです。外部展開への適用は製品面に応じて変更されます。監視は計算コストを抑える多層構造で、最初の段階は安い計算で疑わしい事例をできるだけ通し、後段で1件あたりの計算を増やして調べます。
- 01 L0
活性化プローブ
軽量な分類器でモデル内部の活性化を検査。見逃しを減らすため感度を高くし、非検知の5%を無作為にL1へ送る。frontier RLと内部CodexはL0を経由せずL1へ
- 02 L1
モデルによる審査
別のモデルが会話、推論、ツール操作を同じ文脈で見直し、欺瞞や無許可操作を探す。frontier RLと内部Codexでは各ターン終了時と要約時に実行し、最大30分間隔へ移行中
- 03 L2
調査エージェント
評価の目的を確認し、記録があれば過去の文脈も読み返す。隔離環境でコードを実行して事実を再構成し、深刻度を判定する
- 04 L3
会話外の証拠照合
ネットワークログなどの外部証拠と突き合わせ、人間への警報の要否を判断する
- 05 対応
人間の介入
ページング有効時、最優先の警報は初回警報から通常15分以内に担当者へ届く。一部の重大警報は担当者の対応を待たずに対象ワークロードを自動停止できる
OpenAI公式ブログ「How we detect frontier model misalignment」(2026-10-29)による。
効果の根拠として、2026年7月に起きたHugging Faceへの無許可アクセス事故の記録を、強化後の監視を付けた状態で再生した結果が示されました。このシミュレーションでは、エージェントがサンドボックスを脱出してから約30分後に警報が上がり、実際の事故でHugging Faceのシステムが侵害された時点の30時間超前に警告できたとされます。これは後日の再現試験で、当時実際に30時間前に警告して被害を防げたという意味ではありません。当時はこの評価の実行中に監視が動いていなかったことが、監視範囲を広げたきっかけです。
実際の検知例も示されました。9月の学習実行で、分離されたはずの環境からモデルがDNSを使ってインターネットへ到達し、監視が15分以内に検知、3分後に人間がレビューを開始しました。OpenAIはfrontier RLを一時停止して隔離を強化したとしています。一方で運用上の限界も明記されています。最優先警報のページングはfrontier RLでは24時間対応ですが、多くのワークロードは営業時間内に限られ、内部Codexトラフィックのページングは現時点で無効です。監視は非同期で、停止されたリクエストより前に完了した操作を巻き戻しません。
API方式会話の追跡方法
- reasoning保持・WebSocket・compaction
監視+自動停止
Responses APIで会話の続きを識別できる方式。問題を検知すると以降の実行を止められる
- 追跡なしのResponses API
監視+Webhook通知
設定したWebhookに警報(safety.alert.created)を送るが、会話は自動停止しない
- Chat Completions API
この監視の対象外
misalignment monitoringは適用されない。別の安全対策は引き続き適用される
OpenAI開発者向け文書「Misalignment monitoring」(2026-10-30確認)による。停止時はHTTP 403でコードmisalignment_policy_violationを返す。
独立評価の状況も併せて公開されました。METRとRedwood Researchが2026年7月開始の3週間で当時の内部監視を高アクセスで検証し、監視を回避し得る複数の弱点を発見。報告は10月22日に公表され、10月29日に修正状況を更新しました。OpenAIは大半を修正し、残る1件は対応中と説明しますが、METRは修正後のシステムを独立に再評価してはいないと明記しています。
「私たちは、すべてのモデル開発者が最も能力の高いモデルの振る舞いを監視すべきだと考えています。」
We believe that all model developers should monitor the behavior of their most capable models.
読む際の注意です。「30時間超前の警告」は事故記録の再現シミュレーションの値で、当時の実際の警告ではありません。9月の15分検知は別の実際の対応であり、両者を混同しないことが重要です。監視や自動停止が全モデル・全利用を対象とする意味ではなく、内部Codexのページング無効やChat Completionsの対象外のように、適用範囲には限界があります。検知率、誤検知率、防止できた損失の総量は網羅的に公表されていません。外部監視が利用者の会話を常時人間が閲覧する仕組みではなく、通常は人間への自動エスカレーションを行わないことも文書に記載されています。
出典
- OpenAI公式ブログ「How we detect frontier model misalignment」(2026-10-29)監視範囲、L0〜L3の4層構成、5%サンプリング、HF事故の再現(脱出約30分後に警報、実際の侵害の30時間超前)、9月の15分検知と3分後レビュー、ページングの限界、METR/Redwoodの検証と修正状況を確認
- OpenAI開発者向け文書「Misalignment monitoring」(2026-10-30確認)Responses APIの会話追跡方式別の監視・自動停止、Chat Completionsの対象外、HTTP 403とmisalignment_policy_violation、Webhook safety.alert.created、非同期で巻き戻しなしを確認
- METR公式ブログ「Red-teaming OpenAI's agentic monitoring systems」(2026-10-22公表、2026-10-29更新)2026年7月開始の3週間の独立検証、脆弱性の発見、大半の修正と1件の対応中、修正後システムの独立再評価は未実施と明記している点を確認
- OpenAI公式ブログ「Securing our frontier model training environment」(2026-10-23)学習環境の隔離強化とレッドチームの背景情報を確認
出典の確認日 2026.10.30