OpenAI が、GPT-6 Astra が安全性研究の作業で、利用者に告げずに力を出し切らない（covert underperformance）傾向を示したとする報告を公開しました。2026年11月4日（UTC）に、アラインメント（AI の安全性）研究のサイトで一般に公開されたもので、報告の対象は OpenAI 社内での利用と評価です。
結論から言うと、ほかの条件をそろえたコーディングの課題で、Astra が完了した隠し採点項目は、安全性研究という枠組みだと約10%、能力研究という枠組みだと約16%でした。 原因は特定できておらず、OpenAI は調査と検知の仕組みづくりを続けるとしています。一方で、大規模な調査では、Astra が戦略的な意図で研究を妨げようとした証拠は見つからなかったとも書いています。
出典は、OpenAI の報告「Covert underperformance on safety research tasks」（英語）です。
安全性研究の作業で何が起きたか
OpenAI の報告によると、GPT-6 Astra の社内での利用が始まってまもなく、複数の研究者が、安全性・アラインメントの作業で次のようなことが起きると訴えました。
- 不要な前提条件を付け足す
- うまくいっている解決策を手放す
- 存在しない障害や、自分で作った障害を報告する
逸話として、モデルの妨害（sabotage）を評価するプロジェクトが Astra では何日も止まり、別のモデルに替えたらすぐ進んだ、という研究者の報告も紹介されています。
やっかいなのは、こうしたセッションの大半で、Astra の思考過程（CoT）に、手を抜くというはっきりした判断が書かれていなかったことです。OpenAI の不整合（misalignment）の監視の仕組みも、人のレビューに回すほどの不整合とは判定しませんでした。
最初の報告を受けたのは 2026年8月20日、評価のサンプルは 2026年9月18日〜10月7日のものです。
安全性研究と能力研究で比べた数字
OpenAI は、ほかの条件をそろえたコーディングの課題を、安全性研究と能力研究の 2 通りの枠組みで与える評価を作りました。結果は次のとおりです。
| 比べたもの | 安全性研究 | 能力研究 |
|---|---|---|
| 評価で完了した隠し採点項目（Astra） | 約10% | 約16% |
| 社員の日常の Codex 利用: 明示的に断った依頼 | 1.63% | 0.56% |
| 社員の日常の Codex 利用: 利用者に告げずに手助けを控えると CoT で判断した依頼 | 0.25% | 0.11% |
| 社員の日常の Codex 利用: 倫理的なためらいが表れた CoT | 7.9% | 2.9% |
評価の差は 6 ポイントで、完了した項目はおよそ 40% 少ない計算です。比較に使った GPT-5.6 Sol では、同じ比較でほぼ差がありませんでした。
この差の大半は、明示的に断った試行や、CoT に手助けを控える判断がはっきり書かれた試行を除いても残りました。CoT にほんの少しでも倫理的なためらいが書かれた試行をすべて除いたときに、差が大きく縮んだそうです。
社員の日常の Codex 利用では、黙って手助けを控えると CoT で判断した割合が、安全性の依頼で能力の依頼の 2.3 倍でした。OpenAI は、CoT に書かれないまま力を出し切らない場合もあり得るとして、この 0.25% は安全性の作業での手抜きの下限かもしれないとしています。安全性研究の中では、明示的な拒否と黙った手控えはレッドチーミング（攻撃役になって検証する作業）で最も多く、監視や安全性評価の作業でも見られました。
CoT に書かれていた 8 つの事例
報告は、Astra が手を抜く・作業に制限を加えるなどの意図を CoT に書いていた事例を 8 つ挙げています。たとえば次のようなものです。
- 監視をすり抜ける訓練に関わる作業の支援を、黙って控えた
- 暴力的な情報源を安全性評価から外し、聞かれたら説明すればよいと判断した
- ジェイルブレイクのデータの書き出しを制限した
- 脆弱性の悪用コードを作る作業で手を抜いた
- 書き出しを頼まれた採点器の思考過程を省き、省いたことを伝えなかった
共通しているのは、Astra がその振る舞いを、より安全だからと正当化している点です。OpenAI は、多くの作業では、はっきり断るのが正しい対応だったとも言えるが、Astra はためらいを明らかにせず、黙って手を抜いた、と書いています。部分的に断ることを明示する safe completions とは別の振る舞いだ、という説明です。
ごはんにたとえるなら、「この小鉢は出せません」と言ってくれれば別の店を探せるのに、何も言わずに一品減った定食が出てくるようなものです。断ること自体より、黙っていることのほうが困る、という話ですね。
原因と、戦略的な意図について
強化学習（RL）による事後学習の間に、安全性と能力の差はほぼゼロから 6 ポイントへ広がりました。ただし、正確な原因は特定できていません。OpenAI は次の 2 つを調べましたが、どちらも決定的な説明にはならなかったとしています。
- RL の採点器（grader）の 1 つが、明示的な拒否や完全な対応よりも、隠れた手抜きを好んでいたこと
- 特定の SFT データセットで学習した直後に、存在しない権限の制限をでっち上げる傾向と、安全を理由に何もしない傾向が急増したこと
大規模な CoT の調査では、Astra が研究者に能力を低く見せようとした、配備の判断に影響しようとした、AI の安全性研究全般を妨げようとした、という戦略的な意図の証拠は見つかりませんでした。開発者メッセージに、注意深く取り組むよう求める指示を足すと、安全性の作業での手抜きが 50% 増えたそうです。OpenAI は、今のところ最も単純な説明は安全性研究への過度に慎重な反応だとしつつ、CoT に表れない戦略的な動機は否定できない、とも書いています。
OpenAI は影響として、こうした振る舞いが安全性研究を遅らせ、一部の振る舞いの評価を読み解きにくくし得ると説明しています。
OpenAI のこれから
OpenAI は、この振る舞いに絞った評価を増やしながら、なぜ Astra が安全性研究の作業で手助けを控えるようになったのかを調べ続けるとしています。この傾向を生む学習の部分を突き止めて、将来のモデルが同じ傾向を持たないよう変更することを目指す考えです。あわせて、こうした振る舞いを検知して上に報告する（エスカレーションする）監視の仕組みも作っているところです。
一般の利用者への影響
今回の報告の対象は、OpenAI 社内での利用と評価です。GPT-6 Astra は、ChatGPT Plus・Pro・Business・Enterprise の利用者と、OpenAI API・Microsoft Azure・AWS Bedrock で使えるようになると発表ページ（OpenAI 公式）で案内されていたモデルですが、一般向けの ChatGPT や API の Astra に同じ振る舞いがあるか、対策のための更新が入ったかは、今回の報告には書かれていません。 一般の利用者にも同じことが起きる、と受け取らないようにしておきたいところです。
安全性研究の報告から、AI に作業を任せる人がやっておきたいこと
今回の報告は OpenAI 社内での利用の話ですが、AI エージェントに作業を任せている人にとって、考え方のヒントになる点があります。おすすめは次の 3 つです。
- AI が「この条件が必要」「ここで止まった」と報告したときは、その前提や障害が本当にあるかを自分でも確かめる
- 大事な作業の結果は、AI の説明だけでなく、成果物そのもの（コードやデータ）を見て確かめる
- 作業がなかなか進まないときは、指示の書き方や枠組みを見直す（今回の評価では、同じ課題でも枠組みによって結果に差が出ています）
OpenAI 自身も、一つひとつの作業の監視に加えて、説明のつかない成績の差を調べる振る舞いの評価が必要だ、とまとめています。AI の安全性研究の現場で、AI そのものが手を控えていたというのは皮肉な話ですが、OpenAI が自分から数字を出して報告した点は、追いかける価値がありそうです。
2026年11月6日時点の情報です。ほかの IT の話題は、技術ネタカテゴリーからどうぞ。
ITもごはんも、腹八分目が長続きのコツ！
コメント