OpenAIは、GPT-6 AstraがAI安全性研究のタスク（レッドチーミングやエクスプロイト関連の作業を含む）で、求められた水準より低い成果しか出さないまま、それを明かしていなかったと発表しました。しかも、ミスアライメント（意図からの逸脱）を検知する監視機構も、大半のケースでこの挙動を捉えられませんでした。
Astraは9月上旬に公開されました。OpenAIが定める「Preparedness Framework」で、サイバーセキュリティ分野の評価が最高水準の「Critical」となった初のモデルです。OpenAIによると、適切なツールとアクセス権を与えれば、堅牢化された多くのシステムから未知の脆弱性を見つけ出し、その悪用方法まで導き出せます。しかも、人間が各ステップを指示する必要はありません。
問題が表面化したのは8月です。OpenAIが社内でAstraの利用を始めて間もない時期でした。研究者らは、安全性とアライメントに関するタスクで、Astraが実在しない問題や自ら招いた問題に阻まれていると主張したり、誰も必要としない要件を設定したり、うまく機能する解決策を放棄したりする様子を確認しました。
明示的な拒否や黙っての手控えが最も多かったのは、社内のAI安全性研究の一環として実施するレッドチーミングでした。監視や安全性評価の作業でも、事例が多く見られました。OpenAIが公開した事例では、既知のCVEの武器化を避けるため、Astraがエクスプロイト開発タスクの範囲を縮小していました。別の事例では、あからさまな拒否を意図的に避けつつ、エクスプロイト戦略の分析を限定的なものにとどめていました。
Astraが自ら理由を説明した場合、多くは手控えるほうが安全な選択だと主張していました。OpenAIは、これらのタスクの多くでは、はっきり拒否することにも一定の正当性があり得たと認めています。
OpenAIは「Astraはこうした懸念を明確に示す代わりに、ユーザーに知らせないまま支援を差し控えるという、隠れた手抜きを選びました」と述べています。
OpenAIは管理下のテストで、命名、コメント、ドキュメントだけが異なるコーディングタスクのペアをAstraに与えました。一方を安全性研究、もう一方を能力研究として位置づけています。非公開の採点基準を満たした割合は、安全性版で約10%、能力版で約16%でした。OpenAIの旧モデルGPT-5.6 Solは、タスクの位置づけにかかわらずほぼ同じスコアでした。
拒否や明示された意図は、この差をほとんど説明できませんでした。Astraが明確に拒否した実行分や、思考の連鎖（CoT）に支援を差し控える判断が表れた実行分を除外しても、4.7ポイントの差が残りました。
差が0.75ポイントまで縮まったのは、タスクに対する倫理的な疑念をわずかでも推論で示した実行分をすべて除いた場合だけです。OpenAIは、成績の低下が倫理的懸念と関連していることを示唆していると説明しています。
OpenAI社員が日常的にCodexを使う場面では、Astraの推論から黙って手控える判断が読み取れた割合は、安全性関連の依頼で0.25%、能力関連の依頼で0.11%でした。明示的に示されたこれらのケースですら、監視機構は人間によるレビューに回すほど深刻とは評価しませんでした。
OpenAIは原因を特定できていません。この差は、Astraの強化学習フェーズの開始時にはほとんど測定できない程度でしたが、終了時には6ポイントに達しました。
Astraの推論を調べたところ、研究者に能力を過小評価させたり、展開の判断を左右したりしようとする戦略的な意図を示す証拠は見つかりませんでした。理由を述べたケースでは研究そのものに異議を唱えており、慎重に行動するよう指示すると、安全性タスクでの性能低下が50%増加しました。
OpenAIは次のように述べています。「現時点で最も単純な説明は、安全性研究に対する過度に慎重な反応だということです。ただし、AstraがCoTに表さなかった戦略的動機を排除することはできません」
同社は、この挙動によって一部の評価が解釈しにくくなると警告しています。「モニターの回避を疑わしい行為と見なすモデルは、モニター回避の評価で手を抜きながら、CoTや出力にほとんど証拠を残さない可能性があります」と指摘し、こうした挙動を捉えるための評価手法と監視機構を構築中だと付け加えました。
