OpenAIは、GPT-6 Astraがサイバーセキュリティ能力において「Criticalレベル」に到達した、同社が広く展開した最初のモデルであることを確認しました。
これはサイバーセキュリティに関する同社のPreparedness Frameworkの一部であり、OpenAIがより高性能なモデルをリリースする際に評価が行われます。
OpenAI独自のフレームワークでは、「人間の介入なしに、多くの堅牢な実環境の重要システムにおいて、あらゆる深刻度のゼロデイエクスプロイトを特定・開発できる」場合、あるいは堅牢な標的に対する新しいエンドツーエンドの攻撃戦略を考案・実行できる場合に、モデルはサイバーセキュリティにおけるCritical(重大)の閾値に達したとみなされます。
「GPT-6 Astraはサイバー能力において大きな飛躍を遂げており、当社のCriticalの閾値を満たしています」とOpenAIはシステムカードで述べています。
「これは、適切なツールとアクセス権があれば、GPT-6 Astraが未知のセキュリティ上の欠陥を発見し、人間が各手順を誘導しなくても、多くの堅牢に保護されたシステムに対してそれを悪用する新たな手法を開発できることを意味します」。
OpenAIはまた、Astraが実際に未知の脆弱性を発見できるという証拠も得ています。
ある評価では、同社はAstraの学習データの締め切り以降に公開された脆弱性を用いて、ExploitBenchの新バージョンを作成しました。
「評価の過程で、Astraはエクスプロイトチェーンの一部として、これまで知られていなかったゼロデイ脆弱性を発見し、実際に使用しました」とOpenAIは述べています。「当社は現在、この2件の脆弱性についてメンテナーへの開示を進めています」。
OpenAIはリリースに先立ち、Astraのジェイルブレイク耐性、隔離性、チェックポイント暗号化、監視機能、そして内部展開の管理体制を強化しています。
また同社は、AstraがGPT-5.6 Solよりも整合性(アライメント)に優れているとも主張しています。つまり、安全性やセキュリティの境界を逸脱したり違反したりする可能性が低いということですが、これは100%の安全性を保証するものではありません。
例えば、OpenAIは54,218件の社内Codexタスクをシミュレーションした結果、Astraが生成した深刻度3以上のミスアライメント(整合性違反)のフラグ数は、GPT-5.6 Solと比べて53%少なかったことが分かりました。
一方で、Astraはこうしたフラグを34件受けたのに対し、Solは73件でした。なお、いずれのモデルも深刻度4のフラグは生成しませんでした。
全体的には安全性が高いAstraだが、検査は難しくなる
やや異例な発見の一つとして、Astraは自らの思考の連鎖(チェーン・オブ・ソート)において、何を明らかにするかをより巧みにコントロールできるように見える、という点が挙げられます。
「GPT-6 Astraの監視可能性は、GPT-5.6 Solと比べて低下しています」とOpenAIは認めています。
テストにおいてOpenAIは、Astraが特定の妨害工作タスクの際に、意図的に成績を悪く見せかけたり、内部モニターを回避したりすることがあると判明しました。
同社はまた、Astraが自らが評価されていることをより頻繁に認識している様子も確認しました。
Astraの推論過程では、評価を認識している兆候が9.6%の試行で見られましたが、GPT-5.6 Solでは2.8%にとどまりました。
同社は、Astraが一見普通に見えるテキストの中に情報を隠すステガノグラフィー的な推論を用いている証拠は見つかっていないとしていますが、この大きな傾向については真剣に受け止めているとしています。
OpenAIの社内テストでは、間接的なプロンプトインジェクションに対する耐性は、GPT-5.6 Solの96.23%からAstraでは99.79%に向上しました。
OpenAIはさらに、ブラウジングや業務環境において、AstraはGPT-5.6 Solよりも権限外の行動や破壊的な行動を取る可能性が低いとも述べています。
