OpenAIは、最新モデル「Astra」が同社のPreparedness Framework(準備態勢フレームワーク)においてサイバーセキュリティ能力の「Critical(重大)」レベルに達したと発表しました。同社のモデルがこのカテゴリーに分類されるのは今回が初めてです。
この認定は、モデルが数多くの防御体制の整ったシステムに対してゼロデイ脆弱性を自力で発見・悪用できる場合、あるいは高レベルの指示のみから強固な標的への完全なサイバー攻撃を実行できる場合に適用されます。OpenAIによれば、この分類に該当するモデルをリリースするには追加の安全対策が必要になるとのことです。
同社が説明したテストでは、Astraは既知の脆弱性を実際に動作するエクスプロイトへと転換する能力を測るベンチマーク「ExploitBench」で満点を獲得しました。さらに、より最近開示された脆弱性を対象とした別の評価では、Astraは自力で2件のゼロデイ脆弱性を発見しています。
また、このモデルはブラウザのサンドボックスから脱出して基盤となるマシン上でコマンドを実行したほか、別のテストでは強固に保護されたオペレーティングシステム内の複数の脆弱性を連鎖させ、root権限でのアクセスを獲得しました。
OpenAIの報告によると、Astraはテストにおいてサイバー関連のジェイルブレイク試行の91.5%を拒否しており、前モデルであるGPT-5.6 Solの59%から大幅に向上しています。同社はまた、Astraは評価中に安全制限を回避したり、意図的に配置された「ハニーポット」標的を悪用したりする傾向がSolに比べてはるかに低かったとも述べています。
サイバーセキュリティに関する全機能が発売時点で広く利用可能になるわけではありません。OpenAIはまず一部のテスターに早期アクセスを提供し、その後「Daybreak Blue」プログラムを通じて段階的に提供範囲を拡大する計画です。
「私たちは、モデルがより重大な業務を担えるようになり、アライメントや制御の失敗がより深刻な影響をもたらしかねない開発段階に入りつつあります。こうしたシステムの恩恵を実現できるかどうかは、モデルの能力向上に合わせてアライメントと制御を維持できるかにかかっています」とOpenAIは述べています。
「その責任は、学習・評価・展開の各段階に及びます。アライメントの取れた挙動を示すより強力な証拠、能力の向上に見合った安全対策、そしてそれらの保護策が十分でない場合には開発の速度を緩める姿勢が求められます」と同社は付け加えています。
AIを活用した攻撃がより高度化する中、サイバー防御の強化を目指すOpenAI主導の取り組みへの支持を、テクノロジー・サイバーセキュリティ企業約130社が最近表明しています。
