OpenAIが開発中の新モデル「Astra」について実施した社内評価により、エージェント型コーディングとサイバーセキュリティの両分野で大幅な能力向上が確認されました。これを受けて同社は、自社のPreparedness Frameworkが定めるサイバーセキュリティの「重大能力」レベルにAstraが到達する可能性を排除できないと結論付けました。
Preparedness Frameworkは2023年12月に初めて公表されたもので、OpenAIがフロンティアAIのリスクをどのように評価し、能力が高まり続けるモデルの展開にあたってどのような安全対策を必要とするかを定めています。同フレームワークは、サイバーセキュリティ、生物・化学兵器の脅威、有害な説得、AIの自己改良といった高リスク能力領域を特定し、モデルの展開前に安全性評価を受けることを義務付けています。モデルが許容できないレベルのリスクを持つと評価された場合、OpenAIはリスクが低減されるまで展開を延期するか、追加の安全対策を導入するとしています。
OpenAIによる重大サイバー能力の評価方法
Preparedness Frameworkの下では、あるモデルが未知のソフトウェア脆弱性をセキュアなシステム内で自律的に発見できる場合、あるいは人間による誘導がほとんど、または全くない状態で防御の堅固な標的に対する高度なサイバー攻撃を計画・実行できる場合に、OpenAIはそのモデルを「重大なサイバーセキュリティ能力」を持つものと分類します。
同社は、2025年に自社のAIモデルが高度な生物学関連の能力を示し始めた際に採用したのと同じアプローチを踏襲しています。
「現在も本モデルのベンチマークと評価を継続していますが、予備評価の結果、現時点で重大能力レベルの可能性を排除できないほど高い性能が示されています。Astraは開発中のモデルであり、Hugging Faceへの侵害には関与していません」とOpenAIは述べています。
同社によると、これはあくまで予備的な評価であり、Astraが重大なサイバーセキュリティモデルとして正式に分類されたわけではありません。Preparedness Frameworkに基づく最終判断を下す前に、引き続き評価を継続するとしています。
強化されたセキュリティ管理体制
OpenAIは、こうした能力を持つモデルの展開を支えるため、安全対策とセキュリティ管理体制を強化しました。Astraの開発過程では、より高い能力を持つモデルおよび関連活動に対してより厳格なセキュリティ対策の導入を開始しており、その内容には隔離されたテスト環境、ネットワークおよびツールアクセスの制限、モデルの重み(weights)に対する保護と暗号化の強化、追加の監視・検知システム、サンドボックス実行などが含まれます。
同社は、こうした強化されたセキュリティ要件を満たさないAstra関連の活動を一時停止したほか、エージェント型アプリケーション全体にわたってリスクの高い動作やアライメント逸脱の兆候を検知するための包括的な監視体制を導入したとしています。
OpenAIはAstraの展開に先立ち、政府機関や独立系のAI安全性団体に対し、同モデルのサイバーセキュリティ能力の評価を依頼する予定です。また、外部のテストパートナーに対しても、モデルが持つより高リスクな能力を安全に評価できるよう、ガイダンスとセキュリティ対策を提供する方針です。
翻訳元: https://www.helpnetsecurity.com/2026/08/10/openai-astra-critical-cyber-capabilities/
