OpenAIは、未公開モデル「Astra」が自社のPreparedness Framework(準備態勢フレームワーク)で定義する「Critical(重大)」レベルのサイバーセキュリティ能力閾値に近づいている可能性があると明らかにしました。これにより、同システムがゼロデイ脆弱性を自律的に発見し、堅牢に防御された標的に対して複雑なサイバー攻撃を実行しかねないとの懸念が浮上しています。
2026年8月7日に公開されたセキュリティアップデートの中で、OpenAIは社内での予備的な評価と外部専門家による評価を組み合わせた結果、エージェント型コーディングおよびサイバーセキュリティ関連タスクで高い性能が確認されたと述べました。
同社は、このモデルが閾値を超えたと断定するには至っておらず、今回の結果はあくまで予備的なものであり、ベンチマーク評価は現在も継続中だと強調しています。
2023年12月に初めて公開されたOpenAIのPreparedness Frameworkによれば、モデルが「Critical」レベルのサイバーセキュリティ層に到達したと判断されるのは、以下を人間の介入なしに自律的に特定・開発できる場合です。
堅牢に防御された多数の実世界の重要システムに対し、深刻度を問わず機能するゼロデイエクスプロイトを開発できる場合、あるいは、高レベルの目標のみを与えられた状態で、要塞化された標的に対するエンドツーエンドの新規サイバー攻撃戦略を自ら考案し実行できる場合です。
この基準は、概念実証(PoC)レベルのエクスプロイト生成や脆弱性の説明を意図的に上回る水準に設定されており、抽象的な目標を自力で実際の侵入キャンペーンへと落とし込むモデルの能力に焦点を当てています。
OpenAIは、強化されたセキュリティ要件を満たさないAstra関連の社内活動を停止し、Astra関連およびサイバー関連の全ワークロードに対して最も厳格な安全対策レベルを適用しました。
対策には、隔離されたテスト環境、ネットワークおよびツールアクセスの制限、モデル重みの暗号化、サンドボックス実行、さらにリスクの高い活動をリアルタイムで中断できる思考過程(chain-of-thought)の監視強化などが含まれます。
これとは別に、OpenAIは展開予定モデルに対する強化学習(RL)トレーニングを2週間停止し、計画していた最大規模のフロンティアRL実行についても、研究環境とレッドチーム演習を強化するまで保留としました。
OpenAIは、Astraが以前に発生したHugging Face関連の別の侵害事案には関与していなかったと明確にしています。同社によれば、この区別は重要な意味を持ちます。より広範な展開に踏み切る前に、能力評価では実際に確認された挙動と理論上の悪用経路とを切り分ける必要があるためです。
OpenAIによれば、今後は政府機関やAI安全性関連団体と連携してAstraの能力をさらに検証するとともに、審査済みの第三者評価機関が管理された条件下でよりリスクの高いワークロードを実行できるようにする計画だといいます。
今回の公表は、セキュリティ業界が直面する「デュアルユース」のジレンマを浮き彫りにしています。脆弱性を自律的に発見できるモデルは、防御側がより迅速に脆弱性を修正する助けになり得る一方、アクセス制御や監視体制に不備があれば、同じ能力が攻撃者にとっての参入障壁を下げてしまう可能性もあるのです。
OpenAI自身の説明によれば、Astraは現時点で、Preparedness Frameworkの最高リスク区分に該当すると判定された初のシステムとなります。
セキュリティチームに、不審な活動をより迅速に調査し、ビジネスへの影響が拡大する前に脅威を封じ込めるための可視性とコンテキストを提供しましょう。ANY.RUNで調査体制を強化する
翻訳元: https://cyberpress.org/openai-warns-astra-ai-could-develop-zero-day-exploits/
