OpenAIは、開発中のAIモデル「Astra」について警告を発しました。同モデルはゼロデイ脆弱性を自律的に発見し、高度に防御されたシステムに対して複雑なサイバー攻撃を仕掛けられるようになる、サイバーセキュリティ能力の「しきい値」に近づいている可能性があるといいます。
2026年8月7日付のセキュリティアップデートで同社は、初期テストおよび外部専門家による評価の結果、Astraが「Critical(重大)」のサイバー能力分類に該当する可能性を排除できないと述べています。
比較するホームセキュリティシステム
コーディング、偵察、脆弱性調査、タスク実行においてより高い自律性を備えたモデルが開発される中、今回の公表はAIの安全性とサイバーセキュリティにとって大きな転換点を示すものです。
OpenAI、AstraのAIモデルに警告
2023年12月に発表されたOpenAIの「Preparedness Framework(準備態勢フレームワーク)」では、Critical(重大)なサイバーセキュリティ能力とは、人間の介入なしに、防御を固めたさまざまな実運用の重要システムに対して機能する形のゼロデイエクスプロイトを特定・作成できる能力と定義されています。
この分類には、高レベルの目的のみを与えられた状態で、防御が固められた標的に対する新規の攻撃戦略をエンドツーエンドで立案・実行できる能力も含まれます。
これらの基準は、概念実証コードの生成や既存の欠陥の説明にとどまらず、AIシステムが抽象的な目標を自律的に実行可能な侵入キャンペーンへと転換できるかどうかを評価するものです。
同社は、今回の調査結果はあくまで暫定的なものであり、Astraは引き続きベンチマークと評価を受けている段階であると強調しています。OpenAIは、実運用に近い条件下でモデルがすべてのCritical(重大)能力を実証したと主張しているわけではありません。
それでも、結果は最上位の分類を排除できないほど強いものだったといいます。
さらに、OpenAIは、Astraが Hugging Face のエクスプロイト事案には関与していなかったと説明しました。この点は、AIセキュリティにおける重要な論点を浮き彫りにしています。すなわち、能力評価においては、広く展開される前に、実際に確認された挙動と潜在的な悪用経路とを区別しなければならないということです。
こうした調査結果を受け、OpenAIはAstraに対するセーフガードとセキュリティ管理の堅牢性テストを強化しました。
具体的な対策としては、隔離されたテスト環境の構築、ネットワークおよびツールへのアクセス制限、モデルの重みに対する保護と暗号化の強化、監視・検知能力の拡充、そして実行環境のサンドボックス化などが挙げられます。
同社は、こうした強化された管理体制を満たさないAstra関連の社内作業をすべて一時停止しています。また、トレーニングや評価を含め、Astraを用いたエージェント型アプリケーション全体において、リスクのある挙動や潜在的なミスアライメントを検知するための包括的な監視体制も導入しました。
これらの監視システムはモデルの推論プロセスを検証し、リスクの高い活動が検知された場合にはセキュリティレビューや処理の中断を発動できます。
OpenAIは、関連する政府機関やAI安全団体と協力してモデルの能力を徹底的にテストし、第三者評価機関がより高リスクなワークロードを安全に実行できる環境を整える計画です。
こうした協力的なアプローチは、この分野が抱える課題を映し出しています。高度なモデルは防御側が欠陥をより迅速に発見・修正する助けになる一方で、アクセス制御や監視システムに不備があれば、攻撃側にとっての障壁を下げてしまう恐れもあるのです。
OpenAIは、悪意ある攻撃者が脆弱性を悪用する前にそれを特定することで、防御の取り組みを強化するサイバー能力を備えたシステムの開発を目指しています。
調査の遅れによるインシデントを防ぎましょう。15,000のSOCから得た脅威インテリジェンスでTier 1を強化: SOCにTI Lookupを統合する
翻訳元: https://gbhackers.com/openai-warns-astra-ai-model/
