開発中のモデルは自律的に脆弱性を発見・悪用したり、単独で攻撃を実行したりできる可能性があり、これを受けてOpenAIはより厳格な管理体制と外部テストを導入します。
OpenAIは、開発中の新モデル「Astra」がサイバーセキュリティ能力において、最高リスクカテゴリーに到達する可能性があると発表しました。このカテゴリーは、システムが自律的に脆弱性を発見・悪用したり、堅牢な標的に対して一連のサイバー攻撃を完遂したりできる段階を指します。
同社は、最近の社内テストと専門家によるレビューを受けて、この評価結果を公表しました。
OpenAIは声明の中で、次のように述べています。「開発中のモデルの一つであるAstraについて、ここ数日で実施した最新の社内評価では、エージェント型コーディングとサイバーセキュリティの両面で著しい進歩が確認されています。こうした結果に加え、専門家による評価も踏まえ、当社は昨夜、Preparedness Frameworkの下でクリティカルなサイバー能力の可能性を排除できないと判断するに至りました」。
何が変わったのか
OpenAIはこの方針転換の背景として、社内のPreparedness Frameworkを挙げています。これは、サイバーセキュリティなど機微な領域でAIモデルがどこまで能力を高めているかを追跡する仕組みです。
同社によると、このフレームワークの最上位に位置づけられるのは、もはや人間を支援するだけでなく、自律的に行動できるシステムだといいます。
声明では次のように説明されています。「モデルがクリティカルなサイバーセキュリティの閾値に達するのは、人間の介入なしに、堅牢な実環境の重要システムの多くに対してあらゆる深刻度のゼロデイエクスプロイトを特定・開発できる場合、あるいは高レベルの目標のみを与えられた状態で、堅牢な標的に対する新規のサイバー攻撃戦略を一連の流れとして考案・実行できる場合です」。
同社によれば、Astraはまだこの水準に該当すると確定的に分類されたわけではないものの、初期段階の性能は「十分に強力」であり、その可能性を排除できない状況だといいます。GPT 5.6 Solを含む同社の従来モデルについては、「フロンティアレベルのサイバー能力を評価した結果、クリティカルではなくハイの閾値にあると判定されている」としています。
Gartnerのシニアプリンシパルアナリスト、Apeksha Kaushik氏は「これは重大な転換点です」と指摘します。「AIシステムが、人間による指示をほとんど必要とせずに、自律的に脆弱性を発見し、エクスプロイトを開発し、一連の攻撃を実行できるようになる可能性があります」。
企業にとって重要な理由
セキュリティチームにとって、この変化は単なる技術的な話にとどまらず、攻撃の展開のされ方そのものに影響を及ぼすとアナリストらは見ています。
Kaushik氏は、こうした進歩のペースを踏まえると「実際の現場での悪用が、現実的に十分起こり得るものになりつつある」と述べ、攻撃者が攻撃プロセスの大部分を自動化できるようになる可能性を指摘します。それにより、防御側が対応に使える時間はさらに短くなるといいます。
「意味するところは明確です。企業のセキュリティ対策は、後手対応型から先手対応型へと進化させる必要があります」と同氏は述べ、企業は継続的でAI主導型の攻撃対象領域評価と予測分析へ移行すべきだと付け加えました。
Greyhound Researchのチーフアナリスト、Sanchit Vir Gogia氏は、正式なラベル付けを待ってから対応するべきではないと述べています。
「OpenAIはAstraにクリティカルなサイバーセキュリティ能力がある可能性を排除できないとし、それに応じた対応を取っています。これは最終的な結論というより、予防的な引き金と捉えるべきです」と同氏は述べています。
さらに同氏は、注視すべき焦点はパッチ適用の速さだけではないと付け加えました。「本当に重要な指標は、防御側の対応にかかる遅延です。脆弱性対応のキューが横ばいのままでは、もはやセキュリティ態勢とは呼べません」。
OpenAIが現在講じている対策
こうした状況を受け、OpenAIはAstraの開発をめぐる管理体制を強化していると述べています。
同社は声明の中で、「高い能力を持つモデルに対しては、より厳格なセキュリティ管理を実施しています」と述べ、その内容として「隔離されたテスト環境、ネットワークおよびツールアクセスの制限、モデルの重みに対する保護と暗号化の強化、監視・検知能力の追加、サンドボックス内での実行」を挙げています。
また、「この強化されたセキュリティ管理要件をまだ満たしていない、Astraに関わる社内活動については一時停止している」ともしています。
同社はさらに、モデルの利用状況に関する監視体制も拡充したと述べています。「リスクの高い行動やミスアライメント(意図からの逸脱)を対象とした包括的な監視体制を導入しました」とし、システムが「高リスクな活動を検知した場合、セキュリティ対応をトリガーし、それを精査・中断できる」仕組みを備えているといいます。
安全対策は十分か
アナリストらは、こうした施策は必要ではあるものの、能力の向上が進むにつれてリスクを完全にはカバーしきれない可能性があると指摘しています。
Kaushik氏は「アクセス制限された環境、継続的な監視、外部によるレッドチーム演習といった現行の安全対策は必要ではありますが、安全対策と新たに生まれる脅威との間のギャップは広がりつつあります」と述べ、プロンプトインジェクションやAIシステムにおけるアクセス制御の甘さといったリスクを挙げました。
Gogia氏は、安全対策はより広いシステム全体の文脈で捉える必要があると述べています。
「能力の高いモデルは、フレームワーク文書の内側だけで動くわけではありません。それはシステムの内側で動くものであり、システムというのは例外を通じて権限が漏れ出していくものです」と同氏は述べています。「アクセス制限は防御側に時間的猶予を与えますが、能力そのものを無効化するものではありません」。
OpenAIは、Astraのさらなるテストに向けて、各国政府や外部の安全団体と連携していくとしています。
同社は「このモデルの能力をテストするため、関係する政府機関や特定のAI安全団体と連携していきます」と述べ、外部のテストパートナーにもガイダンスを共有していく方針を明らかにしました。同社によれば、今回の情報公開は、いわゆる「能力面での潜在的な転換」について透明性を確保するためのものだといいます。
Gyana Swain氏は、通信・IT分野の取材で20年以上のキャリアを持つベテラン技術ジャーナリストです。VARINDIAのコンサルティングエディターを務め、これまでにCyberMedia、PTI、9dot9 Media、Dennis Publishingで編集職を歴任してきました。著書2冊を持つ同氏は、業界への深い知見と物語性のある構成力を兼ね備えています。仕事を離れると、熱心な旅行者であり、クリケット愛好家でもあります。Utkal大学で学士号(B.S.)を取得しています。
