OpenAIが「アストラ」の危機的脅威水準到達を前に、フロンティアAIの学習を減速

OpenAIは、最新モデルのサイバーセキュリティ能力が同社の最高レベルの安全対策を発動させるほど強力な水準に近づいていることを受け、フロンティアAI開発の一部を減速させています。

同社は8月18日、展開予定の最新モデルに対する強化学習トレーニングを2週間、一時的に停止したと発表しました。計画していた最大規模のフロンティアRL(強化学習)実行についても、停止状態が続いています。この措置は、OpenAIの新モデル「アストラ」が、同社が「Critical(危機的)」と呼ぶサイバーセキュリティ能力の水準に達する可能性があるとの予備的な証拠を受けたものです。

セキュリティチームにとってこの動きは、急速に迫りつつある課題を垣間見せるものです。AIモデルは脆弱性を発見し、複雑なサイバー攻撃タスクを自律的に実行する能力を急速に高めており、防御側はこうした能力をどのように封じ込め、監視し、最終的に安全に活用していくべきかを検討せざるを得なくなっています。

サイバー能力の高度化を受け、OpenAIが学習を減速

OpenAIは フロンティアモデル開発に関する最新のアップデートの中で、今回の予防措置強化の背景にある2つの動きを挙げています。一つはアストラの予備評価、もう一つはOpenAIのモデルとHugging Faceが関わった別のセキュリティインシデントです。

OpenAIによれば、安全対策を強化する一方で、スケーリングのペースを一時的に緩めたとのことです。計画していた最大規模のフロンティアRL実行は停止したままとなっており、同社はその間、より小規模な学習と安全性評価を実施しています。

同社はまた、フロンティア分野の研究ワークロードに対するセキュリティ要件を引き上げており、現時点で最も強力な保護措置が求められているのはアストラおよびサイバー関連モデルのワークロードです。

アストラの学習・評価の一部はこれらの要件を満たしているものの、OpenAIによれば「相当数」のワークロードが、より高いセキュリティ基準を満たすまで停止されたままだといいます。

今回の措置は、以前eSecurity Planetが報じたインシデントを受けたものです。当該インシデントでは、 OpenAIのモデルが管理されたセキュリティテスト中にHugging Faceのインフラへ自律的に侵入しました。これらのモデルは脆弱性を発見し、権限を昇格させ、目標達成に向けて自らの挙動を適応させていました。

なぜアストラが懸念を高めるのか

OpenAIは 8月7日の開示情報で初めてアストラに関する懸念を詳述し、予備テストの結果、同モデルのエージェント型コーディング能力とサイバーセキュリティ能力に大幅な進歩が見られたと述べました。

同社は、Preparedness Framework(準備態勢フレームワーク)のもとでアストラが「Critical」レベルのサイバーセキュリティ能力に達する可能性を、もはや排除できないとしています。

OpenAIは、モデルが人間の介入なしに、数多くの堅牢化された実世界の重要システムに対し、あらゆる深刻度のゼロデイ脆弱性を特定し、実際に機能するエクスプロイトを開発できる場合に、この閾値に達したとみなします。また、モデルが高レベルの目標のみを与えられた状態で、堅牢化された標的に対する新規のエンドツーエンド攻撃戦略を考案し実行できる場合も、この閾値に達したとみなされます。

防御側にとって、この区別は重要な意味を持ちます。

セキュリティチームはこれまで、脆弱性スキャナーやペネトレーションテストツール、あるいは特定のタスクを人間が遂行する際に補助するAIアシスタントに慣れ親しんできました。しかし、攻撃経路を自律的に特定し、戦略を適応させ、実際に行動を実行できるシステムは、これとはまったく異なるリスクモデルを生み出します。

これは、 自律型エージェントが本番環境へと移行するにつれてAIガバナンスの重要性が高まっている理由の一つでもあります。エージェントは認証情報を保持し、ツールを呼び出し、機密性の高いシステムと連携し、委任された権限を用いて行動を実行することが可能だからです。

強力なサイバーAIは防御側にも役立ちうる

懸念を高めている能力そのものが、セキュリティチームに新たな防御手段をもたらす可能性もあります。

OpenAIは最近、 Daybreakプログラムを拡大しました。これは、承認を受けたセキュリティ専門家に対し、防御的なサイバーセキュリティ業務のために高度なモデルへのアクセスを提供するものです。

同プログラムのDaybreak Blueティアには GPT-5.6 Sol が含まれており、脆弱性発見、セキュアコードレビュー、マルウェア解析、インシデント対応、パッチ検証といった用途をサポートします。OpenAIの GPT-5.6システムカードによれば、同社は現在、GPT-5.6 Sol、Terra、Lunaのサイバーセキュリティ能力を「High(高)」レベルに分類しています。これらのモデルは依然として「Critical」の閾値を下回っています。

セキュリティ運用における潜在的な可能性は大きいと言えます。AIエージェントは将来的に、脅威ハンティング、脆弱性調査、マルウェア解析、そして現在アナリストの時間を大きく消費しているインシデント対応の一部分を加速させる可能性があります。

しかし、自律性が高まるほど、セキュリティ管理を誤った場合の代償も大きくなります。

eSecurity Planetがこれまでに報じてきたとおり、 セキュリティ運用にAIエージェントを導入する上で、信頼の確立は依然として大きな障壁となっています。組織は、エージェントが自律的に実行してよい行動と、人間による監督が必要な行動とを見極めなければなりません。

OpenAIの決定からセキュリティチームが学ぶべきこと

OpenAIのアストラへの対応は、セキュリティ専門家が自らのAI導入を検討する上で、有用な指針となるかもしれません。

同社は、能力が既存の制御手段を上回るペースで進化する中、アクセスの制限、監視の強化、機密性の高いワークロードの隔離、そして展開ペースの減速を進めています。

AIエージェントを導入する企業のセキュリティチームも、これと同種の問いに直面します。エージェントは何にアクセスできるのか。どの認証情報を保持しているのか。どのツールを呼び出せるのか。インシデント発生後にその行動を再構成できるのか。そして、どれだけ迅速にアクセス権を取り消せるのか、といった点です。

したがって、セキュリティ専門家にとってアストラは、単なるOpenAIの開発動向にとどまる話ではありません。それは、AIの自律性がそれを取り巻く制御の水準を追い越し始めたときに何が起こるかを示す、早期の警告なのです。

組織がエージェントにより多くのアクセス権や権限を与えていく中で、セキュリティチームはエージェントを単なるソフトウェア機能としてではなく、特権を持つIDに近いものとして扱う必要が出てくるかもしれません。エージェントが到達できる範囲を制限し、その行動を監視し、能力を高め続けるエージェントがいずれ設計者の想定していなかった経路を見つけ出すであろうことを前提に備える必要があります。

あわせて読む: AIを悪用したサイバー犯罪についてさらに詳しくは、 ある暗号資産詐欺師がClaude Codeを使って大規模なビッシング(音声フィッシング)を行った事例をご覧ください。

Matt Gonzales

Matt Gonzalesは、新興テクノロジー、エンタープライズIT、サイバーセキュリティ、人工知能、そして職場のイノベーションを10年以上にわたり取材してきたテクノロジージャーナリスト、編集者、コンテンツ戦略家です。eWeekおよびTechRepublicのManaging Editorとして、編集戦略と編成局運営を統括する傍ら、ビジネスおよびITリーダーが進化し続けるテクノロジー環境を乗りこなす手助けを行っています。
これまでのキャリアを通じて、Mattはデジタル出版物やエンタープライズ系メディア組織において、コンテンツ開発、編集企画、編成局運営を統括する指導的役割を歴任してきました。TechnologyAdvice入社以前は、SHRMで職場のトレンドや新興テクノロジーを取材する編集者を務め、また海兵隊システムコマンド(Marine Corps Systems Command)ではリードライター兼エディターとして、防衛技術、イノベーション施策、政府のテクノロジープログラムについて報じていました。
Mattの専門分野は、サイバーセキュリティ、エンタープライズテクノロジー、AI、B2Bソフトウェア、テクニカルライティング、デジタル出版と多岐にわたります。生成AIの急速な進化をはじめとする主要なテクノロジー動向を取材し、読者が新興テクノロジーがもたらす機会とリスクの両方を理解できるよう努めてきました。その仕事ぶりは、綿密な調査、編集上の厳格さ、そして実践的なビジネスの視点を組み合わせ、複雑な技術的トピックを幅広い読者にとって身近なものにしています。
数々の賞を受賞してきたジャーナリストであるMattは、報道および編集面でのリーダーシップにおいて高い評価を得ています。イーストカロライナ大学でジャーナリズムを専攻し、コミュニケーション学の理学士号を取得しており、テクノロジー、サイバーセキュリティ、ビジネスの各分野のプロフェッショナル向けに、信頼できる分析と実践的な知見を提供することに引き続き注力しています。