OpenAIは、継続的かつエージェント主導による脆弱性発見・修復のための「防御ファクトリー(Defense Factory)」モデルを発表しました。AIエージェントがエクスプロイトを連鎖させ、長期にわたる攻撃活動を維持できるようになるなか、従来型のサイバー防御ではそのペースに追いつけない可能性があると警告しています。
同社のこのアプローチは、急速に変化する脅威の状況を踏まえたものです。性能を高め続けるオープンウェイトモデルによって、攻撃者は偵察活動を自動化し、セッションをまたいで知識を保持し、弱点同士の関連性を特定し、複雑な攻撃経路をマシン並みの速度で追求できるようになりつつあります。
OpenAIは、防御側が現時点では構造的な優位性を保持していると主張しています。権限を与えられたAIエージェントに対して、自社の独自ソースコードや内部資産一覧、開発環境、セキュリティ調査結果、エンジニアリングのワークフローに直接アクセスさせられるためです。
一方、攻撃者は一般にこうした内部の可視性を欠いており、外部で入手可能なツールや広く出回っているモデルに頼らざるを得ません。
しかし、この優位性が長く続くとは限りません。長時間稼働するエージェント群は、システムを継続的に調査し、複数の攻撃経路を同時にテストし、人間のオペレーターでは関連付けが困難な脆弱性同士を結びつける可能性があります。
かつては手作業による調査に数時間から数日を要していた弱点も、いずれは発見・検証され、別の欠陥と連結・悪用されるまでの一連の流れが、従来型のセキュリティチームがトリアージを終える前に完了してしまう恐れがあります。
OpenAIはこの一時的な優位性を「防御側の窓(defender’s window)」と呼んでいます。これは、同等の攻撃能力が広く利用可能になる前に、組織がより高度なサイバーモデルを自社インフラの保護に活用できる期間を指します。
OpenAIによると、同社はこのアプローチを、250人超が参加し100を超えるサービス領域をカバーした社内セキュリティスプリントの中でテストしたということです。
この取り組みでは、同社のサイバー特化型モデルを使って社内システム全体の脆弱性を特定・検証・修復し、通常インシデント対応に伴うのと同等の緊急性をもって作業が進められました。
OpenAIによれば、スプリント初日だけで緊急・高優先度の問題53件を修復したということです。この取り組みは、当初は集中的なセキュリティキャンペーンとして始まったものの、やがて持続的な防御運用に向けたより広範な計画へと発展しました。
OpenAIは、スキャン、トリアージ、担当者割り当て、修復、検証といった各プロセスを個別に扱うのではなく、これらを一つのループとして連結させています。
エージェントは新たに検出された問題を調査し、悪用可能かどうかをテストし、影響を受けるサービスを特定し、責任を負うエンジニアリングチームを割り出し、人間によるレビュー用にテスト済みのパッチを準備できます。
防御ファクトリーは、企業が既に保有するセキュリティツールと開発ツールを結びつける運用レイヤーです。
ソースコード管理プラットフォーム、脆弱性スキャナー、課題管理ツール、クラウド資産一覧、アーティファクトレジストリ、シークレットストア、モデルエンドポイントなどが、エージェントに必要なデータとアクセス手段を提供します。
エージェントは、隔離され、再現可能かつ一時的な開発環境内で動作します。これらの環境には、脆弱性を再現し、提案された修正をテストするために必要な関連アプリケーションコード、依存関係、設定、サービスが含まれます。
各実行は互いに分離されており、状態の汚染リスクを抑えつつ、チームが再現性のある結果を得られるようにしています。
コントロールプレーンが、ワークロードのオーケストレーション、ポリシーの適用、認証情報、アクセス境界を管理します。監視・監査システムがホストの活動、インフラのセキュリティ、エージェントの挙動を監督し、サイバー能力を持つモデルが実行するアクションへの可視性を提供します。
OpenAIの防御ループは、資産、サービス、公開エンドポイント、コードリポジトリ、所有者情報の棚卸しから始まります。続いてエージェントがシステムをスキャンして検出結果を分析し、報告された問題が実際に再現・悪用可能かどうかを動的に検証します。
検証済みの問題は担当チームに割り当てられ、同時にエージェントが修復パッチを生成・テストすることもできます。デプロイされた修正はその後独立して検証され、マージされたコード変更が本番環境で実際にセキュリティ上の問題を解決したかどうかが確認されます。
OpenAIによると、エージェント支援による担当者割り当てのワークフローでは、割り当ての受理率が90.6%に達したということです。重複排除プロセスでは検出結果の37%が重複報告と特定され、繰り返し実行可能な実行時検証により、動的テスト後の誤検知率は0.81%まで低下しました。
同社は、自律性の導入は段階的に進めるべきだと強調しています。セキュリティ上の境界設定、重大な変更の承認、あいまいなケースの解決、デプロイされた修復の独立した確認については、引き続き人間のレビュー担当者が責任を負うとしています。
16,000超の組織から得られる最新のインテリジェンスで、脅威検知率を58%向上。TIフィードを統合し、貴社のSOCに導入しましょう
翻訳元: https://cyberpress.org/openai-builds-defense-factory-as-ai-agents/
