OpenAIは、エージェント駆動のアクションを重視するサイバーセキュリティ運用「ディフェンス・ファクトリー(Defense Factory)」の構想を発表しました。この取り組みは、AIシステムがますます複雑なサイバー作戦を実行する能力を身につける中で、脆弱性を継続的に発見・検証・修復・再確認することを目的として設計されています。
この取り組みは、長時間稼働する自律型エージェント、特に広く入手可能なオープンウェイトモデルを搭載したエージェントが、従来のセキュリティチームが調査・修正できる速度を上回るペースで脆弱性を発見・悪用しかねないという懸念の高まりに対応するものです。
クラウドセキュリティソリューション
OpenAI、「ディフェンス・ファクトリー」を構築
同社は、「防御側に残された時間(defender’s window)」が縮小しつつあると強調しています。AIエージェントは今や複数のセッションにまたがって知識を保持し、複雑な環境を理解し、本来は別々の脆弱性同士を結びつけて多段階の攻撃経路を組み立てられるようになっています。
単発のスキャンや個別の攻撃試行を実行するだけでなく、多数のエージェント群が長期間にわたって稼働し、仮説を検証し、手法を洗練させ、攻撃の規模を拡大していくことが可能です。
こうした急速な悪用モデルによって、人間主導のセキュリティプロセスがトリアージを完了し、担当者を割り当て、問題を修正し、デプロイを検証し終える前に、組織が長期間にわたって脆弱な状態に置かれてしまう恐れがあります。
OpenAIは、防御側にはなお2つの大きな優位性が残されていると考えています。1つは自社のソースコード、クラウド環境、資産データ、社内コンテキストへの直接アクセスであり、もう1つは同様のサイバー能力が広く普及する前に高度なモデルへ先行してアクセスできることです。
同社はこの優位性を、限られた「防御側に残された時間」と呼んでいます。この期間中に、組織は攻撃者が同等の能力を大規模に実装する前に、高度なモデルを活用して防御タスクを自動化すべきだとしています。
ディフェンス・ファクトリーは、ソースコード管理プラットフォーム、脆弱性スキャナー、課題管理システム、開発環境、シークレットストアといった既存のセキュリティ・エンジニアリングツールを、AIエージェントが管理する継続的なワークフローに統合することを目指しています。
これらのエージェントは再利用可能なセキュリティスキルを活用し、コードのスキャン、検出結果のトリアージ、不具合の再現、サービス担当者の特定、パッチの作成、デプロイ済み修正の検証といったタスクを実行します。
人間のレビュー担当者は引き続き、重要な変更の監督、例外対応、ポリシー境界の設定、独立した検証を担います。
このアプローチの重要な要素の一つが、隔離された再現可能な開発環境の利用です。各エージェントは、脆弱性を安全に再現するために必要なコード、依存関係、サービス、設定、セキュリティ制御をすべて備えた一時的な環境の中で動作します。
クラウドセキュリティソリューション
OpenAIは、この隔離が極めて重要だと強調しています。信頼できるテスト環境がなければ、エージェントは誤検知、再現不可能な不具合、環境側の障害を正確に区別できないためです。
このアーキテクチャには、ワークロードを管理しポリシーを強制し認証情報へのアクセスを制御するコントロールプレーンと、監視対象の開発コンテナと環境IDを含むデータプレーンが含まれています。
OpenAIは、100を超えるサービス領域にまたがる250人以上が参加した社内セキュリティ演習でこのモデルを検証しました。
同社はこの演習に、サイバー特化型モデルを用いて自社システムの脆弱性を特定・検証・修復するインシデントレスポンスの発想で臨みました。
ディフェンス・ファクトリーの主要データ
| 指標・領域 | 報告されたデータ | 意義 |
|---|---|---|
| セキュリティスプリントに動員された人員 | 250人以上 | OpenAIは、セキュリティチーム、応用チーム、リサーチチームを横断する大規模な体制を組織 |
| 対象となったサービス領域 | 100超 | 幅広い社内システム・サービス群を対象に調査を実施 |
| 初日に解決された緊急・高優先度の問題 | 53件 | 初期セキュリティスプリントにおける修復速度の速さを示す |
| ルーティング後に受理された担当者割り当て | 90.6% | エージェント支援による担当者マッピングにより、検出結果を責任チームへ振り分ける能力が向上 |
| 重複と判定された検出結果 | 37% | 自動重複排除によりノイズが減少し、重複調査を防止 |
| ランタイム検証で再現された検出結果 | 19.5% | 動的テストにより、実際に悪用可能・再現可能かどうかで検出結果を絞り込み |
| 動的検証後の誤検知率 | 0.81% | 再現可能な環境とランタイムチェックにより、検出結果の精度が大幅に向上 |
| ロールバックされた修正の割合 | 0.53% | エージェントが生成した修復変更の大半がデプロイ後も安定して稼働し続けたことを示す |
同社は、インベントリの構築と担当者の割り当てを同時に進めながら、初日だけで緊急・高優先度の問題53件を解決したと報告しています。
今回の結果からは、自律的な防御運用に伴う運用上の課題も明らかになりました。OpenAIによれば、再利用可能なサービス情報・所有者情報を導入した後、エージェント支援によるルーティングの担当者受理率は90.6%に達したとのことです。
トリアージの段階では、検出結果の37%が重複と判定され、自動重複排除がアナリストの作業負担をどれだけ軽減できるかが示されました。
ランタイム検証では検出結果の19.5%が再現され、動的検証後の誤検知率は0.81%まで低下しました。自動修復ではCodexを用いてパッチを生成し、ロールバック率は0.53%だったと報告されています。
全体としての目標は継続的な防御です。すなわち、システムをインベントリ化し、脆弱性を発見し、悪用可能性を動的に検証し、責任の所在を割り当て、検証済みの修正をデプロイし、そこから得た教訓を今後の運用にフィードバックしていくことにあります。
OpenAIのメッセージは明快です。従来のサイバーセキュリティ対策はもはや十分ではありません。組織は防御ワークフローの自動化を段階的に進め、エージェントが実行するための安全な環境を整備し、AIを活用した脆弱性管理を一度限りのセキュリティプロジェクトではなく継続的な運用能力として捉える必要があります。
脆弱性発見サービス
SOCを常に最新の状態に保ち、マルウェアやフィッシングの脅威が出現してから24時間以内に把握しましょう。 ANYRUNを試して早期検知でインシデントを未然に防ぎましょう。
翻訳元: https://gbhackers.com/openai-builds-defense-factory/
