OpenAIは11月12日に開催したイベント「Cyber at the Frontier」で、「Daybreak Red Team」と「Daybreak Defense Factory」を発表しました。脆弱性の調査、攻撃経路の検証、修正案の作成を担うエージェントを備え、同社のサイバーセキュリティプラットフォームを拡充します。
今回の発表は、攻撃側の視点によるセキュリティテストと修正のワークフローを結び付けるものです。提案されたコード変更をマージする前には、人間によるレビューを維持します。
クラウドセキュリティソリューション
Daybreak Red Teamは、ソースコードとアプリケーションの文脈を調べる複数のエージェントが連携し、Webアプリケーションのセキュリティを検査します。単に疑わしいパターンを指摘するのではなく、潜在的な弱点を調査したうえで、攻撃経路が実際に成立するかどうかをテストします。
スキャナー、バグバウンティプログラム、脆弱性開示を通じて寄せられた報告の検証にも対応します。パッチ適用後にはアプリケーションを再テストすることも可能です。
このアプローチは、自律型Webアプリケーションのペネトレーションテストで見られる、継続的かつエビデンスに基づく評価への流れをさらに押し進めるものです。発表の場で、OpenAIでサイバー応用AIを統括するNancy Wang氏は、Red Teamを高度なペネトレーションテストと大規模な自動スキャンを組み合わせたものだと説明しました。
最大の特徴は、報告された弱点を再現可能な証拠に結び付けることです。エンジニアが未検証のアラートを自ら調べる必要はなくなります。
修正の工程を担うのがDaybreak Defense Factoryです。OpenAIの製品概要によると、エージェントは既存のセキュリティツールやDaybreak Red Teamが検出した問題を調査し、コード内で脆弱性をたどってパッチを作成します。変更内容のレビューとテスト、そしてマージの判断はエンジニアが担い、プラットフォームが提案した修正を自動でデプロイすることはありません。
ワークフローは、Wiz、Snyk、Endor Labsの検出結果と、連携したGitHubリポジトリに対応しています。チームは定期的な評価を実行できるほか、新しいコミットの監視、裏付けとなる証拠の確認、Codexを使った修正案の改善も可能です。Defense Factoryはプルリクエストのドラフトも作成できます。脆弱性レポートを出して終わりにせず、修正作業をエンジニアリングチームのレビューに回せる形にまとめます。
これは、Codex Security Cloudで導入されたリポジトリ中心の自動化を土台とするものです。Codex Security CloudはGitHubプロジェクトを継続的に分析し、人間が評価するためのパッチを用意します。
クラウドセキュリティソリューション
Endor Labsは、自社の統合機能が到達可能性の分析、影響に関する情報、修正のガイダンスを提供し、エージェントが文脈を踏まえた検出結果をもとに作業できるようになると説明しています。その後、同社のポリシーチェックが、人間によるレビューの前に変更内容の検証を支援します。
このほか、ライブ配信の報道によると、未公開のサイバーセキュリティモデルがExploitGymで77.0%のスコアを記録したということです。ただし、出回っているベンチマークのグラフは、確認した公式の製品ページには掲載されていませんでした。そのため、PatchBenchで79.1%を記録したとの報告や、Claudeを上回るとの主張は未検証であり、公式の製品仕様ではありません。
Daybreak Red Teamは現在、早期アクセスの申し込みを受け付けていますが、登録すれば必ず利用できるわけではありません。防御側にとって確認できた変化は、認可されたテスト、脆弱性評価、パッチの準備、検証がより密接に結び付くことです。ただし、デプロイには人間の承認が依然として不可欠であり、このアプローチがセキュリティエンジニアや従来の保証プロセスに取って代わるものではありません。
SOCに最新の脅威に関するアラートのコンテキストを提供し、インシデントを迅速に食い止めましょう -> 1万6000のSOCの脅威インテリジェンスを統合:
翻訳元: https://gbhackers.com/openai-launches-advanced-ai-cybersecurity-tools/