OpenAIは、高度化するAIシステムによってセキュリティ脆弱性の特定・悪用・連鎖的な組み合わせがより容易かつ低コストになりつつあると指摘し、企業に対して主要なサイバーセキュリティ機能を迅速に自動化するよう警告しました。
ゼロデイ脆弱性アラート
「The Defender’s Window」と題した最近のセキュリティ記事の中で、OpenAIのグレッグ・ブロックマン社長は、OpenAIとHugging Faceを巡るインシデントが示したように、極めて高度な能力を持つ攻撃者が研究環境から本番インフラへと自律的に移動できる実態を説明しました。
報道によれば、この攻撃はこれまで知られていなかった脆弱性と、オンライン上で漏洩していた認証情報を組み合わせて実行されたとされ、蓄積した技術的負債、脆弱なアイデンティティ管理、設定ミスがいかに重大な侵害経路につながり得るかを浮き彫りにしました。
AIによる攻撃の加速
OpenAIが最も強調しているのは、AIが防御・攻撃双方のダイナミクスを変えつつあるという点です。これらのモデルは、人間が書いたコードの欠陥を迅速に特定し、公開されているサービスを洗い出し、インフラ構成を分析し、忘れられたままの権限設定を発見することができます。
一方で防御側も同じ能力を活用することで、攻撃者に悪用される前に脆弱性を継続的に特定・優先順位付け・検証・修正することが可能になります。
ブロックマン氏は、自身の個人サイトを例に実例を紹介しました。あるAIエージェントが、わずか約15分で13件のセキュリティ上の問題を検出したといいます。
これらの問題には、メールのなりすましを許してしまう可能性のあるDNS保護の欠如、古いバージョンのjQuery、CloudflareとAWS間で暗号化されていないHTTP通信などが含まれていました。
このAIエージェントはその後、DNSの設定、TLSおよびセキュリティ設定の実装、jQueryの削除、ホスティングのCloudflare Pagesへの移行、そして段階的なDMARC導入の開始といった対応により、これらの問題を解決しました。
OpenAIによると、同社の社内防御戦略は現在、4つの柱を軸に構成されています。すなわち、AI支援によるレビューを通じたコードの安全確保、インフラの継続的な防御、フロンティアインテリジェンスを活用した攻撃経路のマッピング、そして従来型セキュリティ対策のスケールアップです。
セキュリティプラグインを含むCodexツール群は、コード変更の検証、脆弱性の特定、そして脆弱なコードが本番環境に到達する前にエンジニアが修正を作成する作業を支援するよう設計されています。
OpenAIが目指しているのは、アナリスト向けのアラートの山をさらに増やすことではなく、悪用可能な欠陥を発見してから検証済みのパッチを安全に展開するまでの時間を短縮することです。
同社はまた、初期段階のアラートのトリアージにもAIを活用しており、検知結果を、あらかじめ定義されたパラメータに基づく自動対応へと結びつけています。重要な判断は引き続き人間のアナリストが担い、証拠収集、分類、リスクの低い対応ワークフローといった反復作業は自動化が担うという役割分担です。
OpenAIは、この方式によって、完全自律型のセキュリティオペレーションセンターへ一足飛びに移行することなく、マシンスピードでの検知と対応を実現できると考えています。
防御側に対しては、まず価値の高い限定的なユースケースから着手することを同社は推奨しています。セキュリティチームは、承認済みのAIエージェントに対し、優先度の高いコードベース、インフラ構成、技術文書へのアクセスを、制御された形で付与すべきだとしています。
クラウドセキュリティサービス
最初の評価対象としては、インターネットに公開されているアプリケーション、認証の仕組み、Infrastructure-as-Codeのリポジトリ、デプロイパイプライン、機密データを扱うシステムに焦点を当てるべきとしています。
企業はまた、既存の脆弱性の未処理案件を整理する際にもAIエージェントを活用すべきです。これには、スキャナーのアラート、依存関係に関する検出結果、バグ報奨金プログラムの報告、過去のチケットなどが含まれます。
エージェントは、悪用可能な問題と無関係なノイズを切り分け、脆弱なコードの派生版を特定し、修正の優先順位を提案し、対象を絞ったパッチを生成し、回帰テストを作成する上で助けとなります。
OpenAIは、自動化は段階的に導入すべきだと強調しています。まず読み取り専用でのリポジトリスキャンや過去のアラートのレビューから始め、プルリクエストのスキャン、リアルタイムのトリアージ、そして範囲を限定した自動クローズへと進めていく流れです。
AIを活用した攻撃がさらに高度化する中、同社は、防御側の優位性は自律的な分析能力と、最小権限の原則、多層防御、ワークロードの堅牢化、ネットワークの分離、安全なデプロイ手法、そして人間による監視といった基本原則を組み合わせることにかかっていると主張しています。
新たなフィッシングやマルウェアが貴社を侵害する前に阻止しましょう。 世界15,000のSOCからのライブインテリジェンスを統合
