OpenAIは、AIモデルの能力向上により、脅威アクターがこれまでにない速度で積年のセキュリティ上の弱点を特定・悪用できるようになる可能性があると警告しました。攻撃者が蓄積された技術的負債を突く前に、組織側は防御的な運用を刷新する必要に迫られています。
OpenAIのグレッグ・ブロックマン社長は、「The Defender’s Window(防御側の窓)」と題した投稿の中で、AIが実際のサイバー攻撃における重要な段階を自動化し始めていると述べました。
こうした能力により、攻撃者は企業環境全体に潜む埋もれたコーディングのバグ、クラウドの設定ミス、忘れられた権限、露出した認証情報、危険な信頼関係などを発見しやすくなります。
今回の警告は、ブロックマン氏が説明したOpenAIとHugging Faceを巡るインシデントを受けたものです。このインシデントでは、「エージェント型集団」がOpenAIの研究インフラと別企業の本番環境に侵入したとされています。
報道によれば、この攻撃はオンライン上に流出した認証情報と未知の欠陥を連鎖させたものであり、単体では限定的な弱点同士を組み合わせることで攻撃者が影響の大きい侵入経路を作り出せることを示しています。
主なリスクは新たに発見される脆弱性だけでなく、既存システム全体に積み上がった膨大なセキュリティ負債にもあります。
AIを活用する攻撃者は、攻撃対象領域の継続的な洗い出し、コードのレビュー、設定の点検、露出したIDの特定、そして悪用可能な経路の優先順位付けを、人間主体のセキュリティチームよりも速く行える可能性があります。
OpenAIは、こうした能力を迅速かつ適切な安全策とともに導入すれば、同じ技術によって形勢を防御側に有利にシフトできるとも主張しています。
ブロックマン氏は、組織がAIエージェントを活用してコードベース、Infrastructure as Codeのテンプレート、デプロイパイプライン、認証システム、インターネットに公開されているサービスを評価すべきだと述べました。
その一例として、ブロックマン氏は一般公開されているGPT-5.6 Solを搭載したChatGPT Workを使い、自身の個人サイトを評価したと説明しています。
約15分以内に、システムはメールなりすましを防ぐDNS保護の欠如、古いバージョンのjQuery、CloudflareからAWSへ暗号化されていないHTTPで転送されるトラフィックなど、13件のセキュリティ問題を特定しました。
その後、このエージェントはDNS・TLS・セキュリティ設定の構成、jQueryの除去、サイトのCloudflare Pagesへの移行、そして段階的なDMARC導入の開始まで、修復作業を支援しました。
ブロックマン氏はこの一連の流れを「サイバーガーディアン」モデルと表現しました。放置されがちな長期的なセキュリティ上の弱点を特定できるAIシステムというわけです。
OpenAI社内の防御戦略は、AI支援によるセキュアコーディング、インフラの自動防御、攻撃経路の継続的な発見、そして基盤的な統制という4本柱を中心に据えています。
同社によれば、Codexのツールがコード変更を検証し、脆弱性を特定して、デプロイ前に開発者が問題を修正できるよう支援するとしています。
また、インテリジェンスを活用したアラートのトリアージも導入し、アナリストの作業負荷を軽減してインシデント対応を迅速化する一方、影響の大きい判断については人間の手に委ねています。
OpenAIによれば、完全自律型のセキュリティ運用を目指すのではなく、検知結果を範囲を限定した自動対応へと段階的に接続しているとのことです。
防御側に向けて、ブロックマン氏は、インターネットに公開された資産、ID管理システム、機密データ環境、CI/CDパイプライン、クラウド設定について、AIを活用した評価を優先的に行うよう推奨しています。
セキュリティチームはまた、エージェントを使って既存の脆弱性の滞留案件をトリアージし、関連する欠陥を関連付け、的を絞ったパッチを生成し、回帰テストを作成することもできます。
ただし同氏は、AIの導入は最小権限の原則、多層防御、ネットワークの分離、ワークロードの堅牢化、継続的な監視、安全なパッチ適用プロセスといった実績のある統制と組み合わせなければならないと強調しています。
「防御側の窓」とは、AI主導の攻撃能力が何年も放置された脆弱性を容易に悪用可能な攻撃経路へと変えてしまう前に、セキュリティチームが今すぐ自動化を加速すべきだというOpenAIからの呼びかけです。
不審な活動をより迅速に調査し、事業への影響が拡大する前に脅威を封じ込めるための可視性とコンテキストを、あなたのセキュリティチームに。ANY.RUNで調査を強化する
翻訳元: https://cyberpress.org/openai-warns-ai-powered-attackers/
