Cloud Rangeは、AI Validation Rangeおよび Cloud Range AI Readiness Frameworkの正式提供を発表しました。これらは、組織がAIモデルやエージェントを現実的な環境でテストし、運用上の責任と安全性に対する準備状況を検証した上で、どの役割・業務をAIに任せ、どれを人間の専門家に任せるべきかを判断できるようにする、体系的な手法を提供するものです。
暴走したAIエージェントが関与する事例が近年相次いで発生し、従来型のテスト手法の欠陥が浮き彫りになっています。自律型エージェントが想定範囲を逸脱し、外部システムにアクセスしてしまうケースも見られます。AIがより大きなアクセス権限と自律性を持つようになるにつれ、組織側は単に「動作する」ことを証明するだけでなく、敵対的で予測不能な状況下でも確実に振る舞うことを証明する必要があります。
Cloud RangeのAI Validation Rangeは、安全かつ隔離されたテスト環境です。組織はこの環境で、現実的なSOC環境を再現しながらAIモデルやエージェントに対してレッドチーム演習やトレーニングを安全かつ効果的に実施し、障害モードやアクセスリスクを洗い出すとともに、人間の防御担当者と並べてパフォーマンスをベンチマークできます。
また、どのセキュリティ上の役割・責務がAIに最も適しているか、どれが人間の判断や監督を必要とするか、そしてどの組み合わせが最も高い成果をもたらすかについても検証可能です。この継続的な検証プロセスにより、モデルやユースケース、脅威の変化に応じて、組織は準備状況を繰り返し評価し直せます。
Cloud RangeのCEOであるDebbie Gordon氏は次のように述べています。「AIは、人間が取るべき行動を提案する段階から、実際に行動を実行する段階へと移行しつつあります。これはリスクの構造そのものを根本的に変える動きです」
「最近の出来事が明らかにしたのは、テストの成功が準備完了の証明にはならないということです。AIエージェントは割り当てられた目的を達成しながらも、誰も予期せず、意図もしなかった経路をたどる可能性があります。組織は、AIが動作するかどうかだけでなく、プレッシャーの下でどのように振る舞うか、どこで失敗するか、いつ人間の介入が必要になるか、そしてそのエビデンスがどの程度の自律性を裏付けているのかを理解する必要があります。組織はこれを本番環境で初めて知るような事態を避けなければなりません」
Cloud Rangeのサイバーレンジプラットフォームを基盤に構築されたAI Validation Rangeは、ライセンス取得済みツールや複雑なトラフィック生成を含む、現実的な企業環境を再現します。Cloud Rangeが保有する豊富な自動化敵対者攻撃エミュレーションのライブラリにより、組織は本番システムを危険にさらすことなく安全にAIをテストできます。これにより、実世界のSOCワークフロー全体、さらには敵対的で予測不能な状況下でAIを評価するための制御された環境が提供されます。
Cloud Rangeは、現実的な運用条件下でのAIパフォーマンスを検証するため、AI Validation Rangeを用いて各組織と連携してきました。こうした経験が、5段階のPROVEプロセスを基盤とするCloud Range AI Readiness Frameworkの開発に生かされています。このフレームワークは、セキュリティ責任者がAIパフォーマンスに関する単なる想定から、展開・自律性・監督体制に関するエビデンスに基づいた意思決定へと移行できるよう設計されています。
Cloud Range AI Readiness Frameworkの内容:
- Prepare & Train（準備とトレーニング）: AIが担う役割、境界線、期待値を定義し、実際に直面する業務やワークフロー・判断に備えさせます。
- Risk-Assess（リスク評価）: AIのアクセス権限、権限範囲、自律性、そして潜在的な影響を把握します。
- Operationally Test（運用テスト）: 現実的かつ予期しない、敵対的な条件を用いて、AIを想定を超える状況に置いて試します。
- Validate & Benchmark（検証とベンチマーク）: 正確性、パフォーマンス、一貫性、限界、リスクを測定し、エビデンスが準備完了を裏付けているかどうかを判断します。
- Evaluate & Evolve（評価と進化）: モデル、脅威、ワークフロー、権限、運用環境の変化に応じて、パフォーマンスを継続的に再検証します。
Gordon氏は次のように述べています。「組織は、AIエージェントが何にアクセスでき、何を変更でき、何を破壊し得るのかを本番環境で初めて知るような事態を避けるべきです。目的はAIが動作することを証明することではありません。AIがどのように動作するのか、どこで優れた成果を出し、どこでそうでないのか、そしてより大きな責任を与える前に成功とは実際どのようなものかを理解することです。AIの準備状況は、継続的に証明し続けなければならないのです」
