ITセキュリティにおけるエージェンティックAI:期待と現実の交差点

エージェンティックAIはすでにセキュリティオペレーションセンターの運用方法を変え始めており、繰り返しのタスクを処理し、アナリストがより高度な調査に集中できるようにしています。しかし、信頼性、価格設定、監督体制は依然として重要な課題です。

エージェンティックAIは、ラボでのデモから現実のセキュリティオペレーションセンター(SOC)への導入へと急速に移行しています。従来の自動化スクリプトとは異なり、自律型ソフトウェアエージェントはシグナルに基づいて行動し、セキュリティワークフローをインテリジェントに実行するよう設計されており、ログの相関付け、アラートの強化、さらには一次的な封じ込め対応まで行います。

一部のセキュリティリーダーにとって、SOCにおけるエージェンティックAIの価値は明白です。アナリストを終わりのないトリアージ作業から解放し、膨大なアラート量に対応するための対応能力を拡張できるからです。一方で、意思決定の不透明さ、統合の複雑さ、コストの増大といったリスクを懸念する声もあります。

この技術が現在どのような位置にあるのかを明確にするため、私たちはエージェンティックAIをサイバーセキュリティに試験導入・展開・助言しているセキュリティ幹部、プロダクトリーダー、研究者に話を聞きました。彼らの見解は、エージェントが得意とすること、つまずく点、そしてエージェンティックAIがITセキュリティの定番となるか一過性の流行で終わるかを左右する組織変革、価格設定の実験、ガバナンスモデルを浮き彫りにしています。

エージェンティックAIが得意なこと・不得意なこと

エージェンティックAIは、通常は第一層のセキュリティアナリストが担当するタスクを担うニッチな役割を確立しています。単に挙動をフラグするだけでなく、エージェントベースのシステムは「アラートのトリアージ、ツール間のシグナルの相関付け、場合によってはエンドポイントの隔離など脅威の封じ込めまで、第一レベルのタスクを処理し、アナリストが他の戦略的で重要なタスクに集中できるようにします」と、fifthelement.aiのCEOでエンタープライズAIストラテジストのジョナサン・ガリーニ氏は述べています。

ヴィノッド・ゴジェ氏(データ駆動型ソリューションおよび応用AIの専門家)は、SOC環境においてAIエージェントは「まるでデジタルの第一層アナリストのように、データを精査し、コンテキスト情報を収集し、自らの活動に関する詳細なレポートまで作成する」と指摘します。ゴジェ氏は、マルウェア解析、スクリプトの難読化解除、ツールの連携など、AIエージェントの実用的な用途を挙げています。

イタイ・グリック氏(OPSWATプロダクト担当VP)は、エージェントは「最初の15分間でコンテキストの取得、脅威インテリジェンスの確認、ログの要約、レビュー用のアクション提案に優れている」と付け加えます。また、脆弱性の優先順位付けや、古いアカウントの発見などの衛生管理タスクにも役立ちます。

ディプト・チャクラバルティ氏(Black Duck最高プロダクト・技術責任者)は、AIエージェントがアラートパターンをクラスタリングし、脅威インテリジェンスフィードと相関付けることでアラート疲れを軽減し、自然言語処理(NLP)駆動のツールが大規模なアラート要約を実現していると述べています。

多くのAIエージェント利用者に共通するテーマは、ガリーニ氏が言うところの「繰り返し作業からの解放」により、人間のアナリストがより高度な探索や脅威ハンティングに集中できる点です。エージェントを活用するチームでは「対応の迅速化、チーム構造の効率化、膨大なアラートへの対応力向上」も見られるとゴジェ氏は述べています。

それでも限界はあります。グリック氏は、クリーンなデータや明確なプレイブックがなければ、エージェントがノイズを追いかけたり、手順をでっち上げたりする可能性があると警告します。チャクラバルティ氏は、誤検知や過学習の問題を指摘し、プラシャント・ジャグワニ氏(Mphasis SVP兼グローバルサイバーセキュリティ責任者)は、曖昧なシグナルや多層的なコンテキストが最先端のエージェントでも混乱を招く場合があると述べています。現時点では、多くの組織が人間のアナリストを補完する形でエージェントを導入しています。

統合アプローチ:アドオン型 vs. スタンドアロン型

AIエージェント導入における最初の判断は、既存プラットフォームにレイヤーとして追加するか、スタンドアロンのフレームワークとして実装するかです。アドオン型モデルは、エージェントをSIEM(セキュリティ情報イベント管理)SOAR(セキュリティオーケストレーション・自動化・対応)などのセキュリティツールの拡張として扱い、最小限の混乱で迅速な成果をもたらします。一方、スタンドアロン型フレームワークは独立したオーケストレーションレイヤーとして機能し、柔軟性は高いものの、より厳格なガバナンスや統合、変更管理が必要となります。

fifthelement.aiのガリーニ氏は、これらのシステムは「インターフェースの良し悪しがすべて」と述べます。SIEMやSOARプラットフォーム上に直接構築されたアドオンは最も効果的である一方、スタンドアロン型は「オーケストレーションやガバナンスにより多くの労力を要する」ことが多いと指摘します。

アミット・ワイグマン氏(Checkpointサイバーセキュリティ・AI専門家)は、現在の業界動向として「MicrosoftのSecurity Copilotはアナリストによるアラートの自動トリアージやノイズの除去を支援している。CrowdStrikeも同様のことをしており、GoogleはGemini搭載エージェントでアラートのエンドツーエンド調査まで実現している。現状はほとんどがボルトオンや拡張型だ」と述べています。

ワイグマン氏は、ボルトオン型が人気な理由の一つとして、新しいSOCプラットフォームの入れ替えや深い統合は大きな作業であることを挙げます。「導入や再トレーニング、プロセス変更に数か月かかることもある。その間もチームはリアルタイムの脅威と戦い続けなければならない」と述べています。

ファーガル・グリン氏(Mindgard CMO兼AIセキュリティ推進者)は、この選択をスピードと柔軟性のトレードオフと位置付けます。「アドオンは迅速な導入には適しているが、柔軟性は低い。スタンドアロン型は制御性が高いが、セットアップや保守に手間がかかる」と述べています。

OPSWATのグリック氏も同意し、「データの大半が既存のSIEM/SOARパイプラインにある場合はアドオンが適しているが、IT、OT、クラウドSaaSなどにデータが分散している場合は専用エージェントレイヤーの方が『スイベルチェア作業』を減らせる」と述べています。

Mphasisのジャグワニ氏は、多くの企業が既存投資の上にレイヤーとして導入でき、制御されたテスト環境を提供できるため、まずアドオン型から始めると指摘します。スタンドアロン型フレームワークは、ハイブリッドやマルチクラウド環境全体を統合する段階で導入されることが多いと述べています。

「クライアントとの取り組みから得た教訓の一つは、多くのSOCが統合の複雑さを過小評価していることです。単にAPIでシステムをつなぐだけでなく、エージェントの意思決定ロジックを既存のプレイブックやリスク許容度と整合させる必要があります。アドオン型はその整合への穏やかな道筋を提供し、スタンドアロン型オーケストレーションは成熟の第二段階となることが多いです」とジャグワニ氏は述べています。

ガバナンスと組織変革

エージェンティックAIの導入は一夜にして起こるものではありません。Checkpointのワイグマン氏は「ほとんどのセキュリティチームは、ピカピカの新しいAIシステムにSOC全体を入れ替えることはなく、それも当然です。高コストで、時間と人的リソースを要し、結果的に混乱やコスト増につながる可能性があるからです」と述べています。

その代わり、リーダーたちは既存業務を損なわずに新機能を段階的に追加する方法を模索しており、パイロット導入が一般的な第一歩となっています。

「エージェンティックAIを検討する組織への最初のアドバイスは、フィッシング対応や認証情報の悪用など、小さなユースケースからパイロット的に始め、徐々に検知・対応全体へ拡大することです」とfifthelement.aiのガリーニ氏は述べています。限定的なシナリオをターゲットにすることで、広範な変更の前に価値や信頼性をテストできます。

エージェント導入後は、ガバナンスも進化が必要です。OPSWATのグリック氏は、既存のフレームワークを廃棄するのではなく適応させると指摘します。「既存の変更管理や職務分離ルールはエージェントのフローにマッピングされます。例えば、破壊的アクションには2人承認、リスク階層で自動・要確認・エスカレーションを決定、プレイブックの展開前にはサンドボックスでテストなどです」。また、エージェントはレッドチームテストにもプロンプトインジェクションや脱獄試行を通じて含まれるようになってきています。「はしごは同じままですが、それがエージェントの世界で明示的になるだけです」と述べています。

Mphasisのジャグワニ氏も同様の傾向を見ています。ガバナンスやリスク管理は「人間の関与による承認」を通じて拡張され、ゼロから書き換えられることはありません。AIがより高度な汎用知能に到達するまでは、規制枠組みの置き換えは現実的ではないと主張します。

信頼、監督、人間との協働

エージェンティックAIの魅力は自律性にありますが、その特性こそが導入の大きな障壁にもなっています。多くの組織は、エージェントに本番環境で自由に動作させることに慎重です。

「脅威に対応する一連のアクションを実行するよう設計されたエージェントが、誤用や不適切な展開によって新たなリスクを生む可能性もあります」とゴジェ氏は述べます。「例えば、規制されていないスクリプトや新たに発見された脆弱性のリスクなどです」。そのため、ほとんどの組織は強力な安全策なしに完全自律運用を許可することはありません。

Checkpointのワイグマン氏は、この問題を透明性の問題と捉えています。「AIはまだブラックボックスのように感じられます。人間のアナリストのミスが必ずしも良いとは限りませんが、管理者は誤差範囲を把握し、コスト換算もできます。AIの場合は『何が分からないかも分からない』状態で、不安になるのも当然です」と述べています。

この課題を克服するため、専門家はAIワークフローに可視性と説明責任を組み込むことを強調します。OPSWATのグリック氏は「プロンプト、ツール呼び出し、出力、承認まで、すべてに監査証跡が必要」と主張します。

カイル・クルジオレック氏(BigIDセキュリティVP)は、ドキュメント化が不可欠だと付け加えます。「規制対象となるものはすべて、文書化・検証・最終的に監査可能でなければなりません。『何をしたか』だけでなく、『なぜその行動を取ったのか』という根拠も構築する必要があります」。

Mphasisのジャグワニ氏は、金融サービスの規制当局は「監査可能な形での説明性」を期待していると強調します。つまり、出力が単なるブラックボックスの推奨では不十分です。チームは、エージェントの意思決定を入力、信頼度スコア、エスカレーションロジックに分解できる階層的な監査証跡の実装を始めています。

透明性が高まっても、人間との協働は依然として重要です。ゴジェ氏はエージェントを「協働するデジタル同僚」として扱うことを提案し、ワイグマン氏は「ほとんどの導入組織はリスクの高いアクションでは人間をしっかり関与させており、AIは提案やトリアージを行い、最終判断はアナリストが下す」と述べています。

ワイグマン氏はまた、狭い専門分野のエージェントを複数展開することで可視性が高まると述べています。「巨大なブラックボックスAI脳ではなく、監視・説明可能な狭い範囲の専門エージェントの集合体を持つイメージです」と述べています。

価格設定、価値、プログラム設計

エージェンティックAIの機能やガバナンスも重要ですが、セキュリティ分野での導入を後押しする最大の要因の一つは経済性です。セキュリティリーダーは「どれだけのコストと時間が節約できるのか?」を知りたがりますが、その答えは必ずしも単純ではありません。

「価格設定は依然として摩擦点です」とfifthelement.aiのガリーニ氏は述べます。「ベンダーは利用量ベースのモデルを試していますが、組織は生の計算リソースやAPIコールではなく、アナリストの工数削減に紐づけた支出に価値を見出しています」。

Mindgardのグリン氏は、AIの価格モデルの多様性に言及します。「サブスクリプション単位、ユーザー単位、アラート単位で課金される場合もあります。他のベンダーは利用量ベースのプランも提供しています。高度なエージェントシステムは影響範囲が広く、アナリストの作業負荷削減の機会も大きいため、通常は高コストです」と述べています。

OPSWATのイタイ・グリック氏は、「ユーザー単位、タスク単位、ハイブリッド型」など様々なモデルで実験するチームを見てきたが、「ストレージ、API料金、長いプロンプト、プレイブックの維持管理など隠れたコストが急速に積み上がる」と警告します。ROI(投資対効果)は最終的に、検知・対応の迅速化、アナリスト1人あたりの処理件数増加、不要なアラートの減少といった指標に現れるべきだと述べています。

Black Duckのチャクラバルティ氏は、チームが「利用量ベースやハイブリッド型など、幅広い実験を行っている」と述べています。組織はソフトウェアだけでなく、大規模モデルをオンプレミスとクラウドの両方で稼働させるハイブリッドインフラのコストも予算化する必要があると指摘します。

Mphasisのジャグワニ氏は、単純な価格指標は本質を見落としがちだと警告します。「隠れたコストは、ドメイン固有データでのモデル再学習や、クリーンで構造化されたテレメトリのパイプライン構築などに現れます」。エージェントを単なるプラグインではなく、長期的なプロセス再設計の一部と捉えたときに最良のROIが得られると述べています。

BigIDのクルジオレック氏は、ROIの測定に唯一の正解はないと考えています。「組織ごとに異なります。効率性の観点から見る組織もあれば、エージェントによる真陽性・偽陽性イベント数、エージェントが起こしたインシデント数を重視する組織もあります。リソース観点では、アラートのトリアージにどれだけ時間を節約できているか、エージェントの出力をどれだけ再確認しているか、本当に時間短縮につながっているかを見る場合もあります」。

彼の考えでは、鍵となる問いはシンプルです。「エージェントはトリアージや調査の時間を十分に節約し、セキュリティチームが企業防御力を高める余力を生み出しているか?」

この問いこそが、今後のサイバーセキュリティにおけるエージェンティックAIの未来を左右するでしょう。技術は急速に成熟しつつありますが、その定着は、組織がSOC運用の再構築を持続可能な方法と見なすかどうかにかかっています。

翻訳元: https://www.csoonline.com/article/4064158/agentic-ai-in-it-security-where-expectations-meet-reality.html

ソース: csoonline.com