SOCをエージェンティックAIに向けて準備する4つの方法

アラートトリアージ、脅威調査、そして最終的にはより高度な機能を自動化する方法。

IDCによると、エージェンティックAIはメインストリームインフラストラクチャになる軌道に乗っています。このアナリスト企業は、2030年までに組織の45%が重要なビジネス機能全体でスケールで動作する自律型エージェントを持つと予想しています。エンタープライズSOCでは、AIはすでにアラートトリアージ、エンリッチメント、データ相関、IOC検証、初期対応などの機能を再構成しています。間もなく、インシデント調査、根本原因分析、対応などのより複雑なタスクを引き継ぐようになる可能性があります。

「AIはSOCの力の増幅器として機能します」とDarktraceのセキュリティとAI戦略シニアVPであるニコール・カリニャン氏は述べています。しかし、その約束を生かすには、組織は現在、アナリストのスキルの再習得、プロセスの再設計、新しい技術的役割の構築、そして自律型AIエージェントが安全に動作することを確保するためのガードレールとガバナンスフレームワークの確立に投資する必要があります。「単にAIソリューションを導入するだけでは十分ではありません。セキュリティプラクティショナーは、基盤となる機械学習技術がどのように機能するか、その強みと制限は何か、そして出力をどのように評価するかを理解する必要があります」とカリニャン氏は述べています。「説明可能性と信頼なしには、AIは問題を解決するのではなく、アラート疲れを悪化させるリスクがあります。」

セキュリティリーダーがエージェンティックAI時代にSOCを準備するために知っておく必要があること—そして実行する必要があることです。

アナリストをAI協力者および監督者になるようにスキルの再習得を行う

ますます、SOCにおける人間の役割は実務的な実行から監督、ガバナンス、設計、監視へと移行していくでしょう。AIエージェントがより多くの運用タスクを引き継ぐにつれて、アナリストはAIシステムの管理、出力の解釈、機械が処理できないニュアンスのある課題の解決に焦点を当てる必要があります。とBugcrowdの創設者であるケーシー・エリス氏は述べています。「仕事は消えません、適応するのです。重要なのは、SOCプロフェッショナルが継続的な教育、トレーニング、ツーリングを通じてこの変化に備えられていることを確認することです。」

移行がスムーズに、また摩擦なく行われるとは誰も期待していません。多くのSOCリーダーは、既存スタッフをスキルアップして、AIを効果的に管理し、AIの推論を詮索し、文脈的な洞察を持つ調査を充実させ、AI駆動の出力に情報に基づいた人間の分析を適用する必要があります。

「AIツールの推奨に対応するとき、アナリストはエージェントが何を質問し、どのデータソースをクエリし、どのような証拠がその決定に情報を与えたかを理解する必要があります」とCommand ZeroのCo-founderおよびCEOであるドフ・ヨラン氏は述べています。そこから、彼らは追加のデータソースにピボットし、新しいアーティファクトを追求し、必要に応じて調査のタイムラインを拡張することができる必要があります。「ゼロから調査を開始する方法を知らないかもしれないジュニアアナリストは、エージェントが生成したものを拡張および改良する方法を学ぶことで効果的になることができます」とヨラン氏は述べています。「これは従来のSOC作業とは異なるスキルセットであり、多くの点でより利用しやすいものです。」

「将来のSOCでは、アナリストはAI駆動の結論の敵対的なレビュアーとしても機能する必要があります。これは、AIシステムが幻覚、トレーニングデータのバイアス、その他の脆弱性を導入する可能性があり、同時に敵対的な操作に対して脆弱であるためです。アナリストはこれらのリスクを認識して、決定が根拠に基づいており防御可能なものであることを確認する必要があります」とSOCRadarのCISO、エンサル・セケル氏は述べています。「アナリストはボタンを押す人としてではなく、AI出力の敵対的なレビュアーとしてトレーニングを受ける必要があります。それは、モデルがどのように推論し、どこで失敗し、バイアスとデータギャップがどのように表面化し、信頼度とその仮定をどのように詮索するかを理解することを意味します。目標は「AIをより速く信頼する」ことではなく、「この結論を間違わせるものは何か？」と尋ねる本能を育てることです」とセケル氏は述べています。

「アナリストはまた、組織固有の文脈をAI駆動のワークフローに統合する上で重要な役割を果たします。この文脈がなければ、エージェントは脅威を見落とし、ノイズを増幅し、不完全な情報に基づいて危険な行動をトリガーするリスクがあります。SOCリーダーは「AIエージェントは、それがアクセスできる文脈と同じくらい賢いだけだ」ことを覚えておく必要があります」とヨラン氏は述べています。アナリストはアイデンティティに注釈を付け、ウォッチリストを保管し、反復的な偽陽性パターンを文書化し、将来の調査を強化するエンリッチメント層を構築することを学ぶ必要があります。彼は「これは知識作業であり、データ作業ではありません」と述べています。

「最終的に、目標はAIを上回ることではなく、AIが不足しているところでより良く実行することです。例えば、「自律型アラートトリアージが基本的な要件になることを受け入れる」とヨラン氏は述べています。「あなたのプロセスは『すべてのアラートをどのようにトリアージするか』から『自律型調査からのエスカレーションをどのように処理するか』へと移行する必要があります。」」

AIガバナンス、コンテンツ、品質のための機能を構築する

「既存のアナリストのスキルアップだけでは十分ではありません。AIエージェントが複数のツール間で動作し、最小限の人間の介入で決定を下し、アクションをトリガーし始めると、SOCへの需要は従来のアナリスト機能をはるかに超えていくと、専門家は述べています。」

「例えば、コンテンツエンジニアリングは新たに出現した要件の1つです。AI対応SOCでは、検出エンジニアはもはや静的ルールのみを記述することはありません。彼らは、エージェントが推論し、データを充実させ、信号を相関させ、自律的に行動するために使用できる質問、プロンプト、調査テンプレートなどの動的なコンテンツを設計する必要があります。これらのコンテンツエンジニアは、テレメトリ、脅威モデル、プレイブックを含むエージェントに電力を供給する構造化された入力をキュレーションします。

「これはAI駆動のセキュリティオペレーション内で最も過小評価されている役割です」とヨラン氏は述べています。「これらは、エージェントが質問できる質問、自律的な作業を導く調査計画、および文脈を提供するナレッジベースを構築および保守する人々です。」組織は、SIEMから検出ロジックを翻訳でき、MITRE ATT&CKなどのフレームワークからベストプラクティスをインポートでき、機関の知識をプラットフォームにエンコードできる人が必要です。「これは従来のセキュリティエンジニアリングではなく、ナレッジマネジメントと脅威インテリジェンスを組み合わせたものに近いです」と彼は述べています。

「成熟したSOCはまた、AIガバナンスとエージェント監視の明確な所有権を必要とするでしょう。それには、モデルリスク評価、プロンプトとポリシー管理、継続的なパフォーマンス検証、さらにはエージェント自体のレッドチーミングの監視を持つ役割が含まれます」とセケル氏は述べています。「大規模な新しいチームは必要ありませんが、自律的な決定がどのように下され、テストされ、制約されているかについての明確な説明責任は必要です。」

「別の出現したニーズはデータ管理に深い流暢さを持つアナリストです。AI駆動のSOCは、信頼できる結論を確保するために情報をどのように分類、保護、正規化、監視すべきかを理解する専門家を必要とするでしょう。組織の64%が来年のセキュリティスタックにAI駆動ソリューションを追加する計画を立てており、プロフェッショナルがAIでクロススキルを習得することが重要です」とカリニャン氏は述べています。「サイバーセキュリティプロフェッショナルはAIとデータに習熟し、データ分類、ガバナンス、モデルの動作についてのより深い理解を開発する必要があります。」データサイエンス、機械学習、サイバーセキュリティのクロススキルにより、アナリストはAI出力を批判的に評価し、セキュリティユースケースのモデルを調整し、脅威の進化に応じて防御を適応させることができます。これにより、彼らはAI補強されたSOCで不可欠なものになります。

「IDCのアナリストであるフランク・ディクソン氏は、この機能をデータアーキテクトの役割と同様に考えるよう組織に促しました。「AIから価値を得るための鍵は、データをアクセスできる場所に配置し、それを均質な方法でフォーマットして、それを分析し、その後データを管理することです」と彼は述べています。「あなたのAI取り組みの成功はデータを取得する能力の有効性に関連付けられるでしょう。データアーキテクトがそれを管理します。」

「ディクソン氏はまた、セキュリティツール全体で効果的なコミュニケーションとワークフロー統合を確保する責任のある「オーケストレーションプラットフォームエンジニア」の役割の必要性を強調しました。将来のSOCは単一のプラットフォームに依存するのではなく、SIEM、EDR、SOAR、ID、クラウド、およびAI駆動のエージェンティック調査とオートメーションをサポートするために連携して動作する必要のあるその他のシステムの相互接続されたエコシステムに依存するでしょう。とディクソン氏は述べています。彼は、このような環境で信頼性のあるデータフローとオートメーションロジックを維持するために、専用のオーケストレーション専門知識が重要になるだろうと述べています。

必要に応じてSOCプロセスとプレイブックを再設計する

「組織はSOCプロセスとプレイブックを見直し、再作成して、AI補強されたSOCが一貫性があり、効率的で、継続的に学習していることを確認する必要があります。ヨラン氏は、SOCリーダーが機関の知識をAIエージェントがアクセスできる質問と計画にコード化することに焦点を当てることを推奨しています。プレイブックをAIエージェントが反復可能な方法で従うことができる調査計画に翻訳します。エージェントが壁に直面するかもしれない状況では、人間のアナリストへのスムーズな引き継ぎのためのプロセスと継続的な改善のためのフィードバックループを実施します」とヨラン氏は付け加えています。

「プレイブックはステップバイステップの人間の手順から意図ベースのガードレールへとシフトする必要があります」とセケル氏は指摘しています。「アナリストに調査方法を指示する代わりに、許可されている結果、禁止されているアクション、および人間の承認が必須の場合を定義します」。目標はすべてのアラートをマイクロ管理することではなく、AIエージェントが複数のツール間で継続的に動作し、人間は例外、エッジケース、および戦略的な決定のみを監督していることを前提とすることです。

「SOCはまた、SOC内のメトリクス、説明責任、ドキュメンテーションを再考する必要があります。チケット完結率や解決までの平均時間などの従来のパフォーマンスインジケータは、モデルの精度、エスカレーションの品質、自動化された封じ込めアクションの有効性を含むように拡大する必要があるかもしれません。「最大の間違いは調査の品質の代わりにスピードメトリクスを最適化することです」とヨラン氏は述べています。「これは絶えず見ています：ベンダーが解決までの時間を90%高速化することを約束し、第1層の作業負荷を80%削減するか、アラートを数時間ではなく数秒で終了することを約束します。これらのメトリクスは魅力的である一方で危険です」と彼は警告しています。「同じ間違いをより速くしても誰にも利益はありません。2分で終了する不完全な調査は、30分かかる徹底的な調査より良くはありません。」

「監査可能性も重要になります。すべてのAI駆動の決定は、内部ガバナンスの観点からと外部コンプライアンス要件の両方から追跡可能で、説明可能で、レビュー可能である必要があります。 「監査人、規制当局、または経営幹部にAIがアクションを取った理由を説明できない場合、そのアクションを取ることは許可されるべきではありません。説明可能性はあると良いものではなく、自律性の前提条件です」とセケル氏は述べています。

AIのガードレールと原則を実装する

「形式的なガードレールとオペレーティング原則は、AIエージェントが決定に影響を与え、対応を開始し、脅威の優先順位付けを支援するSOCで重要になります。これは、データアクセスとモデルの動作周辺の定義された境界を設定し、応答を検証するプロセスを持つこと、そして人間がすべての影響の大きい決定に関与し続けることを確認することを意味します。」

「焦点領域には、自律型アクションの承認しきい値、エージェントの許可されたアクションと許可されていないアクションの把握、プロンプトインジェクション攻撃からの保護、エージェンティックワークフローのテストとレッドチーミング、およびAI駆動アクションのためのIRポリシーの更新の確保が含まれるべきです。「透明な決定の軌跡、レート制限、最小権限、および即座のオーバーライドを要求します」とセケル氏はアドバイスしています。「アクションスコープ、ブラスト半径、特権の厳しい制限は交渉の余地がありません。エージェントは最小権限のアイデンティティ下で動作し、明示的なキルスイッチ、変更管理の境界、環境認識を備えています。重要なのは、AIが人間の承認なしに自身の権限を自動的にエスカレーションしたりガードレールを変更することが許可されないようにすることです。」

「IDCアナリストのディクソン氏は、アイデンティティとアクセスをガードレールとポリシーを通じて焦点を当てるべき他の2つの領域として指摘しました。「過去に、人間にアクセス権を与えたとき、デフォルトで過剰にプロビジョニングすることがよくありました。そのアプローチはエージェントでは機能しません。エージェンティックAIでは、権限は最小権限で開始し、初日から正確に定義される必要があります。」」

「焦点は、立ち止まっている権限がないことを確保し、動的認可を実装し、明確な役割定義を確立することにあるべきです」とディクソン氏は述べています。「エージェンティックAIは非常に強力です。アクセスを正しく制約することは交渉の余地がありません。」