論説
脅威の量と現代のデジタル攻撃面の複雑さを考えると、サイバーセキュリティチームが圧倒されているのも当然です。リスクは人間が修復に必要な能力を上回っています。攻撃者がAIによる自動化を取り入れる中で、脆弱性の数は急増し、企業内の脅威や露出を検出・排除するために必要なツールの数も手に負えないものとなっています。
脆弱性や露出を発見し修復するまでの平均時間は悪化しており、今日の企業は時間とともに複利的に増大するセキュリティ負債に埋もれています。CVE.ICUのこのグラフィックが端的に示しているように、私たちはリスクに埋もれており、唯一の脱出方法はAI駆動の自動化しかありません。
CVEの増加。出典：Jerry Gamblin, CVE.ICU
この問題をスケールアウトできる唯一の方法は、AIを使ってリスク低減プロセスに存在する人間のボトルネックを自動化することです。ベンチャーキャピタル市場は、サイバーセキュリティ関連のAI企業に莫大な資金を投入しています。Return on Securityニュースレターの創設者であるMike Privette氏の調査によると、AIに特化したサイバーセキュリティ投資は2023年（1億8,150万ドル）から2024年（3億6,990万ドル）で2倍になりました。この調査での「AIセキュリティ」の定義が厳密であることを考えると、この数字は過小評価かもしれませんが、AIがサイバーセキュリティの有効性に最も広範な影響をもたらすと投資家が考えていることを示すには十分です。
しかし、ここに問題があります。脅威と露出管理における自動修復に関するOmdia Researchの調査は、重大なパラドックスを明らかにしています。私たちはAI駆動の脆弱性修復を支援するツールを作り出している一方で、それに十分な自由を与えることをいまだにためらっています。レースカーを買っても、エンジンにスピードリミッターを付けたままにしているようなものです。問題は、自動修復に対する根本的な信頼の欠如です。
なぜAIサイバーセキュリティに賭けるべきか
AIは、現在の人間のアナリストだけでは達成できない多くのことをもたらします。AIは、非AIシステムでは扱えない、少なくとも同じ量や速度では扱えないデータポイントを活用できます。幅広い資産、露出、脅威、リスクデータに基づいて構築されたAIシステムは、人間の分析だけでは困難、あるいは不可能な高度なリスクの行動パターンを見つけることができます。
AIを活用することで、私たちはようやく分析能力を拡張し、保護対象とそれに影響を与える状態や行動との間のコンテキスト関係を見つけることができます。その結果、従来の方法よりも正確なリスクスコアリングと優先順位付けが可能となり、リアルタイムの露出検出、正確なリスク優先順位付け、そして最も重要な自動修復能力といった成果を達成することが目標となります。もし私たちがシステムの実行を信頼し始めれば、目の前には大きな可能性が広がっています。
信頼危機の解明
しかし、AIベースのサイバーセキュリティプラットフォームの導入競争において、すべてが順風満帆というわけではありません。現在、セキュリティやインフラのリーダーたちは、AIの推奨や修復能力に信頼を置くことに対して否定的な反応を示しています。このAIへの恐怖は非合理的ではありません。実務者たちは「ブラックボックス」や説明できないもの、AIの「魔法」のような結果を恐れています。AIの結果に透明性や説明可能性がない技術は、懐疑的で経験豊富なサイバーセキュリティ専門家にとっては論外です。
意図しない結果への現実的な恐れがあります。自動修復にとって究極の障壁は、「もしAIの『修正』が本番アプリケーションをダウンさせたらどうする？」という疑問です。今日、企業のサイバーセキュリティリーダーはAIサイバーセキュリティ技術を導入していますが、それを野放しにはしていません。特定の場所やシステムに展開し、影響の小さい低リスクのパッチ適用に集中し、AIエージェントが自動でできることに制限を設けています。
正直なところ、私は彼らを責めません。私たちはこの能力の黎明期にあり、もし人間を使っていれば起こらなかったような混乱を引き起こす暴走エージェントなど、誰も望んでいません。エージェント型システムの実行に関しては、明らかな信頼危機があります。
「人間が介在」から「人間によるAIのオーケストレーション」へ
エージェント型AI修復への信頼の欠如は、2000年にWindows自動更新機能が最初に導入されたときを思い出させます。ほぼすべてのITおよびセキュリティチームの即座の反応は「自動修復なんてとんでもない—壊れるに決まってる！」というものでした。そして最初は実際に壊れました。しかし、時間が経つにつれて改善され、問題も減り、最終的にはシステムを最新かつ安全に保つ非常に効果的な方法となりました。導入は信頼が得られるにつれて進み、パッチ適用の結果も一貫して安定しました。つまり、信頼は「獲得」されたのです。
エージェント型AIサイバーセキュリティ修復の世界で信頼された導入への道を実現するには、組織は「這う」「歩く」「走る」の段階を踏む必要があります。
第1段階（這う）：説明可能性の義務化。これが現在多くの企業がAIサイバーセキュリティ導入でいる段階です。AIは検出、優先順位付け、推奨のみで使用し、自動修復機能は信頼を築くまで無視します。AIシステムの意思決定に関する完全な透明性をセキュリティ技術ベンダーに求め、推奨事項の説明可能性を深く掘り下げてください。出力を徹底的に検証し、正確性を確保しましょう。
第2段階（歩く）：監督付き自動化。修復のための「人間による承認」ワークフローを導入します。実際の問題を解決する重要なアクションに集中し、プロセスに人間の監督を付けてAIエージェントの実行リスクを低減します。これは人間のボトルネックを生みますが、AIシステムへの信頼が構築されるにつれて徐々に減らしていきます。まずは低リスクの修正を自動化し、徐々に高リスクの修復へと進めましょう。コードレベルやIDの変更を検討する前に、基礎的なパッチ適用や設定変更から始めてください。
第3段階（走る）：ポリシー駆動の自律性。これが「人間が介在する」最終形です。時間が経つにつれて第3段階に移行し、人間はすべてのアクションを承認するのではなく、AIシステム内でポリシーやガードレールを設定する役割となります。エージェント型AIオペレーターはガイドラインを参照し、それに従って適切かつ安全な運用を実現します。
この段階ではSOCアナリストの役割が完全に変わります。SOCアナリストはもはや日々の戦術的な実行業務を直接担当せず、自律的に実行するAIエージェントの軍団をオーケストレーションする役割を担います。これにより、自己修復システムという長期目標に近づくことができます。SOCアナリストは、AIエージェントがまだ対応できない複雑なエッジケースに集中し、これらの問題を解決するためのAIトレーニングやチューニングの専門家となるでしょう。
本当のROIは人材の解放にある
サイバーセキュリティでAIを活用する最大の障壁は技術そのものではなく、タスクの実行をAIに任せることへの信頼です。この恐怖を克服するには、新技術への信頼構築に焦点を当てた段階的なアプローチが必要です。エージェント型AIをサイバーセキュリティプログラムに導入する本当のROIは、削減された人員数ではなく、現在の人員で達成できるレベルの向上で測られるべきです。
最も価値あるリソースやセキュリティ専門家を日々の雑務から解放し、機械ではまだ対応できない新規で複雑な脅威に集中できるようにすることが重要です。AIエージェントがセキュリティチームの日常業務を担う世界が近づく中で、あなたに一つ質問したいと思います。「今日、あなたの環境でAIプラットフォームに任せるのが最も怖い自動修復アクションは何であり、それはなぜですか？」そこから、エージェントへの信頼を高めて最終的にその怖くて難しい問題を解決する道筋を計画しましょう。
時間が経つにつれて、これらの恐怖は解消され、これまでにないほどスケールする高効率なAI駆動のサイバーセキュリティプログラムが実現します。その結果、リスクは実際に減少し、セキュリティ負債のグラフも減少していくでしょう。
