エージェント型セキュリティ:AIエージェントへの信頼をどう構築するか

組織がAIエージェントによるセキュリティ運用の自動化をどう評価するかをめぐり、エージェント型セキュリティはサイバーセキュリティ業界で最も注目される議論の一つになりつつあります。

もはや論点は、AIがセキュリティオペレーションセンター(SOC)に導入されるべきかどうかではなく、本番環境での意思決定をAIエージェントに委ねられるかどうかに移っています。

脅威アクターはすでにAIを活用し、フィッシングキャンペーンや偵察、マルウェア開発を加速させており、攻撃はマシンスピードで展開されるようになっています。

一方、多くの防御側はいまだにはるかに遅い時代に設計されたワークフローに依存しているのが実情です。

Strike48のState of Agentic Securityレポートによると、セキュリティ責任者の84%はAIエージェントがレベル1(L1)のセキュリティ運用を担うべきだと考えている一方、実際に本番環境でユースケースを一つでも導入済みなのはわずか36%、基本的なL1タスクの自動化準備ができていると答えたのは22%にとどまっています。

このギャップこそが、今日のエージェント型セキュリティが直面する最大の課題を浮き彫りにしています。それは「信頼」です。

Strike48の創業者兼戦略・運用担当バイスプレジデントであるTim Leehealey氏は、経営層の支持が高まっているにもかかわらず、企業導入は依然として実験段階にとどまっていると述べています。

「一度チームがエージェントをテストし、実際の行動を任せられると確認できれば、状況は一変します」とLeehealey氏は説明します。「AIエージェントを立ち上げること自体は簡単です。しかし、午前3時に監視なしで実際の行動を任せられるほど信頼できるエージェントを構築するのは、まったく次元の異なる話です」

AIエージェントセキュリティの重要ポイント

• エージェント型セキュリティの導入は加速しているが、信頼が依然として最大の障壁である。セキュリティ責任者の84%がAIエージェントにレベル1のセキュリティ運用を任せるべきだと考えている一方、実際に本番導入しているのは36%にとどまり、基本的なL1タスクの自動化準備ができているのは22%のみ。
• 組織はリスクの低いSOCワークフローから着手すべき。アラートのトリアージ、脅威ハンティング、調査はAIエージェントに最も適したセキュリティ運用であり、リスクの高い対応には引き続き人間の監視が求められる。
• データの可視性は効果的なAIエージェントに不可欠。セキュリティテレメトリへのアクセスが不完全だと、AIエージェントが正確な判断を下す能力が制限されるため、統合された可視性はエージェント型セキュリティの基盤要件となる。
• 信頼は統治(ガバナンス)と透明性を通じて獲得する必要がある。決定論的なワークフロー、監査証跡、説明可能な意思決定プロセス、設定可能な人による監視により、組織は業務上のリスクを抑えながら安心してAIエージェントを導入できるようになる。

なぜ信頼がエージェント型セキュリティ最大の課題なのか

多くのセキュリティ責任者は、特に反復的で大量に発生するセキュリティ運用において、AIエージェントがもたらしうる業務上のメリットを認識しています。

しかし、自律的な意思決定に対する信頼はいまだ限定的です。

Strike48の調査によると、組織の52%がAIエージェントを広範に導入していない主な理由として、AIの出力に対する信頼の不足を挙げています。

セキュリティ責任者は、エージェントが意図しない、あるいは有害な行動を取ること(71%)、誤った結論を幻覚として生成すること(69%)、不完全なデータに基づいて判断を下すこと(57%)を懸念しています。

Leehealey氏は、こうした懸念はまったく合理的なものだと考えています。

「エージェントが間違っているとき、彼らは自信満々に振る舞います」と同氏は述べます。「たった一度の自信に満ちた誤答で、アナリストはそのエージェントの回答をすべて信じなくなってしまいます。ここでの信頼は感情の問題ではなく、エンジニアリングの問題なのです」

Leehealey氏は、組織にAIを盲目的に信頼するよう求めるのではなく、ベンダー側が決定論的なワークフロー、透明性のある推論プロセス、完全な監査証跡、明確に定義されたガードレールを通じて信頼を獲得できるエージェント型セキュリティプラットフォームを構築すべきだと提案しています。

AIエージェントになお人による監視が必要な理由

AIが誤りを犯すという事例は、自律的なセキュリティ運用に対する懸念をさらに強めています。

しかしLeehealey氏は、こうした事例の多くは基盤となる技術の欠陥というよりも、非現実的な期待の表れであると主張します。

「エージェントに技術的な正確さを求めるなら、決定論的なワークフローやツールセット、スクリプト、プレイブックと組み合わせる必要があります」と同氏は述べます。

人間を完全に排除するのではなく、組織はLeehealey氏が言うところの「human in the loop(人間がループの内側にいる)」ではなく「human on the loop(人間がループを監督する)」へと発想を転換すべきだとしています。

セキュリティチームはガバナンスポリシーを策定し、どの操作に承認が必要かを定め、リスクの低い反復作業はAIエージェントに任せつつ、結果を継続的に監視していきます。

このアプローチにより、組織はリスクの高い意思決定については人による監視を維持しつつ、段階的に自動化の範囲を広げていくことができ、信頼できるSOC自動化への現実的な道筋を築くことができます。

SOCにおけるAIエージェント導入はどこから始めるべきか

セキュリティ責任者たちは、AIエージェントが即座に価値を発揮できる領域について、おおむね意見が一致しているようです。

調査によると、60%がまずアラートのトリアージと優先順位付けを自動化したいと回答し、次いで過去データを対象とした脅威ハンティング(39%)、調査および根本原因分析(36%)が続きました。

これらのSOCワークフローは、取り返しのつかない業務上の判断を下すというよりも、大量の情報を収集・関連付け・要約する作業が中心であるため、AI支援によるセキュリティ運用に適しています。

「封じ込めや、本番環境に影響を及ぼす修復のように、簡単には元に戻せない行動が絡む瞬間には、人間がループに加わる必要があります」とLeehealey氏は述べます。

同氏はまた、周囲のワークフロー全体を見直すことなく、単独のタスクだけを自動化することには注意すべきだと警告しています。

最大の効率化効果が得られるのは、AIエージェントがレベル1またはレベル2のワークフロー全体を完遂し、人間の判断が必要なインシデントのみをエスカレーションできる場合です。

データの可視性はエージェント型セキュリティに不可欠

信頼は方程式の一部にすぎません。同レポートは、エージェント型セキュリティの成功を阻む大きな障害として、データの可視性の問題も指摘しています。

セキュリティ責任者の84%が、現在使用しているセキュリティツールでは利用可能なログデータすべてにアクセスできないと回答しており、65%は自社のツールが到達できないシステム内に重要な情報が閉じ込められていたために調査が停滞した経験があると答えています。

Leehealey氏は、AIエージェントもそれを支えるインフラと同じ死角を引き継いでしまうと指摘します。

「私たちの調査では、セキュリティチームの84%が保有するログデータすべてにアクセスできていないことがわかりました」と同氏は述べます。「不完全な情報の上に構築されたエージェントは、基盤となるインフラと同じ死角をそのまま受け継いでしまいます」

SIEMプラットフォームやクラウド環境、アーカイブ済みログなど各種セキュリティツール全体の可視性を高めることで、AIエージェントは環境全体をより完全な形で把握した上で判断を下せるようになり、死角が減り、自動化されたセキュリティ運用の質も向上します。

本番導入前にAIエージェントをどう評価すべきか

組織は、AIエージェントをセキュリティ運用に参加させる前に、新しく採用したセキュリティアナリストを評価するのと同じ視点で評価すべきです。

Leehealey氏は、エージェントが同一の入力に対して一貫して同じ結果を出せるか、情報が不十分な場合にそれを認識できるか、そして不確実な状況で当て推量に頼らず適切にエスカレーションできるかを検証することを推奨しています。

「私はよく、まだ信頼していない新人アナリストのようにエージェントを扱うことを勧めています」と同氏は述べます。「実際に行動する権限は与えずに判断だけをさせ、自分のチームと比較して評価するのです。信頼できるということは、印象的であることを意味しません。予測可能であることを意味します」

AIの能力が今後さらに成熟するにつれ、Leehealey氏は日常的なL1業務や現在のL2業務の多くがAIエージェントへと移行し、アナリストは調査や意思決定、ガバナンス、より付加価値の高いセキュリティ業務に注力できるようになると予想しています。

もはや組織にとって、エージェント型セキュリティが現代のSOCの一部になるかどうかは議論の対象ではなくなっています。

むしろ課題は、透明性のあるガバナンス、完全なデータの可視性、監査可能なワークフロー、そして段階的な自律性の拡大を通じて、AIエージェントを責任を持って導入していくことにあります。

今日、自社のエージェント型セキュリティ戦略に信頼の構築を組み込んでおく組織こそが、マシンスピードで動くAI活用型の脅威アクターに対し、より優位な立場で防御に臨めるようになるでしょう。

Ken Underhill

Ken Underhill氏は、IT、サイバーセキュリティ、リスク管理の分野で25年以上の経験を持つ、数々の賞を受賞したサイバーセキュリティ専門家であり、ベストセラー著者、テクノロジーリーダーでもあります。そのキャリアはネットワーク管理、インシデント対応、ペネトレーションテスト、起業まで幅広く及び、組織のリスク低減とコンプライアンス確保を現場で支援してきた経験を持ちます。Ken氏は元看護師・元戦闘衛生兵でもあり、この経歴を活かして複雑なサイバーセキュリティのトピックを世界中の幅広い読者にもわかりやすく解説しています。
複数回の事業売却を経験したサイバーセキュリティ起業家として、Ken氏は数十年にわたり組織のセキュリティ態勢強化、リスク管理、複雑な技術課題への対応を支援してきました。専門領域は、包括的なサイバーセキュリティ戦略、クラウドセキュリティ、インシデント対応、リスク管理、セキュリティ意識向上、そして企業に影響を及ぼす新興の脅威まで多岐にわたります。Ken氏はまた、複数のスタートアップに対しAIセキュリティおよびリスクに関するアドバイザーも務めています。
現場での実務経験に加え、Ken氏はTechnologyAdvice社のサイバーセキュリティニュースレター執筆者として、サイバーセキュリティのニュースやトレンド、企業やIT担当者向けの実践的なベストプラクティスを発信しています。教育者としても活動しており、これまで200万人以上が同氏のコースを受講してきました。Global Cybersecurity 40 under 40を2度受賞したほか、Women’s Society of CyberjutsuよりCyber Champion賞、2019年にはSC Media Awardの優秀教育者賞を受賞しています。また、Minorities in Cybersecurity、Black Girls Hack、退役軍人のセキュリティ職への転身を支援するWhole Cyber Human Initiativeといった団体でボランティア活動も行っています。
Ken氏はWestern Governors Universityでサイバーセキュリティ・情報保証の理学修士号を、Strayer Universityで情報システム学(サイバーセキュリティ管理専攻)の理学士号を取得しています。保有資格にはCertificate of Cloud Security Knowledge(CCSK)、Certified Ethical Hacker(CEH)、Computer Hacking Forensic Investigator(CHFI)があり、デジタルフォレンジックの非常勤教授も務めた経験があります。また2020年から2022年にかけては、世界中で月間20万人以上の視聴者を集めたサイバーセキュリティ関連のストリーミングテレビ番組にも出演していました。
その実績と専門性は、Forbes、Reader’s Digest、Medium、TechRepublic、Fox、NBC、CBS、Dark Reading、MSN Moneyをはじめとする主要メディアで数多く取り上げられており、サイバーセキュリティ、選挙セキュリティ、プライバシーの分野で信頼される発言者として知られています。