エージェンティックAIがガートナーのSRMサミットを席巻

出典: Tanapong Sungkaew via Alamy Stock Photo

ガートナー セキュリティ & リスク マネジメント サミット – ワシントンD.C. – 意思決定者の間でエージェンティックAIへの関心が非常に高まっているようです。重要なセキュリティの懸念が残っているにもかかわらず。

今週、ガートナーはエグゼクティブ、最高情報セキュリティ責任者（CISO）、およびそのセキュリティチーム向けにセキュリティ & リスク マネジメント サミットを開催しました。2022年後半以降のどのセキュリティトレードショーでも予想されるように、生成AIは会議セッションや展示フロアで大きな焦点となっていました。

しかし、ここ数年見られてきた自動化された脅威インテリジェンスや脆弱性修正機能に加えて、エージェンティックAIに大きな重点が置かれていました。これは、「記憶」を持つユーザー向けの特権インスタンスやエージェントを特徴とし、以前の行動に基づいて意思決定を行います。これらのエージェントは、一般的に脆弱性修正、コンプライアンス、脅威検出、インシデント対応の分野で、環境から収集したデータに基づいて自動的に行動を起こします。

現在、AIエージェントはセキュリティオペレーションセンター（SOC）の付属物として、簡単な作業や繰り返しのタスクを引き受け、人間の分析者のために大きな仕事を解放しています。しかし、過去数年でセキュリティ市場に参入したすべてのAI製品と同様に、導入は急速に進んでいます。しかし、多くの懸念もあります。

関連記事:マルチリージョンクラウドアーキテクチャのセキュリティの落とし穴と解決策

エージェンティックAIの熱狂

サミットのスケジュールには、複数のAIをテーマにしたプレゼンテーションが重なっていることが珍しくなく、意思決定者の間でこれらの製品に対するかなりの関心を示唆しています。

ガートナーの副社長で著名なアナリストであるポール・プロクターは、Dark Readingに対し、エージェンティックAIに関する「クライアントの関心は非常に高い」と述べ、「みんながそれについて尋ねている」と語っています。

ガートナーは本日、「147人のCIOおよびIT機能リーダー」を対象にした最近の調査結果を詳述したプレスリリースを発表しました。結果によると、24%がすでに1つ以上、12未満のAIエージェントを導入しており、4%の回答者が12以上を導入していました。一方、50%以上が技術の研究や実験を行っていると述べています。

ペネトレーションテスト企業Synackの製品管理およびマーケティング担当上級副社長であるジェフ・バーカーは、AIエージェントを製品のスコーププロセスの一部として利用している同社が、スタッフと予算の制約に苦しむセキュリティ分野で、購入者と販売者がエージェントを攻撃面をよりよくカバーする機会と見ていると説明しています。

現在のセキュリティエージェントの状態が主に以前のものの再パッケージ化であるかどうか尋ねられた際、バーカーは現時点ではそのように見えることを認めていますが、提供が革新されるにつれて変わる可能性があると付け加えています。

関連記事:CISAがCommvault SaaS環境を標的とした攻撃を警告

「彼らが人間のように学習し適応する段階にはまだ達していません」と彼は言います。「最初に人々が見るのは多くの再パッケージ化のように見えるでしょう。しかし、私たちは再パッケージ化を超えて、新しく興味深いことをできるようになる道を進んでいます。ステップ1は、難しく、時間がかかり、人間中心のものを自動化してスケールし、それに基づいて構築できるようにすることです。」

懸念への対応

現在のAIエージェントは、以前のLLM駆動のセキュリティ技術の統合であるため、プロンプトインジェクションは特に危険な脅威であり、これらのエージェントが「彼らの」仕事を効果的に行うために必要な固有のアクセスと組み合わさっています。

Palo Alto Networksの製品担当上級副社長であるリッチ・カンパーニャは、脅威アクターがエージェントの権限を悪用して、ターゲット組織内で攻撃者の命令を実行させることを目指していると述べています。これにより、攻撃者がCRMのようなものに管理者権限を得ることができれば、破壊的な攻撃が発生する可能性があります。

もう一つの攻撃ベクトルは、カンパーニャが「メモリ操作」と呼ぶもので、エージェントに覚えてはいけないことを覚えさせることで、攻撃者がガードレールをオーバーライドできるようにすることです。「エージェントには、しばしば内部システムがこの種のよく構造化された権限で構築されていないため、非常に大きな権限の問題が迫っているという組み合わせがあります」と彼は言います。

関連記事:『Hazy Hawk』サイバー犯罪ギャングがクラウドリソースを狙う

したがって、「ガーディアン」または「アンビエント」エージェントのための新たなスペースが生まれているのは理にかなっています。これらは、他のAIエージェントが既存のポリシーコントロールを遵守していることを確認する二次的なエージェントです。言い換えれば、他のAIエージェントを監視するAIエージェントです。今日のガートナーのリリースで、アナリスト企業はガーディアンエージェントが2030年までにAIエージェント市場の10%から15%を占めると予測しました。

Salesforceのセキュリティ、プライバシー、データ保護担当製品管理副社長であるマルラ・ヘイは、同社がAIエージェントを権限を持つエンティティとして扱うことに注力していると述べています。Salesforceは、エージェンティックAIに多大な投資を行っている数多くのテクノロジー大手の一つです。

「私たちが注目しているのは、ゼロトラストや最小特権アクセスのようなものをどのようにして顧客に提供するかです」とヘイは言います。「私たちは非常に厳密で詳細な権限レベルを持っているので、それらが人々に適用されるようにエージェントにも適用されることを確認するだけでなく、顧客が人々のエージェントを並行して追跡するのを支援しています。」

ガートナーの月曜日のオープニング基調講演では、セキュリティ分野の誇大広告とそれをセキュリティチームの機会に変える方法について議論しました。議論の約半分は、近年のAIセキュリティツールの進化に捧げられました。ガートナーの著名な副社長アナリストであるLeigh McMullenとKatell Thielemannは、多くのセキュリティアナリストやCISOがすでにAIに幻滅しているかもしれないが、意思決定者がこれらのツールを積極的に追求しているのは明らかであるため、無視することはできないと指摘しました。