AnthropicがClaude Mythos Previewを発表した際、それがもたらすサイバー上の巨大なリスクに気付き、公開リリースには危険すぎると判断しました。このモデルはソフトウェアの脆弱性を剃刀のような正確さで特定・悪用でき、悪意のある手に渡れば、世界中の組織に致命的な被害をもたらす可能性があります。このモデルはAIにおけるもう一つの大きな進歩ですが、自律的に計画、決定、タスクを実行できる高度なエージェントAIシステムの台頭に再び注目が集まっています。
セキュリティチームは、人間の介入なしに脆弱性を発見し、大規模な攻撃を実行するように構成された脅威モデルと戦わなければなりません。Mythosで見てきたように、これらのシステムは実験段階にありません。AIの悪質な使用についての議論が1,500%増加しているという事実は、エージェントAIフレームワークが実運用されていることを示唆しています。
懸念されるのは攻撃の頻度だけではありません。エージェントAIの急速な採用は、既に高い数の脆弱性をさらに増加させることになります。発見が自動化されるにつれて、組織はゼロデイ悪用と新たに開示されたCVEの急増に直面し、継続的な被害が生じることになります。
このような進化する脅威シナリオにより、同等の自律性を持つエージェントAIの防御対策が台頭することを余儀なくされています。
従来のセキュリティは不十分である
現代のITエコシステムは非常に分散されており、クラウドワークロード、支店、遠隔ユーザー、エッジデバイスなど多くの要素にまたがっています。このような環境のサイバーセキュリティカバレッジには、通常、ファイアウォール、VPNゲートウェイ、および関連サービスが含まれます。セキュリティフレームワークは新しい脅威に追いつこうとしており、既に膨大に増えているツール群にさらに追加するため、断片化が進んでいます。このような環境は複数のセキュリティレイヤーにわたってシグナルの混合を生成し、シグナルの相関を取り、洗練された攻撃を防ぐことが困難になっています。
エージェントAIは、チームが強力なセキュリティ体制を構築することをより困難にしています。彼らは現在、脆弱性を探索し続けるエージェントAI攻撃チェーンに対抗し、脆弱性を特定した後、遭遇した防御に基づいて自動的にピボットできる動的で順序立った攻撃を組み立てなければなりません。そしてこれがすべてではありません。このような攻撃は機械速度で発生するため、停止することが困難です。
この脅威環境に対してさらに多くのツールを投入することは答えではありません。それは単により多くの断片化につながり、AI駆動のサイバー脅威に好機を与えて脆弱性を作成させます。必要なのは異なるセキュリティの基盤です。
AI時代のための新しいセキュリティアーキテクチャ
AI時代のための新しいセキュリティフレームワークは、3つの重要な柱に基づくべきです：可視性、コンテキスト、自律的制御です。
ネットワーク可視性：分散環境で開始された攻撃は、ITインフラストラクチャのユーザー、アプリケーション、クラウドサービスに容易に広がる可能性があります。単一の要素に基づいて攻撃を検出することは不可能です。統一されたネットワークが必要です。そのネットワークは、時間の経過とともにすべてのドメイン全体のトラフィックをキャプチャして検査することで、攻撃ライフサイクル全体への完全な可視性を提供するものです。
プラットフォームコンテキスト：しかし、コンテキストのない可視性はインテリジェンスではなくノイズを生成します。焦点は何が起こっているかを理解することにあり、統合プラットフォームはセキュリティとネットワークデータを単一のウィンドウで相関させることでそれを助けます。事後に個別のツールからのシグナルをつなぎ合わせるのではなく。このアーキテクチャモデルにより、コンテキストが提供されるだけでなく、必要に応じて後で再構成するためにリアルタイムで保持されることが保証されます。AI攻撃は、孤立したときは無害に見える低シグナルアクティビティで始まりますが、特定されたコンテキストがあれば、より大きな攻撃シーケンスの一部として認識できます。これが実行可能なインテリジェンスです。
エージェント的制御：攻撃者が自律的になり、自分の意志で攻撃をスケールでき、かつ高速で実行できるようになるにつれて、防御メカニズムも機械速度で動作する必要があります。エージェントシステムは、アクティビティを継続的に分析し、新しいパターンを識別し、動的に保護を生成できます。遅く、面倒な人間主導の対応は、リアルタイムで対応するセキュリティに置き換わります。これを自動化と間違えないでください。これが私が防御における自律性と呼ぶものです。
エージェントシステムは、拡張されたパターン全体でアクティビティを相関させ続け、無害に見えるパターンを識別しますが、時間をかけてそれらを見続けるにつれて、それらの重要性を認識します。攻撃者が低シグナルアクションで机の下に隠れようとし、それが重大なインシデントに至る脅威の劇場では、継続的な行動分析がそのような脅威に対応するために重要です。
新しい脅威環境のためのエージェント駆動防御
従来のエンタープライズ防御は、自律的な攻撃によって主導される脅威環境から保護することができません。手動調査または人間主導のエスカレーションは、単に追いつくだけです。将来に対応したエンタープライズ防御は、機械速度で日々のセキュリティ運用を可能にするエージェント駆動、AI駆動システムであるべきです。このフレームワークは、新しい脅威が開示された瞬間に自動的に保護を生成して実施し、CVE公開と修復の間のギャップを埋める同日脆弱性保護エージェントによって最もよく機能します。また、攻撃チェーンがエスカレートする前に未知の攻撃の初期兆候を継続的に分析し、動的に保護を作成して展開するゼロデイ攻撃保護エージェントも含むことができます。これらのエージェントが一緒になることで、エンタープライズ防御の検出、解釈、対応がより継続的で、調整され、即時になります。
完全なライフサイクル可視性、リアルタイムコンテキストインテリジェンス、自律的制御が一緒になると、根本的に新しい種類の軽減を可能にします。エージェント駆動の防御者が、エージェント駆動の攻撃者と速度、規模、継続的適応において同等になり、それらの能力を悪用ではなく保護に向けることを可能にします。
翻訳元: https://www.securityweek.com/the-mythos-moment-enterprises-must-fight-agents-with-agents/
