暴走するAIエージェントがMSPを脅かす

概要

自律システムは、既存のサイバーセキュリティサービスモデルでは保護するよう設計されていない攻撃対象領域となっている。

初出

概要:

• マネージドセキュリティサービスプロバイダーのAkati Sekurityによるレポートによれば、AIエージェントは内部者によるサイバーセキュリティ脅威の40%に関与している。
• 平均的な企業では非人間のIDが人間を144対1で上回り、ITチーム、サービスプロバイダー、ベンダーはいずれも防御の備えが不十分な攻撃対象領域を形成していると、AkatiのCEOであるクリシュナ・ラジャゴパル氏はChannel Diveに語った。
• 「[パートナーは] LLMが安全であることを確認し、評価を行い、MCPサーバーのセキュリティを見ています。しかし、そこには小さな虫――文字どおりエージェンティックなエージェント――がいて、暴走する可能性があります。ひとたび暴走すれば、現時点でほとんどのMSPやMSSPにはそれに対する答えがありません」とラジャゴパル氏は述べた。

分析:

Akatiが提示する「内部者」という観点は、AIベースのサイバーセキュリティ脅威を社内起点で捉え直すものだ。脅威アクターが生成AIを利用して、フィッシングやソーシャルエンジニアリングを大規模に実行することはよく知られている。Akatiは、サイバー犯罪者が企業内のエージェントを悪用するようになると警告している。

「クラウド上でGPUを動かす生成AIの実装があるなら、彼らはそこに相乗りして、自分たちのクエリを走らせるために使いたがるのです」とラジャゴパル氏は語った。

Anthropicが昨秋に阻止したサイバー諜報キャンペーンは、AIプラットフォームをトロイの木馬として利用するサプライチェーン攻撃の前兆となり得る。国家関与のグループがClaudeのAIコーディングエージェントに侵入し、このLLMを利用する20以上の組織への侵害を試みた。

ラジャゴパル氏は、ハッカーが概念実証（PoC）作戦を実行していたと見ている。

「彼らは、潜在的に何ができるのか、どこまで大きくできるのか、そして別のSolarWinds型サプライチェーン攻撃を仕掛ける場合に、どの程度の規模とスピードでできるのかを探っていたのだと思います」と同氏は述べた。

2020年のSolarWinds侵害は、IT管理とリモート監視のために同プラットフォームを利用していたMSPに壊滅的な影響を与えた。MSPとMSSPが社内チームや顧客向けにエージェントを開発する中、警戒が必要だ。

既存のサービスモデルは非人間のIDを想定しておらず、セキュリティオペレーションセンターを支えるソフトウェアベンダーも同様だと、ラジャゴパル氏は警鐘を鳴らす。ユーザー行動分析は、エージェント行動分析へと進化しなければならない。

「MSSPはこれまで、従業員から組織を守り、支援することに注力してきました」とラジャゴパル氏は語る。「当社の価格モデルは従業員単位、デバイス単位で、人間を中心に据えてきました。しかし非人間が爆発的に増える中で、MSPとMSSPに伝えたいのは、今こそ二つの面で自らを備えるべき時だということです。」 

Akatiは、暴走エージェントの脅威を軽減するための12カ月のロードマップ（同社自身が実行したもの）を示した。 

最初の30日で、パートナーは組織内のすべての非人間IDの完全な棚卸しを行い、高い権限を持つエージェントを監査し、ブロックリスト用のプロンプトを設定すべきだ。次の60日では、エージェントの意思決定ログを記録するパイプラインを展開し、暴走エージェント向けのインシデント対応手順を策定し、エージェントにジャストインタイムのアクセスを付与すべきだという。

ラジャゴパル氏は、将来の内部脅威が人間の悪意ではなくAIシステムへの人間の信頼に起因し得ることを示すMITRE Atlas Frameworkに、サービスプロバイダーが習熟するよう促した。

「この攻撃チェーンは爆発的に増えると思いますし、2026年にはさらに多く目にすることになるでしょう」とラジャゴパル氏は述べた。