AI世界の「結合組織」が危険なほど脆弱であるとCiscoが警告

ダイブブリーフ:

• AIエコシステムの「結合組織」（Model Context ProtocolおよびAIエージェントが通信できるようにするその他のツール）の脆弱性は、「広大でしばしば監視されていない攻撃対象領域」を生成しており、ハッカーがAIを使用してサイバー攻撃を開始しやすくしているとCiscoは木曜日に発表したレポートで述べています。
• Ciscoは、AIツールが「人間の代わりにプロセスを実行し、データベースにアクセスし、コードをプッシュする」能力の向上が支配的なAIリスクになったと述べ、企業がAIに「重要なビジネス機能の監督されない制御」を与えないよう警告しています。
• 新しいレポートではまた、国家レベルのハッカーによるAIの利用について説明し、企業に潜在的なAIサプライチェーン危機について警告しています。

ダイブインサイト:

ハッカーによるAIツールの悪用は大きな公開注目を集めていますが、MCPの脆弱性がその悪用をどのように悪化させる可能性があるかを理解している経営者はほとんどいません。

MCPはAnthropicが2024年に導入して以来、AIモデルを外部データソースに接続するための事実上の標準になっています。しかし、過去数年間、理論的および実世界の攻撃がプロトコルの欠陥を悪用しています。Ciscoはホワイトボード上でのチャット流出、リモートコード実行、および不正なファイルアクセスに関連する例を強調しました。

レポートで強調されている別のケースでは、攻撃者はPostmarkメールプラットフォーム用のMCP統合のように見えるように設計された悪意のあるパッケージを公開しました。「エージェントを通じて送信されるすべてのメールをブラインドカーボンコピー（BCC）して攻撃者が管理するアドレスに送信しました。」とCisco研究者は述べています。「AIエージェントは多くの場合、機密通信（請求書、パスワードリセット、社内メモ）で信頼されているため、このような悪意のあるツールは、攻撃者が機密データの宝庫を静かに収集することを可能にする可能性があります。」

今後、Ciscoは「組織はMCPサーバー、エージェントツールレジストリ、およびコンテキストブローカーをAPIゲートウェイまたはデータベースと同じように強化されたアプローチで扱い始めるべき」と述べています。同社は、AIモデルに必要最小限の権限を提供するAPIを使用し、AIエージェントのアクティビティを密に監視することなど、MCPセキュリティのベストプラクティスを確立するよう企業に促しました。

Postmarkパッケージのインシデントは、より広い関連するAIリスク（サプライチェーン侵害）を強調しました。ロシアのハッカーが広く使用されているIT管理プラットフォームを破壊したSolarWinds危機と同様に、Ciscoは「ソースで広く使用されているAIライブラリまたは基盤モデルが侵害されるという調整された大規模なサプライチェーン攻撃」（Hugging Faceのようなプラットフォームの署名キーの盗難など、悪意のあるモデル更新の配布につながったもの）が「深刻な影響」を及ぼし、「業界と政府の行動を強制する」可能性があると述べています。

そのような危機が緊急措置を引き起こすまで、Ciscoは「この新しいエージェント型エコシステムに対するセキュリティプロトコルとアプローチを定義する相対的な成熟度の低さ」により、企業にとってAIエージェントを安全に使用して生産性を向上させることが難しくなると述べています。

Ciscoはまた、AI企業がプロンプトインジェクション攻撃の検出に優れるようになるにつれて、ハッカーが「[AI]モデルのメモリの深くに移動」し、さまざまな形の操作に従事すると予測しています。同社は「ベクトル埋め込み攻撃」の例を挙げました。この攻撃では、ハッカーがAIモデルが後で使用するために新たに学習した情報を保存するベクターデータベースを改ざんします。

研究者はまた、国家グループの高度なAI悪用技術がサイバー犯罪エコシステムにフィルタリングされ、「エンドツーエンドのハックを実行するためにレンタルできるダークウェブ上の自動化されたまたはカスタムエージェント型サービスの出現」につながると予想しています。

「これは高度なサイバー能力を民主化します。」とCiscoは警告し、「ディフェンダーを機械速度の攻撃で氾濫させます。」と述べています。