Corelight、AIエージェントが管理者権限で未レビューのコードを無断実行しうると警告

AIコーディングアシスタントは、設定を一切編集しなくても依存パッケージが変化するMCPサーバーを実行する可能性があります。しかも、こうしたサーバーは管理者の認証情報を保持していることが少なくありません。

この発見は、AIエージェントを使って被害範囲(ブラストラディウス)を分析していたラボ調査から生まれました。エージェントは、管理者のワークステーション上にほかのAIエージェントが存在することに気づきました。侵害の痕跡はありませんでしたが、この構成はサプライチェーンに関する疑問を投げかけるものでした。

あるModel Context Protocol(MCP)サーバーは、特定のコミットからビルドされた特定のリリースを実行するよう設定されていました。

このサーバーはワンステップ実行ツールのuvxで起動されており、環境を再構築するたびにPython Package Index(PyPI)から依存パッケージを解決していました。

5週間のあいだに、同一リリースの19回のビルドから15種類の異なる環境が生まれました。69個のパッケージのうち23個でバージョンが変わり、その中には暗号化ライブラリ、JSON Web Tokenライブラリ、MCPソフトウェア開発キット(SDK)も含まれていました。

メンテナーは7つの直接依存パッケージを固定し、ハッシュ固定のロックファイルも公開していましたが、ランチャーはそのファイルを使っていませんでした。そのため、約60個の間接依存パッケージは毎回新たに解決されていました。

このパターンは、そのサーバーに限った話ではありません。このワークステーションでこの方法により起動されたMCPサーバーは、タグ、PyPIバージョン、コミットのいずれで固定されていても、すべてドリフト(変動)していました。

Corelightはさらに、npmベースのプロキシが「latest」タグで起動されていることも確認しました。調査した35個のMCPサーバーのうち23個は、公開レジストリから依存パッケージを解決するインストール方法を推奨していました。Corelightは、これはセットアップ上の選択の問題であり、MCPの欠陥ではないと強調しています。

CorelightがAIセキュリティの実態を明らかに

すべての依存パッケージはサーバーのプロセスに読み込まれ、APIトークン、ユーザーファイル、ネットワーク経路といったサーバーのアクセス権をそのまま引き継ぎます。

また、アシスタントはセッションのたびにこれらのサーバーを自動的に起動します。そのため、誰もインストールコマンドを実行しなくても、再構築が行われます。

ラボのワークステーションでは、サーバー群が1週間で、ファイアウォール、SIEM、センサー管理など11の管理システムに対して1,600回以上の接続を行っていました。

汚染されたリリースがいかに素早く入り込むかは、最近のインシデントが示しています。xz Utilsのバックドア(CVE-2024-3094)、UltralyticsのPyPI侵害、ローカルのAIアシスタントツールを悪用したNxの「s1ngularity」攻撃などがその例です。

Shai-HuludワームもAIアシスタントのキーを標的にしました。悪意あるバージョンが公開されている時間はわずか数分の場合もあるため、自動再構築の頻度が高いほど、それを取り込む可能性も高まります。

Corelightはまた、mcp-remoteプロキシに存在するCVSS 9.6のコマンドインジェクションの脆弱性にも言及しています。この脆弱性はバージョン0.0.5から0.1.15までが対象で、0.1.16で修正されました。

Corelightの手法は、複数の証拠を積み重ねるものです。Zeekベースのネットワーク証拠からDNSログとTLSサーバー名を調べたところ、4台の候補ホストが浮上し、認証情報の露出度で順位付けした結果、管理者のワークステーションが最上位になりました。

続いて、エンドポイント検出・対応(EDR)のテレメトリにより、各接続とその背後にあるプロセスが結び付けられました。

このワークステーションは1週間で、GitHubへの203回、PyPIへの136回の接続を行っていました。これらは2つのAIアシスタントがランチャー経由で開始したものです。キャッシュフォルダを数えると、30日間でサーバーごとに17〜21回の再構築が行われていたことがわかりました。

Corelightは、レジストリへの接続はあくまで手がかりにすぎず、ドリフトの証拠となるのはインストールされたバージョンだと注意を促しています。

対策は、リリースだけでなく環境そのものを固定することです。具体的には、タグではなくコミットに固定する、ハッシュ固定のロックファイルから専用環境にインストールする、サーバーを直接起動する、起動時の更新チェックを無効にする、といった措置です。

固定した5つのサーバーを2週間で457回起動したところ、パッケージ一覧はインストール当日の記録と完全に一致していました。起動時間も、従来の4〜11秒から約2秒に短縮されました。

ただし、固定しただけで管理責任が不要になるわけではありません。固定したコミュニティ製サーバーでは、40個のパッケージが、その日にランチャーが取得したであろうバージョンより古くなっていました。そのため、担当者を明確に決め、定期的にロックの更新、レビュー、スキャンを行う必要があります。

Corelightはさらに、可能な限り、各サーバーを読み取り専用かつ短期間のみ有効な認証情報に限定するよう促しています。メンテナーに対しては、ハッシュ固定の要件ファイルの公開、バージョン範囲の制限、プロキシの固定、起動時のネットワーク動作の文書化を推奨しています。

平均復旧時間(MTTR)を21分短縮し、サイバー脅威を被害が出る前に阻止。ANYRUNのSandboxをSOCに導入。

監査セキュリティ

翻訳元: https://gbhackers.com/corelight-reveals-ai-security/

本記事は gbhackers.com の記事を翻訳・要約したものです。