PyPI上のMicrosoft製AIエージェントSDKの悪意あるバージョン2件が、削除されるまでの間にシークレットを収集し、ビルドパイプラインに新たなクラウドトークンを要求していました。
複数のセキュリティ研究者によると、攻撃者はPyPI上のMicrosoft公式Agent Frameworkパッケージを一時的に乗っ取り、認証情報を窃取するマルウェアの配布に悪用しました。このマルウェアは、開発者のワークステーションや自動ビルドシステムから、クラウドトークン、開発者のシークレット、CI/CDの認証情報を収集する能力を備えています。
パッケージの悪意あるバージョン1.26.1と1.26.2は、11月17日にPyPIに登場し、公開されていた時間は1時間足らずでした。
このリリースを警告したセキュリティ企業の一つであるOX Securityは、ブログ記事で次のように述べています。「このパッケージは認証情報窃取型です。環境変数に含まれるシークレット、クラウドやパッケージマネージャーの認証情報、AzureのマネージドIDトークンを収集し、攻撃者が管理するWebhookに送信します」
OXによると、ペイロードはPythonが起動するたびに自動的に実行され、パッケージをimportするコードがなくても動作しました。さらに、悪意あるバージョンは正規のフレームワークのコードも一緒にインストールしていたため、アプリケーションは正常に動き続け、侵害は気づかれにくい状態でした。同社によると、このパッケージの月間ダウンロード数は192,534件です。
Aikido Security、Endor Labs、SafeDepなどの他のセキュリティ企業も、この攻撃について同様の分析を公開しています。
Microsoftは、攻撃者がどのようにしてパッケージを公開する権限を得たのかを公表していません。同社はコメントの求めにすぐには応じませんでした。
窃取マルウェアの動作
OXによると、このマルウェアは、TOKEN、SECRET、PASSWORD、KEY、AZURE、AWS、GITHUB、OPENAIといった語を名前に含む環境変数を収集しました。また、最大60個の認証情報ファイルも読み取っています。対象には、Azure CLIの設定、GitやDockerの認証情報、npmやpipの設定、Hugging Faceのトークン、Azure DevOpsのビルドエージェントの認証情報、アプリケーションの.envファイルなどが含まれます。さらに、実行中の他のプロセス最大300個からもシークレットを取得していました。
このマルウェアは新しいトークンの要求も行いました。OXはブログ記事で、Azure DevOpsのパイプライン内では、Azureへのアクセスと交換できるIDトークンを要求していたと述べています。Resource Manager、Microsoft Graph、Key Vault、Storage、Cognitive Services、AI Foundry、Azure DevOpsといったAzureサービス向けのマネージドIDトークンも要求していました。
Endor Labsは、この攻撃は主に自動ビルドシステムを狙ったものだと指摘しています。同社は分析で、「開発者のノートPCも対象ですが、ペイロードはCIランナーとAzureのワークロード向けに書かれています」と記しています。
OXによると、コードは診断機能を装っていました。コードは_telemetry.pyというモジュールに置かれ、「af-runtime-diagnostics」というユーザーエージェントを付けてデータを送信していました。窃取したデータは、圧縮・エンコードしたJSONとしてwebhook.siteのアドレスに送られました。
攻撃者は最初のリリースで止まりませんでした。OXがマルウェアを調査している間に、バージョン1.26.1は正常な1.26.0に戻されました。その後、攻撃者は同じペイロードを別のファイルパスで仕込んだ1.26.2をアップロードしたと、同社は述べています。
Aikido Securityによると、最初のバージョンは20:35 UTC、2つ目は21:08 UTCに公開されました。どちらも21:20 UTC頃までに削除されています。
OXは次のように述べています。「この攻撃は単発の窃取の試みではありません。ブロックや制限を回避しながら、できるだけ多くの被害者に到達することを狙った、計画的でリアルタイムの連携した攻撃です」
OXは、攻撃者がパッケージのwheelファイルをビルドするプロセスを乗っ取る方法を見つけたとみています。Endor Labsは分析の中で、悪意ある2つのバージョンはいずれもwheelファイルのみでアップロードされ、正規リリースに付属していたソースコードパッケージは含まれていなかったと述べています。Microsoftは、侵害がどのように起きたのかを確認していません。
公開期間が短くても、被害が限定されるとは限りません。Endor Labsによると、この間にバージョンを固定せずにインストールした環境では、悪意あるバージョンが取り込まれました。この時間帯にビルドしたコンテナイメージ、CIキャッシュ、ロックファイルにも、悪意あるバージョンが残っている可能性があります。
狙われるAIパイプライン
OXは、今回の攻撃は、攻撃者がAI開発のエコシステムとその背後にあるCIパイプラインを標的にしていることを示していると述べています。このマルウェアの標的リストには、OpenAIとHugging Faceのトークン、Azure AI Foundryへのアクセスが含まれています。
今年、攻撃者がMicrosoft公式のPythonパッケージを侵害したのは、これが初めてではありません。5月には、Endor LabsがAzure Durable Functions向けのMicrosoft製Python SDKであるdurabletaskのトロイの木馬化された3つのバージョンを検出しました。2つの攻撃の関連を指摘した研究者はいません。
セキュリティチームが取るべき対応
パッケージを削除しても、被害がなかったことにはなりません。Aikidoは「パッケージを削除すれば今後の実行は止まりますが、すでに送信された情報は取り戻せません」と述べています。
OXは、すべての環境、CIイメージ、ロックファイルでどちらかのバージョンがないかを確認し、見つかれば削除するよう助言しています。ホストやビルドエージェントでは、agent_framework_meta.pthとagent_framework_meta/_telemetry.pyの有無を調べるべきだと、同社は述べています。Aikidoによると、バージョン1.26.2は別のファイル、af_runtime_diag.pthとaf_runtime_diag.pyを使っていました。
OXは、パッケージがどこかで実行された場合、そのホストからアクセスできるすべてのシークレットが侵害されたものとして扱うべきだとしています。同社は、Azureサービスプリンシパルのシークレット、個人用アクセストークン、さらにGitHub、npm、PyPI、NuGet、Docker、Hugging Face、OpenAIの各トークンをローテーションするよう推奨しました。また、影響を受けたビルドエージェントからのマネージドIDやフェデレーション資格情報の使用がないか、Azureのサインインログとアクティビティログを確認するよう助言しています。さらに、agent-frameworkはハッシュ検証付きで、検証済みのMicrosoft公式リリースに固定し、ビルド基盤からwebhook.siteへの外向き通信をブロックすることも推奨しています。