Amazonは、中国と関係のある攻撃グループが運用する自律型AIエージェントが、医療画像のAI支援アノテーション用オープンソースツール「MONAI Label」のゼロデイ脆弱性を発見し、悪用したと明らかにしました。
この活動を検知したのは、Amazonの脅威インテリジェンスチームです。9月、オープンソースのAIペネトレーションテストフレームワーク「Cairn」の公開状態のインスタンスを発見したことがきっかけでした。このインスタンスには認証がなく、誰でも攻撃者のプロンプトやエージェントの出力を閲覧できる状態でした。
記録によると、攻撃は約48時間にわたって展開されていました。標的は、中国本土以外の東アジアにある大学に属するIPアドレスです。攻撃者はエージェントに標的リストを与え、シェルアクセスを取得するよう指示していました。
エージェントは標的の1台でこのソフトウェアを特定し、APIの構造を把握しました。その過程で、ファイルアップロード機能に存在するパストラバーサルの脆弱性を発見しました。
「エージェントは、アプリケーションのAPIの把握から、サーバ上への任意のファイル書き込みに至るまで、約11分で到達しました」と、Amazonは説明しています。
その後のセッションでは、この脆弱性を利用して、Pythonのインタープリタが起動するたびに実行されるファイルにPythonのリバースシェルを仕込みました。最終的にはrootシェルを獲得しています。
「該当するオープンソースプロジェクトには、対応する修正も、課題報告も、アドバイザリも、脆弱性データベース上の過去の言及もありませんでした。このことから、Amazon Threat Intelligenceはゼロデイだったと高い確度で判断しています」と、同社は述べています。
攻撃者はその後、2校目の大学へトンネルを張るプロキシをエージェントに与え、そのネットワーク内にある他のデバイスを狙うよう指示しました。
「プロキシの接続先サーバでも同じ脆弱なソフトウェアが稼働していました。攻撃者はこのゼロデイでサーバを侵害し、トンネルを確立したと推測しています」と、Amazonは指摘しています。
MONAI Labelの開発チームは今週、アドバイザリを公開しました。この脆弱性の深刻度は「クリティカル」で、影響を受けるのはバージョン0.8.5以前です。認証はデフォルトで無効になっているため、サーバにネットワーク経由で到達できる人物であれば誰でも悪用できます。修正はすでに作成されており、次期リリースに含まれる予定です。
Amazonは、この攻撃を身元不明の中国系の攻撃グループによるものと、中程度の確度で結論づけています。根拠は、プロンプトで使われていた言語、スクリプト内のタイムゾーン、そして標的となった大学が中国にとって戦略的な関心の対象である可能性が高いことです。