- Hugging Faceは、データセットに隠された悪意あるコードが自社システムの脆弱性を突き、権限昇格と認証情報の窃取を招いたサイバー攻撃を公表しました
- この事件は、自律型AIエージェントによって一貫して主導されていた点で異例であり、同エージェントは短命なサンドボックスを何千も次々と立ち上げ、C2インフラを公開サービス間で移動させ続けました
- 顧客データや公開モデルへの改ざんは確認されていませんが、この攻撃は業界が以前から予測してきた「エージェント型攻撃者」というシナリオが現実になりつつあることを浮き彫りにしています
人工知能(AI)・機械学習(ML)分野で最大級のプラットフォームの一つであるHugging Faceは先ごろ、AIエージェントによって高度化されたサイバー攻撃を受けたことを公表しました。
「今回のケースは、ある重要な点でこれまで対応してきたどの事案とも異なっていました。それは、攻撃の最初から最後まで自律型AIエージェントシステムによって進められたという点です。そして私たちも、主に自社のAIを使ってこれを検知・解析しました」と、Hugging Faceは発表で説明し、攻撃者は悪意あるコードをデータセット内に隠し、それをプラットフォームにアップロードしたと述べています。
Hugging Faceの自動処理システムがこのデータセットを処理した際、2つのソフトウェアの脆弱性が悪用され、攻撃者のコードが同社のサーバーの一つで実行されてしまいました。
自律型AIエージェントによる統率
この従来型のコードインジェクション攻撃に加えられたひねりによって、攻撃者は権限を拡大してシステムへの支配力を強め、Hugging Faceのクラウドインフラへのアクセスに使う認証情報を窃取し、さらに他の内部システムへと侵入範囲を広げることができました。
しかし、この事件を特異なものにしているのは、攻撃の大部分がAIエージェントによって遂行された点だと、Hugging Faceは説明しています。
人間の攻撃者がコマンドを打ち込むのではなく、Hugging Faceは、どのシステムを探索し、どの脆弱性を悪用し、どの認証情報を盗み、侵害したインフラ内をどのように横方向に移動するかをすべて自ら判断する、AI駆動の自律型エージェントによってこの攻撃が統率されていたと見ています。
「このキャンペーンは、自律型エージェントフレームワーク(エージェント型のセキュリティ研究用ハーネスを基盤に構築されたと見られますが、使用されたLLMはまだ特定されていません)によって実行され、多数の短命なサンドボックス群にまたがって数千に及ぶ個別のアクションを実行し、コマンド&コントロールのインフラは公開サービス上を自ら移動しながら展開されていました」とHugging Faceは説明しています。「これはまさに、業界がこれまで予測してきた『エージェント型攻撃者』のシナリオと一致します」
言い換えれば、このエージェントは一時的な計算環境を何千も次々に立ち上げ続けており、そのため攻撃を止めるのが極めて困難でした(遮断すべき単一のマシンが存在しないためです)。同時に、マルウェアを制御するインフラも移動を続けており、おそらく正規の公開クラウドサービスやオンラインサービスを利用していたとみられます。そのため、防御側があるコントロールサーバーを遮断しても、攻撃は単に別のサーバーから続行されました。
現時点では、顧客データや一般公開されているユーザー向けモデル、Spacesへの改ざんが行われた証拠は確認されていません。
