Hugging Faceは今週、本番インフラでセキュリティ侵害を検知し封じ込めたことを公表しました。同社によれば、これは自律型AIエージェントシステムが最初から最後まで主導した、同社史上初のインシデントだといいます。
同社は、限定された内部データセットおよび複数のサービス認証情報への不正アクセスを確認しました。パートナーや顧客のデータが影響を受けたかどうかについては現在も調査中とのことで、必要があれば影響を受けた関係者に直接通知するとしています。
重要な点として、Hugging Faceは公開モデル、データセット、Spacesへの改ざんの痕跡は確認されなかったとしており、ソフトウェアサプライチェーンのコンテナイメージや公開パッケージもクリーンな状態が保たれていたことを確認しました。
侵入はデータセット処理パイプラインを起点としていました。これはAIプラットフォームに特有の攻撃対象領域です。悪意あるデータセットが、リモートコード実行可能なデータセットローダーと、データセット設定処理におけるテンプレートインジェクションの脆弱性という、2つのコード実行系の脆弱性を悪用しました。
これにより攻撃者は処理ワーカー上でコードを実行できるようになり、そこからノードレベルのアクセスへと権限を昇格させ、クラウドおよびクラスターの認証情報を窃取した上で、たった一度の週末のあいだに複数の内部クラスターへと横方向に移動していきました。
Hugging Faceによれば、この一連の攻撃は自律型エージェントフレームワークによって組織されたものであり、おそらくエージェント型のセキュリティ調査用ハーネスをベースにしたものと見られますが、基盤となるLLMは依然として特定されていません。
このシステムは、短命なサンドボックスの集団にまたがって数千件にも及ぶ個別のアクションを実行し、公開サービス上に構築した自己移動型のC2(コマンド&コントロール)インフラを使用していました。
Hugging Faceは迅速に対応し、初期アクセスを可能にしていたデータセットのコード実行経路を閉鎖して攻撃者の足がかりを排除した上で、侵害されたノードを再構築しました。
同社はまた、影響を受けた認証情報とトークンを失効・ローテーションさせ、環境全体にわたる予防的なシークレットのローテーションもより広範に実施しました。
今後の防御強化に向けて、Hugging Faceはクラスターに対してより厳格なアドミッション制御と追加のガードレールを導入し、検知パイプラインも改善しました。これにより、時間帯や曜日を問わず、重大度の高いシグナルが検知されれば数分以内に対応担当者へ通知が届くようになりました。
同社は外部のフォレンジック専門家と協力してこのインシデントを調査し、セキュリティポリシーの見直しを進めているほか、この侵害について法執行機関にも報告済みです。
注目すべきは、Hugging Face自身の検知プロセスがセキュリティテレメトリに対するLLMベースのトリアージに依存していた点です。このシステムがシグナルの異常な相関関係を検知し、それが今回の侵害を最初に浮かび上がらせるきっかけとなりました。
攻撃の全体像を時系列で再構築するため、同社は17,000件を超える記録済みの攻撃者イベントに対してLLM駆動の分析エージェントを投入し、本来であれば数日を要する手作業でのレビューを数時間にまで圧縮しました。
しかしこの過程で、チームは予想外の障害に直面しました。フロンティア級の商用APIが、分析に必要な実際のエクスプロイトペイロード、C2の痕跡、攻撃コマンドの大量処理を拒否したのです。これは安全性のガードレールが作動したためで、インシデント対応者と攻撃者を区別できなかったことが原因でした。
Hugging Faceは、自社インフラ上で稼働するオープンウェイトモデルであるGLM 5.2に切り替えました。これには、機密性の高い攻撃者データや参照された認証情報を同社の環境の外に一切出さずに済むという副次的なメリットもありました。
Hugging Faceは、この状況を業界全体で取り組むべき構造的な非対称性だと位置づけています。ジェイルブレイクされた、あるいは制限のないモデルを使う攻撃者側には利用ポリシー上の制約が一切ない一方で、ホスト型モデルを使う防御側は、正当なフォレンジック作業中であってもガードレールによって作業を締め出されてしまうというのです。
今回のインシデントは、自律型でAIが駆動する攻撃的ツールが、もはや理論上の懸念ではなく実際に運用される現実へと移行したことを示すものであり、機械的な速度で実行される持続的・多段階の攻撃キャンペーンのコストを引き下げることを意味しています。
より強力なプロアクティブ防御で、重大インシデントと金銭的損失を未然に防ぎましょう。15,000のSOCから寄せられるライブ脅威フィードを統合する
翻訳元: https://cyberpress.org/hugging-face-breach-end-to-end-ai-agents/