Hugging Faceは、自社の本番インフラの一部に対する不正アクセスを伴うセキュリティインシデントを公表しました。限定された範囲の内部データセットと複数のサービス認証情報が影響を受けたとしています。
このAIプラットフォームは2026年7月16日にこの件を公表し、パートナーや顧客のデータが漏洩したかどうかについては現在も調査中だと説明しています。
同社は、必要であれば影響を受けた関係者に直接連絡するとしています。幸いにも、Hugging Faceは公開モデルやユーザー向けデータセット、Spacesが改ざんされた形跡は見つかっていないとしています。また、コンテナイメージや公開パッケージを含むソフトウェアサプライチェーンについても、クリーンであることを確認済みだとしています。
Hugging Faceのセキュリティ侵害
今回の侵入は、Hugging Faceのデータセット処理環境が起点になったとみられています。この環境は信頼できないコンテンツを扱うため、AIプラットフォームにとって特にリスクの高い領域です。
同社の説明によると、悪意のあるデータセットが2つの異なるコード実行の脆弱性を悪用しました。1つはリモートコード実行を許すデータセットローダー、もう1つはデータセット設定におけるテンプレートインジェクションの欠陥です。
これら2つの弱点が組み合わさったことで、攻撃者は処理ワーカー上で任意のコードを実行できるようになりました。攻撃者はその後、権限昇格を行ってノードレベルのアクセス権を獲得し、クラウドおよびクラスターの認証情報を窃取したうえで、週末にかけて複数の内部クラスターを横断的に移動していました。
Hugging Faceは、この一連の攻撃を自律的でAI主導の侵入と位置付けています。攻撃者は、セキュリティリサーチ用ハーネスに似たエージェントフレームワークを利用し、短命なサンドボックスの群れから数千件もの操作を実行していたとみられています。
攻撃に使われたコマンド&コントロール(C2)インフラは自己移行型で、公開サービスを踏み台にして構築されていたため、追跡や防御が一層困難になっていました。
今回のインシデントは、自律型ツールによって多段階攻撃の運用コストが下がり、偵察、認証情報の窃取、権限昇格、横方向移動といった一連の行動を機械並みの速度で実行できてしまう現状を浮き彫りにしています。
同社によると、AI支援による異常検知パイプラインが、セキュリティテレメトリ全体にわたる不審なシグナルを相関分析することで、この侵入を最初に検知したということです。
調査担当者はその後、大規模言語モデル(LLM)を活用した分析エージェントを用いて、17,000件を超える攻撃者関連イベントを処理し、時系列の再構築、侵害指標(IOC)の特定、アクセスされた可能性のある認証情報のマッピング、実際の攻撃活動と囮の行動との切り分けを行いました。Hugging Faceは、この自動分析によって通常なら数日かかる作業をわずか数時間に短縮できたとしています。
ただし、商用のフロンティアモデルAPIを使ってこのインシデントを分析するという当初の計画は、予想外の壁にぶつかりました。ホスト型モデルは安全ポリシーの都合上、実際の攻撃コマンドやエクスプロイトのペイロード、C2に関連する痕跡を含むリクエストをブロックしてしまったのです。
そのため、Hugging Faceは自社インフラ上に展開したオープンウェイトモデル「GLM 5.2」を用いて、社内でフォレンジック分析を行いました。この方法により、機密性の高い攻撃者関連データや流出した認証情報が同社の環境外に出ることも防げたとしています。
今回のインシデントを受けて、Hugging Faceは脆弱性のあったデータセット実行経路を封鎖し、攻撃者の足がかりを排除したうえで、侵害を受けたノードを再構築し、影響を受けた認証情報とトークンを失効・ローテーションしました。
同社はさらに、予防的措置として広範囲にわたるシークレットのローテーションを実施し、クラスターへのアクセス制御をより厳格化するとともに、セキュリティガードレールを強化し、重大度の高いイベントに対して数分以内に対応できるようアラート体制を改善しました。現在進行中の調査には、外部のフォレンジック専門家と法執行機関も関与しています。
Hugging Faceは、ユーザーに対してアクセストークンのローテーションと、直近のアカウント活動の確認を推奨しています。今回のインシデントは、AIプロバイダーにとって重要性を増しているセキュリティ上の懸念、すなわちデータセット、ローダー、テンプレート、モデル処理パイプラインを重大な攻撃対象領域として扱う必要性を改めて浮き彫りにしています。特に、エージェント型システムの登場により大規模な攻撃活動の実現がますます容易になっている今、その重要性は一段と高まっています。
Strengthen Your SOC by Accelerating Threat Detection & Rapid Investigations. -> Integrate ANY.RUN With Your SOC Now.
翻訳元: https://gbhackers.com/hugging-face-security-breach-exposes-internal-datasets/
