AIインフラ企業のFireworksは、先月発生した2件の侵害で、サイバー犯罪者に請求情報とAI関連データを盗まれたと明らかにしました。
Fireworksは月曜日に更新版の通知を公開し、データ侵害の調査をPalo Alto NetworksのUnit 42に依頼したと説明しました。この侵害は10月6日に発覚したものです。カリフォルニア州サンマテオに拠点を置く同社は2022年に設立され、1万社以上の顧客に各種のAIシステムやツールを提供しています。
調査の結果、攻撃を仕掛けたのは金銭目的で活動する著名なサイバー犯罪グループだと判明しました。同グループは、アカウント情報や請求情報に加え、シークレットも盗み出しています。シークレットとは、人間のユーザーやアプリにアクセス権を与え、通信や操作を可能にする機密性の高いデジタル情報のことです。Fireworksによると、被害を受けたのは「限定的な数の顧客アカウント」で、該当する顧客にはすべて通知済みです。
月曜日の通知では、10月23日にも別のインシデントが発生していたことが明らかになりました。同社の研究開発用マシンをホストしていたサードパーティのクラウドプロバイダーが、サイバー犯罪者の攻撃を受けたというものです。
同社は「10月24日、不正な第三者は[当該プロバイダー]を足がかりにFireworksの開発用マシンへ侵入し、不正なワークロードを実行しました。これにより、顧客データへの被害がさらに拡大しました」と説明しています。
ハッカーは、Fireworksの社内データ、請求情報、請求書、支払い履歴のほか、データセットなどのAI関連データにもアクセスしました。
影響を受けた顧客には通知済みです。Fireworksは現在、Palo Alto Networksと協力してセキュリティ体制を強化するとともに、侵害された認証情報の失効を進めています。
デジタルワークスペース企業のNotionも、自社の顧客の一部がFireworksの侵害で影響を受けたとする通知を公表しました。Notionは11月2日にこのインシデントの連絡を受け、自社システムをFireworksから切り離し、Fireworksのシステム上にあったデータをすべて削除したといいます。
同社は「11月6日、Fireworksから、悪意ある攻撃者が顧客データにアクセスした可能性があるとの連絡を受けました。当社は直ちに、改めて社内調査を開始しました」と述べています。
「当社はFireworksを、Notionの『Insights』機能で顧客が自社のAI利用状況を把握できるようにする分類処理に利用していました。また、製品内でオープンウェイトモデルを提供するための汎用の推論プロバイダーとしても使っていました。本件の調査中はInsights機能を停止しており、Fireworks経由でのオープンウェイトモデルの提供も取りやめています」
LLMJacking
Fireworksは、今回の侵害が、Googleのインシデント対応チームが最近注目している一連の攻撃の一部だと説明しています。Google Threat Intelligence Group（GTIG）とMandiantは先週、ハッカーが企業の大規模言語モデル（LLM）へのアクセス権を乗っ取る「LLMJacking」と呼ばれる手口についてのブログを公開しました。
Mandiantによると、2026年中に、さまざまなクラウドやLLMプロバイダーにまたがる複数のLLMJackingインシデントに対応しました。被害は「北米、南米、アジア太平洋地域の金融サービス、小売、テクノロジー、運輸の各業界の組織」に及んでいます。
研究者らは「LLMJackingは、クリプトジャッキングのように資源が徐々に消費されるのとは異なり、数時間のうちに不正なクラウド課金が急増することがあります」と説明しています。
「個別のインシデントでは、1日で10万ドルを超えるリソース消費に伴う不正課金が確認されました。一部の組織では、アクセス権が失効されるまでに累計の課金額が100万ドルに達しています」
GTIGは、攻撃の背後に「世界各地の複数の地域を拠点とする、金銭目的の多様な脅威クラスター」がいると特定しています。
これらのグループは成熟も進んでいます。初期アクセスの獲得に特化するグループもあれば、そのアクセスを引き継ぎ、LLMへの不正アクセスを収益化して転売するグループもあります。
複数の調査から、これらのグループが主にトークンや認証情報の窃取を狙っていたことがわかりました。脅威アクターはこれらを使って、標的組織のインフラに足場を築きます。
GTIGは「企業が上位モデルやエージェント型ワークフローを本番環境に組み込むにつれ、サイバー犯罪者は自動化した偵察を洗練させ、露出したAPIトークンの標的化や、モデルルーティング用ミドルウェアの脆弱性の悪用を進める可能性が高いでしょう」と指摘しています。
「こうした運用の専門分化によって、不正な転売市場は拡大し続けるでしょう。脅威アクターは企業の利用枠を素早く吸い上げ、侵害が発覚する前に課金の負担を被害者に押し付けることが可能になります」
翻訳元: https://therecord.media/ai-company-fireworks-says-hackers-stole-data-in-oct-attacks
