AIインフラのスタートアップ企業Fireworksは、サードパーティのクラウドプロバイダーが侵害された後、攻撃者が同社の開発用マシンにアクセスしたとして、新たなセキュリティ侵害を公表しました。
Fireworksは、オープンソースの人工知能モデル（Mistral、MetaのLlama、GoogleのGemmaなど）を展開・実行したい開発者向けに、高性能な推論プラットフォームを提供しています。開発者はハードウェアのボトルネックや複雑なインフラ作業に悩まされることなく、モデルを利用できます。
同社は10月上旬にも別のセキュリティインシデントを確認し、法執行機関と顧客に通知していました。このときは、攻撃者が一部のアカウントについて、シークレットとして保存されていたAPIキーやトークンを含む環境変数にアクセスしていました。
Fireworksは当時、次のように説明していました 。「証拠は、金銭目的のサイバー犯罪の脅威アクターグループとの関連を示しています。このグループは、大規模言語モデル（LLM）への不正アクセスで得たトークンを、『LLMJacking』と呼ばれる違法なルーティングゲートウェイに販売することを狙っています」
Fireworksは、侵害された内部認証情報、影響を受けたFireworksのAPIキー、攻撃者が作成したキーを無効化しました。その後の10月23日に、別のセキュリティインシデントを発見しました。
今回の侵害で、攻撃者はリソースのメタデータ（Fireworksのリソース識別子、表示名、説明、作成日時など）にアクセスしました。さらに、請求情報（請求先・配送先住所、請求書と支払いの履歴、アカウント残高、クレジット使用量など）にもアクセスしています。一部の顧客については、不完全なモデルウェイトとデータセットにも触れました。
一方で同社は、Fireworksが顧客のクレジットカード番号を保存していないため、攻撃者はカード番号にはアクセスできなかったとしています。
Fireworksは月曜日に出したアドバイザリで、次のように述べています。「Fireworksの研究開発用マシンをホストしていたサードパーティのクラウドプロバイダーで、10月23日にセキュリティインシデントが発生しました。10月24日、不正な第三者がこれを足がかりにFireworksの開発用マシンへ到達し、不正なワークロードを実行しました。その結果、顧客データにさらなる影響が及びました」
「この動きは同日中に検知し、インシデント対応プロセスに従って、直ちに是正措置を講じ、既知の重大な脆弱性を塞ぎました。10月25日時点で、顧客が利用するFireworksプラットフォームに対して、脅威アクターによる不正アクセスが成功した形跡は、新たに確認されていません」
攻撃を受けてFireworksは、認証情報とサービスアカウントを無効化して再発行しました。あわせて、不正なネットワーク経路を制限し、影響を受けたシステムを隔離しました。データストレージや分析システムへのアクセスも厳格化し、保存データへの公開アクセスや不正アクセスを防いでいます。
同社は現在、Palo Alto Networksのインシデント対応部門Unit 42と協力しています。今後の攻撃に備えてシステムを保護するとともに、インシデントの全容と影響範囲をさらに調査する方針です。
1週間前には、GoogleのGoogle Threat Intelligence Group（GTIG）とMandiantの研究者が、大規模言語モデルのハイジャック攻撃（LLMjackingとも呼ばれます）について報告しました。この攻撃は、被害組織に過去最大級のコスト負担を強いています。盗んだAPIキーを使った不正な呼び出しにより、クラウドAIの利用料金が最大100万ドルに達するケースもあります。
