サイバー犯罪
推論サービス事業者は、今回の侵害の原因をクラウドプロバイダーとLLMJackingの犯罪者に求めています
Fireworks AIは、10月に別のサイバー攻撃を受けていたことを公表しました。あわせて、請求記録、データセット、不完全なモデルの重みを含む顧客データの漏えい範囲が、当初の想定より広がっていることも明らかにしています。
同社は、顧客がAIモデルを学習・実行できるサービスを提供しています。発表によると、研究開発用マシンをホスティングしていたサードパーティのクラウドプロバイダーが、10月23日に侵害されました。攻撃者はそのアクセス権を使って翌日にFireworksの開発システムに侵入し、不正なワークロードを実行したということです。
Fireworksは、金銭目的の犯罪者が関与していると見ています。この犯罪者はLLMJacking、つまり不正なゲートウェイを通じてAIモデルへの不正アクセスを販売する行為に関わっているとみられます。
Fireworksは、影響を受けたデータを次の3つに分類しています。
-
リソースメタデータ：リソース識別子、表示名、説明、作成日時など
-
請求情報：請求先・配送先住所、請求書および支払い履歴、アカウント残高、クレジット利用額。支払いカード番号は保存していないため、影響はありません
-
モデルの重みとデータセット：一部の顧客については、不完全なモデルの重みとデータセットの一部にアクセスされたとのことです
Fireworksthe共同創業者兼CEOのLin Qiao氏は、Cantina SecurityのCEOであるHari Mulackal氏が示した懸念に対し、攻撃者の動機はモデルの重みの窃取ではないようだと説明しました。
「私たちが確認した限り、攻撃者の狙いは重みではありません」と、Qiao氏は述べています。「ダウンロードの大半は一部のみで、途中で止まっていました」
Render創業者兼CEOのAnurag Goel氏は、Notionから届いた通知を共有しました。通知は、同社のAIアシスタントとの一部のチャットが、Fireworksのインシデントによって漏えいした可能性があると警告しています。
Goel氏に送られたメールには、次のように書かれていました。「Notionのセキュリティチームが調査した結果、お客様のワークスペースであるRenderは、Fireworksのセキュリティインシデントの影響を受けた可能性があるNotionワークスペースの1％未満に含まれていることが判明しました」
「Notion AIとの一部の『個人を特定できない』チャットセッションが、このインシデントで漏えいした可能性があります」
Notionによると、漏えいしたチャットの記録には、特定のユーザーやワークスペースを結び付ける情報は含まれていません。ただし、Redditのユーザーが指摘したように、会話の内容そのものに個人を特定できる情報が含まれている可能性があります。
メールには、こう続いています。「チャットの記録そのものに含まれる内容を除き、そのチャットをお客様のワークスペース、ユーザー、企業に結び付ける情報はありません。ワークスペース内のその他のデータは影響を受けていません」
Bloombergの報道によると、FireworksはCursorやHarveyなどの顧客とも協力し、影響の評価を進めています。
Fireworksの更新情報によれば、同社はPalo Alto NetworksのUnit 42チームと連携して攻撃に対処しました。対応には、認証情報のローテーション、影響を受けたシステムのネットワークからの隔離、データストレージへのアクセスと監視システムの強化が含まれます。
10月に発生した2件の攻撃について、影響を受けた顧客の数は更新情報に記載されていません。
Fireworksは、10月6日に内部認証情報の不正使用を検知した後、10月9日にインシデントを初めて公表していました。攻撃者は、評価ジョブの環境変数にアクセスし、一部の顧客のAPIキーやトークンを入手しています。
当時Fireworksは、モデル、データセット、学習データ、推論トラフィック、個人情報へのアクセスを示す証拠は見つかっていないと説明していました。月曜日の更新により、公表された影響範囲は大幅に広がりました。®
