Googleは、大規模言語モデル（LLM）へのアクセスを販売するサイバー犯罪者によって、企業のAI基盤に対する脅威が拡大していると警告しました。
同社傘下のMandiantによると、今年に入ってから金融サービス、小売、テクノロジー、運輸の各分野で、「LLMJacking」の手口が確認された複数のインシデントに対応したといいます。
Mandiantは「クリプトジャッキングでは、リソースが徐々に消費されます。これに対してLLMJackingでは、わずか数時間のうちにクラウドの不正課金が急増する可能性があります」と警告しています。
「個々のインシデントでは、リソース消費に伴う不正課金が1日で10万ドルを超えるケースを確認しました。一部の組織では、アクセス権が取り消されるまでに累計の課金額が100万ドルに達しました」
LLMJackingの関連記事：2024年のクラウド攻撃でLLMjackingとオープンソースツールの悪用が急増
手口そのものは新しくありません。しかし、LLMJackingをめぐるエコシステムは成熟しつつあるようです。
攻撃者はフロントエンドのチャットボットを迂回し、バックエンドのモデルリソースを狙います。多くの場合、LLMのAPIキーや、露出または盗まれたクラウドのIDトークンを悪用します。IDトークンには、IAM認証情報、サービスアカウントキー、GitHubのパーソナルアクセストークン、有効なセッショントークンなどが含まれます。
攻撃者はこうして足掛かりを得た後、権限を昇格させ、内部偵察を行って標的となるリソースやさらなるクラウド認証情報を探します。
レポートによると、攻撃者は権限の悪用と昇格だけでなく、LLMルーティングソフトウェアの脆弱性を突いて権限を昇格させる可能性もあります。
レポートは「LLMJackingの最終的な目的は、基盤モデルの収益化とリソースの乗っ取りです。攻撃者はトークンのプロキシ、モデルストリーミングの自動化、GPUハードウェアのプロビジョニングによって、これを実現しています」と付け加えています。
長期的に稼げる手口
Googleはすでに、金銭目的の多様なサイバー犯罪クラスターが、北米、南米、アジア太平洋地域でLLMJackingを行っていることを確認しています。また、初期アクセスの獲得に注力する攻撃者と、下流のインフラで収益化を図る攻撃者との間で「分業」が始まっていることにも気付いています。後者は「LLMミキサー」と呼ばれます。
こうしたルーティングゲートウェイは、犯罪者の顧客向けにLLMへのアクセスを「プロキシ、集約、再販」します。
この手口は非常に儲かるため、Googleは今後、サイバー犯罪者がクリプトジャッキングよりもLLMJackingを優先するようになると予想しています。
Googleは次のように結論づけています。「企業が上位モデルやエージェント型ワークフローを本番環境に組み込むにつれ、サイバー犯罪者は自動化された偵察に磨きをかけ、露出したAPIトークンやモデルルーティングミドルウェアの脆弱性を狙うようになる可能性が高いでしょう」
「こうした運用の専門化により、違法な再販市場は拡大を続けるでしょう。攻撃者は、侵害が発覚する前に企業のクォータを素早く吸い上げ、その課金コストを被害者に押し付けることができます」
翻訳元: https://www.infosecurity-magazine.com/news/llmjacking-cost-business-1m-warns/
