Factoryというスタートアップ企業が、開発プラットフォームの乗っ取りを狙ったキャンペーンを阻止

サンフランシスコを拠点とするスタートアップのFactoryは、攻撃を阻止したと発表しました。少なくとも1つの国家関連脅威グループが、グローバルなサイバー詐欺作戦で利用するために同社のソフトウェア開発プラットフォームの乗っ取りを試みていました。

同社によると、攻撃者の中には中国を拠点とする国家関係者と関連する者もおり、AIベースのコーディングエージェントを使って自らのインフラを維持し、Factoryのサイバー防御にリアルタイムで対応していたとのことです。

Factoryは、攻撃の明確な目的は複数のAI製品の利用を連鎖させ、そのアクセスをより大規模な作戦の一環として再販することだったと述べています。

「攻撃者はFactoryを含む複数のAIプロバイダーにおける無料プランの利用やオンボーディング経路を悪用し、外部で大規模な詐欺・サイバー犯罪作戦を構築しようとしました」とFactoryのCTOであるEno Reyes氏はCybersecurity Diveに語りました。「彼らの目的は、我々のようなAIプラットフォームを、より広範な『非公式』モデル利用のメッシュ内で計算やツールのノードとして再利用することでした。」

Factoryによると、トラフィックの多くは中国、ロシア、東南アジアのデータセンターやインターネットサービスプロバイダーから発生していました。

攻撃自体は10月11日に最初に検知され、数日間続きました。同社がログを調査したところ、3日間で数千の組織が通常の顧客とは異なる方法で同社のDroid製品を利用していたことが判明しました。

調査の過程で、同社はプレミアムAIコーディングアシスタントへの無料または割引アクセスを宣伝するTelegramチャンネルを発見しました。さらに、脅威アクターは第三者ターゲットへの脆弱性調査へのアクセスやサイバー犯罪リソースも提供していました。

この攻撃は、Anthropicによる発表と時期が重なりました。Anthropicは、主にAIインフラを基盤とした高度なスパイ活動キャンペーンについて明らかにしています。

Factoryは、発見した内容を関係するセキュリティ機関や規制当局と共有したと述べています。

Forresterの主席アナリストであるJames Plouffe氏はCybersecurity Diveに対し、FactoryのインシデントとAnthropicへの攻撃は、敵対者にとっていくつかの目的を強調している可能性があると述べました：「AI駆動型攻撃インフラの実現可能な[概念実証]を示し、それを自らの能力と比較すること。」

さらにPlouffe氏は、これにより敵対者は「最先端AI企業自身の検知および対応能力を探ることができる」と述べています。