Anthropicによると、中国と関連する国家支援型の脅威アクターが、世界中の組織を対象とした大規模なスパイ活動でClaude Codeを悪用しました。
9月に確認されたこのAI主導のキャンペーンの一環として、攻撃者はAnthropicのAIを操作し、そのエージェント機能を悪用して、最小限の人間の介入でサイバー攻撃を実行しました。
世界中で化学製造、金融、政府、テクノロジー分野の約30の組織が標的となりましたが、実際に侵害されたのはごく一部でした。
このキャンペーンは、国家支援型のハッカーが標的を選定し、Claude Codeを使って侵入を実行する攻撃フレームワークを開発することから始まりました。
攻撃者はAIにガードレールを回避させるため、サイバーセキュリティ企業の従業員を装い、攻撃を小さく無害に見えるタスクに分割してモデルに実行させ、全体の文脈を与えませんでした。
次に、Claude Codeを使って組織の環境を調査し、価値の高い資産を特定して報告させました。その後、AIに被害者のシステムの脆弱性を探させ、標的となるエクスプロイトコードの調査と作成を指示しました。
攻撃フレームワークは、Claudeを悪用して認証情報を流出させ、それらを使って追加のリソースにアクセスし、機密データを抽出しました。
「最も権限の高いアカウントが特定され、バックドアが作成され、データが最小限の人間の監督で流出しました」とAnthropicは述べています。
攻撃者はまた、Claudeに攻撃内容、盗まれた認証情報、侵害されたシステムの記録を作成させ、次の段階の準備を行いました。
「全体として、脅威アクターはAIを使ってキャンペーンの80~90%を実行でき、人間の介入は散発的(ハッキングキャンペーンごとに4~6回の重要な意思決定ポイント程度)にしか必要ありませんでした」とAnthropicは指摘しています。
1秒間に数千件のリクエストを出せるClaudeを悪用することで、ハッカーは人間のオペレーターが必要とする時間のごく一部で攻撃を実行しました。しかし、AIの限界(例:架空の認証情報など)は完全自動化攻撃の障害となりました。
今年初めに観測された「バイブハッキング」攻撃のエスカレーションであるこのキャンペーンは、高度なサイバー攻撃が今やより容易に実行できることを示しています。
「適切な設定があれば、脅威アクターはエージェント型AIシステムを長期間利用し、経験豊富なハッカーチーム全体の作業(ターゲットシステムの分析、エクスプロイトコードの生成、膨大な盗難データセットの効率的なスキャンなど)を実行できます」とAnthropicは述べています。
活動を検知してから10日以内に、同社はその範囲と性質を特定し、該当アカウントの利用禁止と標的組織への通知によってこれを阻止しました。
翻訳元: https://www.securityweek.com/anthropic-says-claude-ai-powered-90-of-chinese-espionage-campaign/