脅威アクターは、AI搭載のコーディング支援ツールから、攻撃のあらゆる段階を自動化するマルチエージェント型フレームワークへと移行を進めています。
Google Threat Intelligence Group(GTIG)は、Mandiantのインシデント対応業務、脅威アクター追跡、そしてライブ環境での防御活動から得たテレメトリを分析し、AIエージェントが人間の介入をほとんど伴わずに複数の攻撃タスクを連携させ、失敗をトラブルシューティングし、行動を適応させている様子を確認しました。
「この四半期、脅威アクターはシンプルなプロンプトベースのLLM対話にとどまらず、攻撃ライフサイクルの複数の段階にAI機能を統合する段階へと移行しています」とGTIGは指摘しています。
「従来型のスクリプトベースの自動化は以前から脅威アクターの活動の定番でしたが、各グループはこうしたワークフローを次第に高度化させ、人間の監督を必要とせずに複雑なタスクを推論し、動的に意思決定できる高度な自律システムを構築しつつあります」
ある事例では、金銭目的の攻撃者が組織のクラウドインフラを侵害し、自律型のマルチエージェントフレームワークを展開しました。
Googleによれば、この脅威アクターは6時間足らずのうちに、AIコーディングチャットボットとプロンプト、そしてマークダウン形式のエージェント指示書を使って、大規模な認証情報窃取キャンペーンを計画・構築・展開したといいます。
AIエージェントは脆弱性スキャンのパイプラインを管理し、数千件のサードパーティ認証情報を窃取するとともに、リアルタイムで問題をトラブルシューティングし、IPアドレスをローテーションさせ、検知を回避するために正規の侵害済みクラウド環境経由で攻撃トラフィックを迂回させていました。
このアプローチにより、「人間参加型(human-in-the-loop)」による遅延と、防御側の対応可能な時間枠は大幅に縮小されました。
別の事例では、研究者らは「Recon」と呼ばれる自動化された偵察・認証情報管理フレームワークをホストする、外部に露出したコマンド&コントロール(C2)サーバーを発見しました。
そのファイル群には、AIエージェント向けの指示書やナレッジファイルに加え、APIキーなど23,800件を超える窃取済み機密情報をリアルタイムで管理していた、このフレームワークに関連するOpenClaw関連の成果物が含まれていました。
GTIGのレポートでは、中国と関連のあるサイバースパイ活動アクターが「AIを活用した開発ツールを実験的に用い、AI支援による自動化された脆弱性悪用・侵害後活動のパイプラインを構築していた」別の事例も指摘されています。
研究者らによると、ロシアを拠点とするUNC5792など他のスパイ活動グループも、政府にとって関心のある情報を求めてTelegramチャンネルを監視する自動化ボットにAIモデルを組み込んでいたとのことです。
ただしGTIGは、完全自律型のハッキングはまだ広く普及するには至っていないと強調しており、実際の標的に対してゼロデイ脆弱性の発見やネットワーク侵害を完全自律的に行うパイプラインを脅威アクターが展開している様子は確認していないとしています。
同社はまた、自社のAIモデルであるGeminiがこうした悪用の多くを早期に検知し、安全プロトコルに従って対応したことで、Googleはさらなる措置を講じ、該当のキャンペーンを妨害し、関連アカウントを禁止することができたとも述べています。
AIツールの悪用は、UNC6780(TeamPCP)によるサプライチェーン攻撃、1億件のプロンプトが関わるGemini AIの蒸留(distillation)を狙った作戦、そして窃取されたAIアカウントの認証情報やAPIキーが取引される拡大しつつある闇市場でも確認されています。
さらに、国家の支援を受けたグループは引き続き、偵察、フィッシング、マルウェア開発、脆弱性の悪用、侵害後の活動、データ処理、プロパガンダなどにAIを活用しています。
