サイバー犯罪者の間で、攻撃を高速化し人間のオペレーターによる手作業を減らすために自律型の人工知能(AI)エージェントを利用する動きが広がっています。
Google Threat Intelligence Group(GTIG)とMandiantは、金銭目的とみられる脅威アクターがある組織のクラウドインフラを侵害し、マルチエージェント型の攻撃フレームワークを展開する事例を確認しました。
攻撃者は6時間足らずのうちに、大規模な認証情報窃取キャンペーンを計画・構築し、実行に移すことができていました。
今回のキャンペーンは、脅威アクターが単純なAIプロンプトの利用にとどまらず、攻撃の複数の工程を独立して遂行できるエージェント型AIシステムの活用を始めていることを示しています。
Googleによれば、こうしたシステムはスキャン作業の管理、技術的な問題の解決、意思決定を行い、人間の関与を最小限に抑えたまま作業を継続できるといいます。
報告書によると、攻撃者はAIコーディングチャットボットを、Markdownファイルに記述されたプロンプトや事前設定済みの指示と組み合わせて使用していました。
これらの指示は運用上のプレイブックのような役割を果たし、キャンペーンの各段階をどのように実行するかをAIエージェントに指示していました。
この自律型フレームワークは、インターネットに公開されているシステムの脆弱性をスキャンし、自動的に認証情報の窃取を試みました。
エージェントは脆弱性スキャンのパイプライン管理、リアルタイムでの問題のトラブルシューティング、IPアドレスのローテーションも行うことができ、攻撃者がすべての工程を手動で制御する必要はありませんでした。
攻撃者は事前に侵害していたクラウドインフラから活動することで、正規のIPアドレスを経由して悪意のあるトラフィックを送信することも可能でした。
これにより、トラフィックが信頼されたクラウド環境から発信されているように見えるため、防御側が悪意のある活動を識別しにくくなる恐れがあります。
Mandiantによると、この作戦は最終的に数千件のサードパーティの認証情報を侵害するに至りました。
GTIGは別途、「Recon」と呼ばれる自動偵察・認証情報管理フレームワークをホストする、外部に露出したコマンド&コントロール(C2)サーバーを発見しました。
このシステムには専用のエージェント設定ファイルが含まれており、後にクラウドサービスやAIサービス向けのAPIキーを含む23,800件超の窃取済み機密情報を整理・検証・管理できる稼働中のダッシュボードへと発展していました。
AIエージェントの利用拡大は、サイバー攻撃の運用における重要な変化を象徴しています。従来の自動化ツールは通常、あらかじめ定義されたスクリプトに従って動作するものでした。
一方、エージェント型AIシステムは状況を分析し、意思決定を行い、失敗のトラブルシューティングを行い、作戦の実行中にも自らの行動を調整することができます。
GTIGによれば、敵対勢力はスキャンパイプラインを自律的に管理し、大規模な認証情報窃取を行えるマルチエージェント型フレームワークの構築をますます進めているといいます。
AIは偵察、ソーシャルエンジニアリング、マルウェア開発、脆弱性リサーチ、侵害後のトラブルシューティングなど、他の攻撃工程でも活用が広がっています。
こうした自動化の進展により、セキュリティチームが攻撃を検知し阻止するための時間が大幅に短縮される可能性があります。
従来であれば攻撃者が手動でツールを設定しエラーに対応する必要があったキャンペーンも、現在ではより少ない人間の関与で複数の段階を進められるようになっています。
Googleによると、同社は関連アセットを無効化し、自社のAIシステムが同様の攻撃を助長しないよう保護を強化することで、確認された悪意のある活動の一部を阻止したとしています。
AIを活用したサイバー攻撃が今後さらに高速化・自動化していく中、組織にとって今回の調査結果は、クラウドインフラ、露出した認証情報やAPIキー、不審な自動スキャン、そして信頼されたクラウドサービスから発生する異常な活動に対する監視を強化する必要性を浮き彫りにしています。
16,000以上の組織から得られる最新のインテリジェンスで、脅威の検知率を58%向上。TIフィードを統合し、貴社のSOCを強化しましょう
翻訳元: https://cyberpress.org/ai-agents-mass-steal-credentials/
