研究者は、あるAIフレームワークをホストするサーバー上で窃取されたデータを発見しました。また、米国の航空宇宙分野やアジア各地の組織を狙った別々の攻撃活動も確認しています。
Googleは、ソフトウェアの脆弱性を発見し、人間の介入なしにエクスプロイトを実行するよう設計された、ハッカー運用のAIフレームワークを特定したと発表しました。脅威アクターによるこの種のシステムの利用を同社の研究者が確認したのは、初めてです。
Google Threat Intelligence Group(GTIG)とMandiantが公表したレポートによると、攻撃者は生成AIを個別の作業の補助に使う段階を超え、サイバー攻撃のより広範な部分を自動化し始めているとみられます。
このシステムを使えば、攻撃者は公開済みの脆弱性(nデイ)を、企業がセキュリティ更新プログラムの適用を終える前に悪用できる可能性があります。Googleの研究者は、公開状態のステージングサーバー上でこれを発見し、exploit_agentというマルチエージェントフレームワークであると特定しました。
このフレームワークは複数の大規模言語モデル(LLM)に接続し、セキュリティパッチ適用後のアプリケーションコードの変更点を調べて脆弱性を特定し、エクスプロイトを生成するよう構成されています。操作者が各工程を指示する必要はありません。生成したエクスプロイトを自動的に実行することもできます。
Googleは、このサーバー上で標的となった被害者から流出したデータを発見しました。侵害の初期段階後にさらなる活動を支援するためのスクリプトも見つかっています。証拠からは、運営者がメディア・エンターテインメント業界や教育分野に関連するフランスのWebサイトに特に関心を持っていたことがうかがえます。ただしレポートは、このフレームワークの自律的な動作がデータ窃取の原因だったかどうかまでは確定していません。
Googleは、PaperCutの印刷管理サーバーの脆弱性を悪用した別のキャンペーンにも言及しました。レポートが引用するGreyNoiseの調査によると、ある脅威アクターはAIツールを使ってエクスプロイトを開発・テストしたとみられます。その後、脆弱性の公開から4日後に数百の組織を標的とするキャンペーンを開始しました。
Googleは別の事例として、攻撃者が他のAIフレームワークを使っていることも確認しました。CAIRNは、米国の航空宇宙分野などの組織を狙った侵入活動に投入されていました。一方、PentAGIをベースにカスタマイズされたプラットフォームは、アジア各地の組織に対する偵察や脆弱性スキャンに使われていました。
企業の対応時間にかかる圧力
Omdiaのシニアアナリスト、Jonathan Ong氏によると、サイバー攻撃でのAI活用は拡大しているものの、根本的な手口はほとんど変わっていません。
「これは既存の攻撃手法がより加速したものと言えます」とOng氏は述べます。「確立された手法を用いるペネトレーションテストやレッドチーム向けのフレームワークですが、LLMによって大幅に高速化されています」
Confidis のCEO、Keith Prabhu氏は、AIによって個々の攻撃の成功率が高まるという証拠は、まだ限られていると指摘します。同氏によると、より大きなリスクは、攻撃者がより短時間で多くの攻撃を仕掛けられることです。個々の攻撃の効果が変わらなくても、侵害に成功する件数が増える可能性があります。
Ong氏は、これらのフレームワークは通常、検知可能な活動を大量に生み出すと説明します。そのため、EDR(エンドポイントでの検知と対応)、XDR(拡張検知・対応)、MDR(マネージド検知・対応)の機能を適切に設定・監視している企業であれば、悪意ある活動の多くを引き続き特定できるはずです。
一方でGoogleは、フレームワークが検知しやすい活動を生み出すとはいえ、目的を達成する能力は依然として備えていると警告しています。
Ong氏によると、セキュリティリーダーは防御体制を一新するのではなく、確立されたセキュリティ対策、とりわけクラウドとIDの堅牢化を引き続き優先すべきです。有効な防御策として、同氏は多要素認証、強力なパスワード、繰り返されるログイン試行をブロックする対策を挙げました。
「変わった点が一つあるとすれば、封じ込めと対応のタイムラインを短縮する必要があることです。これらのフレームワークを使う攻撃者の動きの速さに合わせなければなりません」とOng氏は述べています。
Prabhu氏は、セキュリティの可視性が分断され、対応プロセスが今も手作業の判断に依存していることが、問題をさらに深刻にしていると指摘します。同氏はCISOに対し、継続的な資産検出とリスクベースの脆弱性修正を優先するよう推奨しました。また、企業環境全体で不審な活動を関連付けられる、より優れた検知機能も求めています。
Kanerikaのやや AI開発マネージャーであるAmit Kumar Jena氏は、組織はインターネットに公開されたシステムの脆弱性に特に注意を払う必要があると述べます。こうしたシステムでは、脆弱性が公になった直後に攻撃者が悪用する恐れがあるためです。
「インターネットに面したシステムは別枠で扱い、迅速なパッチ適用の経路を用意すべきです。修正プログラムの検証中は、仮想パッチで対処します」とJena氏は述べています。
インシデントの封じ込めについて、Prabhu氏は、内容が十分に理解されており元に戻せる対応は自動化し、業務に重大な影響を及ぼしかねない判断には人間の承認を残すよう提案しました。
Jena氏も、どの封じ込め対応を自動化できるかを事前に定めておくよう推奨しています。例として、エンドポイントの隔離やセッションの失効を挙げました。
「目指すのは人間による監督をなくすことではありません。避けられる遅延をなくし、対応が攻撃のスピードに見合って機能するかを定期的にテストすることです」とPrabhu氏は述べています。
サイバー犯罪者にとって低くなる参入障壁
Prabhu氏によると、オープンソースのエージェント型フレームワークは、経験の浅いサイバー犯罪者の技術的な障壁を下げる可能性があります。既存のツールを連携させ、結果に応じて攻撃を調整しやすくなるためです。ただし、こうした機能があっても、技術的な専門知識が不要になるわけではなく、侵害の成功が保証されるわけでもありません。
Prabhu氏は、セキュリティ人材が限られている中小規模の組織やサービスプロバイダーは、特に危険にさらされる恐れがあると指摘しました。
同氏によると、リスクが特定の業界に集中するとは限りません。老朽化したレガシーシステムの管理が不十分な組織や、ID管理が脆弱な組織は、業種を問わず、より大きなリスクにさらされる可能性があります。
Prasanth Aby Thomasは、半導体、セキュリティ、AI、EVを専門とするフリーランスのテクノロジージャーナリストです。DigiTimes Asiaやasmag.comなど、さまざまな媒体に寄稿しています。
キャリアの初期には、ロイターでエネルギー分野を担当する記者を務めました。それ以前は、International Business Times UKでアジアと欧州の市場やマクロ経済の動向を担当する記者でした。
ボーンマス大学で国際ジャーナリズムの修士号、ロヨラ・カレッジでビジュアルコミュニケーションの修士号、マハトマ・ガンディー大学で英語学の学士号を取得しています。また、国立台湾大学で中国語を学びました。