AIベースのマルウェアが攻撃をよりステルス化し、適応的に進化

要点：

• Googleは水曜日、サイバー脅威アクターが最近AIを使ってマルウェアを開発し始めており、ハッキングエコシステムにおける技術の役割が劇的に進化していると発表した。
• 新種のマルウェアは攻撃フェーズ中にAIを使ってリアルタイムで成長・変化し、検知や防御をはるかに困難にする可能性があると、Googleの脅威インテリジェンス研究者がレポートで述べた。
• この最近の傾向は、攻撃者と防御者の間で進行中のAI軍拡競争の最新段階を示している。

詳細分析：

ここ数年、研究者たちはハッカーがAIをマルウェア生成の補助というよりも、フィッシングの誘引強化に使う傾向が強いことを一貫して発見してきた。AIマルウェアツールキットはダークウェブ上に存在するが、専門家によれば、それが技術の最も広範かつ懸念される用途というわけではない。しかしGoogleの新たな発見は、攻撃におけるAIの役割が新たな段階に入ろうとしていることを示唆している。

Googleによると、新たに発見された5つのマルウェアファミリー—FRUITSHELL、PROMPTFLUX、PROMPTSTEAL、PROMPTLOCK、QUIETVAULT—は、セキュリティソフトからコードを隠したり、必要に応じて攻撃機能を生成したり、動的にスクリプトを作成するなど、AIによる新しい能力を示している。「まだ初期段階ではあるが」とGoogleは述べ、「これはより自律的で適応的なマルウェアへの大きな一歩である」としている。

PROMPTFLUXはGoogleのGemini AIを使い、自身のコードを再生成して検知を回避しやすくし、新たに再構成されたファイルをWindowsのスタートアップフォルダに隠す。マルウェアのあるバージョンは、Geminiを使って1時間ごとにソースコード全体を書き換えていた。「この種の難読化技術は、悪意あるオペレーターが今後AIで攻撃活動を強化していく初期かつ重要な兆候だ」とGoogleは述べている。同社はPROMPTFLUXを特定の脅威アクターに帰属させていないが、マルウェアを落とすために使われたファイル名は「金銭目的のアクター」の行動と一致しているとした。

現在、PROMPTFLUXのコードには非アクティブなコンポーネントやGemini APIとのやり取りを制限する機能が含まれており、開発中であることが示唆される。Googleは「この活動に関連する資産を無効化する措置を講じた」とし、PROMPTFLUX単体ではシステムへの侵入はできないと付け加えた。

一方、PROMPTSTEALはHugging Faceのプラットフォームを使って大規模言語モデル（LLM）にクエリを送り、ターゲットシステムから情報を収集・窃取する短いWindowsコマンドを生成する。このソフトウェアは画像生成ツールを装い、バックグラウンドで偵察コマンドを生成・実行する。コマンドを実行するための新しいスクリプトを動的に生成することで、防御側が特定のコード断片を探している場合でも、ハッカーがターゲットマシン上で活動を継続しやすくなる。

Googleは、ロシアのGRU軍事情報機関と関連するAPT28がウクライナでPROMPTSTEALを使用しているのを観測したと述べた。同国当局は以前にこのマルウェアの出現を報告している。Googleによれば、野生環境でマルウェアがLLMにクエリを送るのを確認したのはこれが初めてだった。

「最近の新しいAI技術の一部は実験的な実装だが」とGoogleは述べ、「脅威がどのように進化しているか、今後どのようにAI機能を侵入活動に統合しうるかの初期兆候を提供している」とした。

マルウェアにおけるAIの新たな利用は、防御側が従来の静的検知ツールを、より広範な異常活動を特定できるソフトウェアに置き換える必要性を浮き彫りにしている。

「攻撃者は『雰囲気コーディング』や、2024年に観測されたAIツールによる技術サポートの基本的な使い方を超え始めている」とGoogleの研究者は記した。「この種の活動は今まさに見え始めたばかりだが、今後増加すると予想される。」

脅威アクターは他の目的でもAIを使い続けている。Googleのレポートでは、中国関連グループがGeminiを「誘引コンテンツの作成、技術インフラの構築、データ流出用ツールの開発」に利用していると記述されている。Geminiの悪用防止機能を回避するため、脅威アクターはキャプチャ・ザ・フラッグ演習の参加者を装い、Geminiに「標的システムを悪用するのに悪用されうる有用な情報」を提供させた。その後、この中国関連アクターは多くのGeminiプロンプトでCTFの偽装を利用した。

他の国家関連グループはそれほど幸運ではなかった。イラン関連のハッキンググループはGeminiを使ってカスタムマルウェアを開発しようとしたが、その過程でコマンド＆コントロールサーバーのドメインなど、自身の活動に関する情報を明かしてしまい、Googleが活動を妨害する助けとなった。