Google、AI搭載マルウェアが実際に展開されていると発表

Googleは、大規模言語モデル（LLM）を実行時に利用し、動的に悪意のあるスクリプトを生成して検知を回避する新種のAI搭載マルウェアを発見しました。

Google脅威インテリジェンスグループ（GTIG）の昨日のレポートでは、「ジャストインタイムAI」をこのように利用する2つのファミリー、PromptFluxとPromptStealを強調しています。

「これらのツールは、悪意のあるスクリプトを動的に生成し、自身のコードを難読化して検知を回避し、AIモデルを活用して必要に応じて悪意のある機能を作成します。これらはマルウェアにハードコーディングされていません」とレポートは説明しています。

「まだ初期段階ではありますが、これはより自律的かつ適応的なマルウェアへの大きな一歩です。」

LLM悪用についてさらに読む：新たな「LameHug」マルウェアがAI生成コマンドを展開

PromptFluxはVBScriptで書かれたドロッパーで、Google Gemini APIを利用して「再生成」されます。LLMに自身のソースコードを書き換えさせ、難読化されたバージョンをスタートアップフォルダに保存して永続化を図ります。また、GTIGによると、このマルウェアはリムーバブルドライブやマップされたネットワーク共有に自身をコピーして拡散しようとします。

PromptStealはPythonで書かれたデータマイナーで、LLM「Qwen2.5-Coder-32B-Instruct」に問い合わせて、特定のフォルダ内の情報やドキュメントを収集し、コマンド＆コントロール（C2）サーバーにデータを送信する一行のWindowsコマンドを生成します。

GTIGは、PromptStealがロシアのAPT28によってウクライナで使用されているのを観測したとし、PromptFluxはまだ開発中であると述べています。

• FruitShell：PowerShellで書かれたリバースシェルで、リモートC2接続を確立し、標的システム上でコマンドの実行を可能にします。LLMベースのセキュリティによる検知を回避するためにハードコーディングされたプロンプトを使用します。
• PromptLock：Goで書かれたランサムウェアで、LLMを利用して実行時に悪意のあるLuaスクリプトを動的に生成し、偵察、データ暗号化、情報流出を行います。
• QuietVault：JavaScriptで書かれた認証情報窃取ツールで、AIプロンプトとホスト上にインストールされたAI CLIツールを使って秘密情報を検索し、流出させます。

AIマルウェア市場の成熟

Googleは、AIツールのサイバー犯罪市場が急速に発展していると警告しています。「フィッシング、マルウェア開発、脆弱性調査を支援する多機能ツールの複数の提供」があり、サイバー犯罪のさらなる民主化につながる可能性があると指摘しました。

また同社は、プロンプト内で「ソーシャルエンジニアリングのような前提」を使ってGeminiのガードレールを回避しようとする継続的な試みも指摘しました。さらにGTIGは、国家主体の攻撃者がチャットボットを偵察やフィッシング誘導の作成、C2開発、データ流出など、攻撃のあらゆる段階で悪用していると警告しています。

AppOmniのCSO、Cory Michal氏は、GTIGのレポートは同社がSaaS脅威の現場で見ている状況と一致していると述べています。

「AI搭載マルウェアはコードを変異させるため、従来のシグネチャベースの検知は効果がありません。防御側は、マルウェアが何をするかに注目する振る舞い型EDRが必要です」と付け加えました。

「検知は、特にGemini、Hugging Face、OpenAIなどのAI APIへの異常なプロセス作成、スクリプト活動、予期しない外部通信に注目すべきです。エンドポイント、SaaS、IDテレメトリ全体で振る舞いシグナルを関連付けることで、攻撃者がAIを悪用している兆候を発見し、データが流出する前に阻止できます。」

Cofenseのサイバーインテリジェンスチームマネージャー、Max Gannon氏は、キルチェーンのあらゆる段階でAIが使われることはネットワーク防御側にとって懸念すべきだと主張しています。

「これは、昨年はAIの利用が最小限で、主にフィッシングメールやキットに焦点が当てられていたのとは大きな変化です」と彼は付け加えました。

「近い将来、意欲的な脅威アクターが、攻撃チェーンのすべての部分を生成し、知識ゼロで使えるオールインクルーシブなAIベースのキットを販売するようになると予想しています。唯一の参入障壁はサブスクリプション料金だけになるでしょう。」