脅威アクターが実際のネットワーク侵入でAI生成マルウェアを使用していたことが確認されました。AIアシスタントが「バイブコーディング」で作成したPowerShellスクリプトを展開し、Active Directory環境の情報収集を行っていたということです。
Huntressは7月8日に公開したレポートの中で、6月3日に発生したインシデントからこのスクリプトを回収し再構築したと述べ、これを「犯罪者がAIを兵器化する手口を示す事例研究」と呼んでいます。
バイブコーディング、すなわちコードを手動で書く代わりに平易な言葉でAIにプロンプトを与えてソフトウェアを生成する手法は、平凡な攻撃者にすら独自仕様の使い捨てツールを即座に作り上げる能力を与えています。
AIの痕跡を残したスクリプト
Huntressが確認したツールには「100% Working AD Information Gathering Script – FULLY FIXED」というタイトルが付けられており、同社はこの文言自体が大規模言語モデル(LLM)とのやり取り、つまりエラーを貼り付けては動くまで修正を繰り返した過程を物語っていると指摘しています。
攻撃者はAIが例として提示したプレースホルダーのサーバー名すら、編集せずそのまま残していました。
Huntressによれば、他にも見過ごせない特徴があったといいます。スクリプトが過剰に作り込まれていた点です。人間のコーダーであれば1つの方法を選ぶところを、ドメインコントローラーを見つけるためのフォールバック手法が5つも別々に用意されていました。さらに、コンソール出力を色とりどりに装飾する傾向も見られました。
ドメインコントローラーを特定すると、このスクリプトはActive Directoryのユーザー、コンピューター、グループ、信頼関係の情報を収集し、スプレッドシートにまとめました。その後、盗み出した情報を要約した整然としたHTMLレポートを生成しましたが、研究者らはこの仕上げの部分もLLMが独自に付け加えたものだと考えています。
関連記事: 実環境で確認されたAI生成マルウェアについてさらに読む――Googleが指摘する「AI対応マルウェアが実際に展開されている」実態
手口自体は同じ、スピードが違うだけ
こうした攻撃には目新しさがあるものの、Huntressは「AIがゲームのルールを変えているわけではない」と強調しています。今回の侵入はよくある「押し入って奪う」型の手口を踏襲したものでした。攻撃者は盗んだ認証情報を使ってRDP経由でログインし、Windowsの共通フォルダにツールを配置した上で、バイブコーディングされたスクリプトを実行してネットワークを偵察しました。
その後、s5cmdやユーティリティのSharpSharesといった正規のクラウドツールがデータの窃取を担いました。
防御側にとっての難題は検知だとHuntressは警告しています。このスクリプトは唯一無二のものであり、これまで見られたことがなく、今後も同じ形で再び現れる可能性は低いため、アンチウイルスツールが頼りにするファイルハッシュやシグネチャはまったく役に立ちませんでした。
「バイブコーディングはサイバー犯罪への参入障壁を下げ、高度な技術を持たないアクターでも高い能力を備えた回避性の高いツールをその場で生成できるようにしてしまいます」と同社は述べています。
「コード自体は雑で過剰に作り込まれ、AIならではの痕跡――消し忘れたコメントなど――が随所に残っているかもしれませんが、それがもたらす脅威はきわめて現実的です。これに対抗するには、防御側は硬直的なシグネチャベースの発想を捨て、どんなLLMも隠しきれない根底の挙動を捉える行動分析型のアプローチを取り入れる必要があります」
翻訳元: https://www.infosecurity-magazine.com/news/vibe-coded-malware-ai-powershell/
