AIの支援でコーダーが1週間でマルウェアを構築

セキュリティ研究者によると、単独の開発者が人工知能を用いて1週間足らずでLinux向けマルウェア・フレームワークを構築したという。Check Pointの研究者は、AI生成マルウェアが運用可能な成熟度に到達したことが文書化された初の事例であり、開発期間や必要リソースに関する前提を揺るがす速度だとしている。

研究者は、12月に中国語話者の開発環境に由来するとみられるLinuxマルウェアのサンプルを発見した後、クラウド指向のマルウェア・フレームワーク「VoidLink」を特定したと述べた。このフレームワークには、カスタムローダー、インプラント、回避のためのルートキット・モジュール、そして30以上のプラグインなどが含まれる。研究者が最初にそれを確認した際、マルウェアの成熟度、効率的なアーキテクチャ、柔軟な運用モデルは、複数の連携チームを擁する脅威アクターによる相当な開発努力を示唆していた。

開発者のオペレーショナル・セキュリティ上の失敗により、開発アーティファクトが露呈した。これらの資料は、マルウェアが主としてAI主導の開発によって作られ、最初の機能するインプラントに1週間未満で到達したことを示す証拠となった。開発者サーバー上の公開されたオープンディレクトリには、ソースコード、ドキュメント、スプリント計画、内部プロジェクト構造など、開発プロセスのさまざまなファイルが保存されていた。

そのディレクトリには、30週間超にわたる計画開発として、3つの異なる内部チームのスプリント、設計コンセプト、タイムラインを記述した計画アーティファクトが含まれていた。しかしスプリントのタイムラインは研究者の観測と一致せず、マルウェアの能力は文書が示唆するよりはるかに速いペースで拡大していた。プロジェクト開始からわずか1週間後の12月4日というタイムスタンプのある回収テスト・アーティファクトは、その時点でVoidLinkがすでに機能しており、コード行数が88,000行を超えていたことを示している。

開発者のアプローチは、Spec Driven Development（仕様駆動開発）と表現できる。このワークフローでは、開発者が何を作るかを指定し、計画を作成し、その計画をタスクに分解してから、初めてエージェントに実装を許可する。VoidLinkの開発環境から得られたアーティファクトは、開発者がこのパターンに従ったことを示唆している。すなわち、一般的なガイドラインと既存コードベースに基づいてプロジェクトをまず定義し、その後AIにガイドラインをアーキテクチャへ翻訳させ、厳格なコーディングガイドラインと制約を伴う3つの別々のチームにまたがる計画を作成させた。

VoidLinkの開発は、開発者が11月下旬に、AI中心の統合開発環境「Trae」に組み込まれたAIアシスタント「Trae Solo」に頼った時点で始まった可能性が高い。研究者は会話履歴の全体にはアクセスできないが、Traeはモデルに与えられた元の指示の重要部分を保持するヘルパーファイルを自動生成する。これらのファイルはソースコードとともに脅威アクターのサーバーへコピーされ、のちに公開ディレクトリのために露出したとみられる。

Traeは、中国語の指示文書を生成した。そこでは、目的、資料入手、アーキテクチャ分解、リスクおよびコンプライアンス評価、コードリポジトリのマッピング、成果物、次のステップを網羅する要点が箇条書きで構成されていた。要約によれば、最初の指示はVoidLinkを直接構築することではなく、薄い骨格を中心に設計し、それを動作するプラットフォームへ仕上げるための具体的な実行計画を作ることだったことが示唆される。

研究者はまた、3つの開発チームにまたがる包括的な作業計画を記述した内部計画資料も発見した。中国語で書かれMarkdownファイルとして保存されたこのドキュメントには、構造化された書式や詳細さなど、大規模言語モデルに典型的な特徴が見られる。最も早い文書（11月27日付）は、Zig言語で作業するコアチーム、Cで作業するArsenalチーム、Goで作業するバックエンドチームという3チームに分かれた20週間のスプリント計画を記述している。

回収されたVoidLinkのソースコードに対してコード標準化指示を照合したところ、研究者が「驚くほどの一致」と表現する結果が得られた。規約、構造、実装パターンが十分に近く、研究者はコードベースがまさにその指示どおりに書かれたと結論づけた。

VoidLinkのドキュメントと仕様、および各スプリントにアクセスできた研究者は、開発者が使用したのと同じTrae統合開発環境を用いてワークフローを再現した。Markdownドキュメントファイルの仕様に従って、スプリントごとにフレームワークを実装するタスクを与えると、モデルは構造と内容の両面でVoidLinkの実際のソースコードに似たコードを生成し始めた。指定されたコードガイドライン、機能リスト、受け入れ基準に従って各スプリントを実装し、それらを検証するテストを書かせることで、モデルは要求されたコードを吐き出した。

スプリントの利用はAIによるコードエンジニアリングに有用なパターンである。各スプリントの終わりに、動作するコードが得られ、バージョン管理リポジトリにコミットできるため、後のスプリントでAIが誤りを犯した場合の復元ポイントとして機能する。テスト、統合、仕様の精緻化は開発者に委ねられる一方で、このワークフローはほぼすべてのコーディング作業をモデルにオフロードできる。

VoidLinkはAI要素を取り込んだ最初のマルウェアではない。GoogleのThreat Intelligence Groupは11月、実行中に大規模言語モデルを用いて悪意あるスクリプトを動的に生成し、コードを難読化するPromptFluxやPromptStealを含むマルウェア・ファミリーを特定したと述べた。Googleはこれを「実行途中で動作を動的に変化させるツールを伴う、AI悪用の新たな運用フェーズ」と特徴づけた。ロシア軍系ハッカーはウクライナの組織に対するサイバー攻撃でPromptStealを使用し、PromptFluxは金銭目的のアクターによって開発中とみられた（参照: マルウェア開発者が適応的コード生成のためにAIをテスト）。

これまでに文書化されたAI支援マルウェアの例は、通常は低品質で、未熟なアクターに結び付けられるか、オープンソースツールに酷似していた。セキュリティ研究者はAIが悪意ある能力を増幅すると予想していたが、VoidLink以前の証拠は主として初歩的なツールや既存マルウェアの亜種を指し示すものだったと研究者は述べた。

Check Pointは、VoidLinkがAI主導の悪意ある活動の基準線を押し上げたと位置付けている。Check Point ResearchのグループマネージャーであるEli Smadja氏は、この事例が、より経験豊富な脅威アクターの手に渡ったときAIがいかに危険になり得るかを示していると述べた。このフレームワークは高い成熟度、先進的な機能、効率的なアーキテクチャ、動的で柔軟な運用構造を示している。Check Pointによれば、VoidLinkは開発の初期段階で特定され、被害者に対して展開されたり、実際の攻撃に使用されたりはしていなかった。

より広いサイバーセキュリティ業界は、悪意ある活動におけるAIの役割が進化する様子を注視してきた。業界レポートは、ポリモーフィック（多態性）マルウェアの戦術が全フィッシングキャンペーンの推定76%に存在し、重大な侵害の70%以上が何らかのポリモーフィック・マルウェアを伴うことを示している。Ciscoの調査は、サイバー責任を担うビジネスリーダーの86%が過去1年に少なくとも1件のAI関連インシデントを報告し、組織の87%が過去1年にAI主導のサイバー攻撃を経験したと明らかにした。

この動向は、AIが主に技術支援や生産性向上のために使われる段階から、攻撃ライフサイクル全体に統合される段階へ移行しているとセキュリティ専門家が述べる変化を示している。Googleの分析によれば、北朝鮮、イラン、中国などの国家支援アクターは、偵察やフィッシング誘導文の作成から、コマンド＆コントロールの開発、データ流出に至るまで、作戦のあらゆる段階を強化するためにAIツールを使い続けている。