Cisco Talosは、攻撃チェーンに人工知能を組み込んだマルウェアをハンティング・分類・追跡するために設計されたオープンソースの研究ツールキット「CAIRN(Cognitive Artifact Intelligence Research Network)」を公開しました。
このツールは、ある新しい発想に基づいて動作します。それは、AIを組み込んだマルウェアは必ず「認知的アーティファクト」と呼ばれるメタデータの痕跡を残すというものです。埋め込まれたプロンプト、プロバイダーのAPIエンドポイント、ジェイルブレイク関連の用語、オーケストレーションロジックなどがそれに当たります。
こうした断片は、実際のバイナリをダウンロードしたり実行したりすることなく、メタデータのみから抽出・関連付け・分類することが可能です。CAIRNは、ルールベースの検知、意味的クラスタリング、関係グラフの探索を組み合わせて実現しています。
最大24種類の取得フィルターを用いて、抽出された文字列、サンドボックスの挙動、アンチウイルスのラベルといった情報源から候補サンプルを洗い出します。
たとえば「provider-api-integration」というフィルターは、api.openai.comやapi.anthropic.comといったエンドポイントへの接続を検出し、「python-ai-scripts」はlangchainやlitellmといったAIフレームワークのインポートを検出します。
このほかにも、ローカルLLMランタイム(ollama、llama.cpp、gguf)を対象とするフィルターや、攻撃的な能力を示す用語と組み合わさったエージェント型のツール呼び出し構文、さらにはAIによる解析を回避するための文字列——ファイルを無害なものと誤認させるようLLMベースのサンドボックスを欺く目的で書かれたとみられるテキスト——を検出するフィルターも用意されています。
検出結果は、3階層のオントロジーに基づいて管理されるSQLiteのコーパスに蓄積されます。Tier 1では、AI関連のコンテンツが存在することを裏付ける原始的なAIアーティファクトを特定します。Tier 2では、運用上の利用を示唆するアーティファクトの組み合わせを相関分析し、挙動面の文脈情報を付加します。
Tier 3では、確認済みのフィンガープリントに基づいてマルウェアファミリーレベルの帰属分析を行い、新たなファミリーのシグネチャが追加されると、再ダウンロードやAPI呼び出しをすることなく、過去に収集済みのサンプルを遡って検知できるYARAルールを生成します。
CAIRNは、取得ベースのコーパス拡張、共有インフラやキャンペーンのアーティファクトを横断する関係性のピボット分析、YARAベースのトリアージ、そして意味的な発見機能をサポートしています。
意味的な発見機能では、埋め込みモデルと教師なしのUMAP/HDBSCANによる解析を用いており、CAIRNエクスプローラー上で可視化されます。これにより、文字列レベルでの直接的な重複がなくてもクラスターとしてまとまるサンプルを浮かび上がらせることができます。ただし、これはあくまでアナリストが手動で検証すべき手がかりを提供するものであり、断定的な帰属分析ではありません。
Talosは、2025年7月にCERT-UAが報告した初のAI統合型マルウェア「LAMEHUG」をきっかけに、CAIRNを用いたハンティングを開始しました。
それ以降、研究者らは自律性の急速な高まりを観測してきました。単年のうちに、LLMを単なるオプション機能として扱うマルウェアから、人間のオペレーターを介さずに動作する完全自律型のマルチモデル合意オーケストレーター「CLOSEDQUORUM」へと進化を遂げたのです。
Talosはまた、あるAI解析回避テクニックの出所を特定の名指しされたレッドチーム講師にまで辿り、それが12か月以内に無関係な攻撃者がコンパイルしたマルウェアの中でも再現されていることを発見しました。これは、こうした攻撃手法が発生源を超えて拡散していることを示しています。
Talosは、AI関連の文字列がヒットしたからといって、必ずしも実際にAIが統合されていることを意味するわけではないと注意を促しています。
PyInstallerでパッケージ化されたもの、Tauriベースのアプリケーション、特定のGoバイナリなどは、構造上の類似性や開発環境の情報が露出していることが原因で、誤検知(false positive)を起こしやすい傾向があります。そのため、アナリストは単なるアーティファクトの存在よりも、Tier 2の挙動面の文脈情報を重視する必要があります。
Talosは、CAIRNを手動のリバースエンジニアリングに取って代わるものではなく、それを拡張可能な形で補完するツールと位置づけており、すべての検知結果は依然としてリバースエンジニアリングによる検証が必要であると強調しています。
主流のソフトウェア全般でAIの組み込みが当たり前になるにつれ、Talosのチームは自社のフィルターも、単にAIの存在を検知する段階から、その利用目的を特定する方向へと進化させていく必要があると見込んでいます。
脅威調査の効率化と手作業の削減にANY.RUNを活用する16,000以上のSOCチームに、あなたのチームも加わりませんか。チーム向けに詳しく見る
翻訳元: https://cyberpress.org/new-cairn-tool-hunts-malware-that-uses-ai-models/
