- Kimsukyは監視の目を逃れつつ作戦能力を高めるため、ローカル環境で動作するAIツールを使用
- 研究者らは同グループのインフラ全体にわたり、大規模なAI活用による能力構築の動きを観測
- 防御側には、進化するAI活用型脅威を見抜くための挙動ベース検知の導入が求められている
北朝鮮のハッカー集団が、生成AI(GenAI)ツールの提供元に気づかれることなく、その能力を悪用して活動を強化する手法を編み出していることがわかりました。
ChatGPTやClaudeのようなAIツールを利用すると、その活動は(少なくともある程度は)追跡や抑止の対象になり得ます。実際にOpenAIは最近、フィッシングや人身売買に使われていた複数のChatGPTアカウントを特定・停止したことを明らかにしています。
こうした背景から、北朝鮮の国家支援型脅威アクターとして知られるKimsukyは、Ollama、GPT4All、Mstyといったツールをローカル環境で使用していました。これにより、機密情報を外部のAIサービスへ送信することなく、文書を処理できるようにしていたのです。
「一貫した能力構築プロセス」
この攻撃を発見したのはセキュリティ研究者集団のGeniansです。同社は「本キャンペーンでC2として利用されたインフラについて、数か月にわたる追跡とログ分析を実施した」とし、その過程で使用ツールを特定しました。
Kimsukyは前述の3つのLLMに加え、文書検索用の検索拡張生成(RAG)ツール、AIエージェント開発フレームワーク、テキスト読み上げソフトウェア、さらにはAI支援コーディングツール「Cursor」も使用していました。
開発元が設けている各種ガードレールがあるため、AIを使って悪意あるコードを書くことは、一見思われるほど単純ではありません。そのため、これまでサイバー犯罪におけるAI活用は、フィッシングメールの下書き作成や、本物そっくりの悪意あるランディングページの作成といった用途にほぼ限られてきました。しかし今回のKimsukyの事例は、サイバー犯罪におけるAI活用が依然として進化を続けており、脅威としての深刻さを増していることを示しています。
Geniansは次のように結論づけています。「今回、当該脅威アクターのインフラで観測されたのは、単に複数の文書がAIによって作成された痕跡にとどまりませんでした。ローカルLLM実行環境の構築、アクターが保有する文書に基づくRAGの設定、AIエージェント開発フレームワークの収集、外部の商用AIサービスと連携するためのライブラリの取得といった、一貫した能力構築プロセスそのものでした」
研究者らは、防御側はコンテンツベースの評価から挙動ベースの検知へと移行する必要があると警告しており、これを「セキュリティ対策における基本前提とすべきだ」と述べています。
「侵害指標(IoC)ベースの検知に加え、組織はLNKファイル実行後に続く一連の異常な挙動、すなわちPowerShellの実行、永続化の確立、外部通信といった要素を文脈的に関連付けて分析し、脅威の全体像を評価する必要があります」
