セキュリティ
Kimsuky、フィッシング攻撃をAIで強化
韓国のセキュリティ企業Geniansによると、北朝鮮政府傘下のスパイ集団がLLMをローカル環境で運用し、攻撃活動にAIを組み込むための技術収集を進めているといいます。
研究者らは、Kimsukyが Ollama、GPT4All、Mstyを用いてローカルLLM環境を構築・運用している様子を確認したほか、Cursorなど他のAIツールも試用し、ローカル文書検索のためにRAG(検索拡張生成)を利用していることも突き止めました。ローカルで処理を完結させることで、データがクラウドに吸い上げられ、敵対勢力に察知されたり阻止されたりするのを防ぐ狙いがあるとみられます。
Kimsukyは、北朝鮮の偵察総局傘下で活動するサイバースパイ集団で、長年にわたり政府機関やシンクタンク、学術機関、セキュリティ研究組織を標的にフィッシングやおとり文書を用いた攻撃を展開してきました。
Geniansの調査結果は、「Kimsuky関連の脅威アクターが、AIの単発的な実験段階を超え、マルウェア開発やデータ分析、攻撃手法の高度化を含む実際の攻撃能力へとこの技術を統合する準備を継続的に進めている、明確な証拠を示している」と、研究者らは月曜日に公開した報告書の中で述べています。
この北朝鮮系グループが最近送信しているフィッシングメールは、悪意のあるLNKファイルを含むZIPアーカイブを使用するものです。Kimsukyは通常、これらを国際イベントや調査報告書、会議依頼に関連する資料に見せかけています。受信者がアーカイブを開いて中のLNKファイルを実行すると、そのショートカットが埋め込まれたPowerShellローダーを起動する仕組みです。
一部のケースでは、この一味が仮想資産や金融に関連するおとりの作成にAIを活用していたことも判明しています。こうしたおとり文書は「自然な言語表現、洗練された構成、実際の業務資料に似たフォーマットを用いることで、ユーザーの信頼を高め、悪意のあるファイルの実行を誘導している」と、セキュリティアナリストらは指摘しています。
さらに、平壌のスパイたちはBase64エンコード、文字列分割、独自のデコード処理など様々な難読化技術を駆使し、ファイルの悪意ある挙動を隠蔽しています。
PowerShellスクリプトは、OSのバージョンやアーキテクチャ、システム構成、PCの種類、OSのインストール・起動履歴、実行中プロセスの一覧など、大量のシステム情報を収集します。攻撃者はこの情報を使って感染環境を評価し、後続の攻撃を支援しているとみられます。
これまでのKimsukyのキャンペーンと同様、今回の侵入活動でもGitリポジトリがコマンド&コントロール(C2)インフラとして使用されています。
「分析の過程で、Genians Security Centerは脅威アクターが運用する複数の公開GitHubリポジトリを特定した」と研究者らは記しています。「あるリポジトリには、設定ファイルやPowerShellスクリプトだけでなく、後続の攻撃で使用された様々なペイロードも含まれていた」としています。
さらに、数カ月にわたる調査により、このスパイ集団がGitベースのC2インフラを、マルウェアの開発・テスト、窃取データの管理、AI技術の調査にも活用していたことが明らかになりました。
これには、Ollama、GPT4All、Mstyを用いた複数のローカルLLM環境を、自ら管理するインフラ上に構築することも含まれていました。「ローカル方式であれば会話データが外部のAIサービスに送信されないため、外部への漏洩リスクが低減される。これは国家の支援を受ける脅威アクターにとって、特に魅力的な選択肢となる」とGeniansは述べています。
この攻撃者らはまた、LLaMaSharpやMicrosoft.Extensions.AIといったライブラリ、さらにOpenAIやAzure.AI.OpenAIといった、商用AIサービスを独自のカスタムアプリケーションに呼び出し統合するためのパッケージも「大量に」収集していました。
「『ローカルAI実行 → 文書検索(RAG) → 自動化エージェント → 外部AI統合』にまたがる開発コンポーネントが一括して収集されていたという事実は、単なる好奇心から集められたものではなく、特定の目的のために設計されたAIベースのツールを直接開発するためのものであったことを強く示唆している」と、脅威ハンターたちは指摘しています。
GeniansはさらにOpenAIの音声認識モデルWhisperなど、音声をテキストに変換するツールのログや、このスパイ集団がコード編集にCursor AIを使用していた証拠、文書ベースの質問応答向けにRAGをテストしていた形跡も発見しています。窃取したファイルに対してRAGを用いることで、攻撃者は大量のデータの中から価値ある情報をより迅速かつ自動的に特定できるようになります。
研究者らは、北朝鮮側が自前のモデルを訓練し始めた証拠は見つかっておらず、依然としてマルウェア開発や攻撃活動へのAI応用に軸足を置いているとしながらも、今回の調査結果は、防御側がコンテンツベースの評価から挙動ベースの検知へと軸足を移す必要性を強く裏付けるものだと述べています。
不自然な翻訳調の文章や、体裁の乱れ、スペルミスといった、偽文書の「質」に基づいて脅威を評価する手法は、もはや有効ではありません。AIが非常に精巧で説得力のあるおとりを作り出せるようになっているためです。
組織は、環境内の攻撃者を検知するために侵害指標(IoC)を活用するだけでなく、LNK実行後に見られる異常な挙動──PowerShellの実行、永続化の確立、外部との通信など──にも注目し、脅威をハンティングしていく必要があります。®
