WormGPT 4とKawaiiGPT：新たなダークLLMがサイバー犯罪の自動化を加速

悪意のあるLLMは、スキルの低い脅威アクターでも攻撃を実行しやすくし、Palo Alto Networksの研究者は最近登場した2つのツール、WormGPT 4とKawaiiGPTを分析しました。

Anthropicは最近、同社のClaude AIが中国のサイバースパイによって悪用されたと報告しており、このAIが彼らのキャンペーンの80～90％を支えていたとされています。

セキュリティ研究者や脅威アクターは、しばしば正規のAIアシスタントのガードレールを回避する方法を見つけます。しかし、悪意のある、またはダークLLMと呼ばれる一部のLLMは、悪用を目的に特化して設計されており、正規サービスのようなガードレールが一切ありません。

正規のAIツールも脅威アクターによってキャンペーンの設計や強化に悪用される可能性がありますが、ダークLLMはスキルの低い攻撃者にとっての参入障壁を下げ、フィッシングメールの生成、ポリモーフィックマルウェアの作成、偵察の自動化を可能にします。

Palo Alto Networksの研究者は、このようなダークLLMの詳細な分析を行いました。そのひとつがWormGPT 4です。

オリジナルのWormGPTは2023年に登場し、同年中に閉鎖されました。WormGPT 4は最近登場し、アンダーグラウンドフォーラムやTelegramチャンネルで宣伝されており、Palo Alto Networksは9月下旬に販売キャンペーンを確認しています。

このAIツールへの1か月のアクセスは50ドルですが、220ドルで「生涯アクセス」を購入でき、ソースコードへのアクセスも含まれます。

WormGPT 4は、脅威アクターが説得力のあるフィッシングメッセージやその他のソーシャルエンジニアリングの誘引を作成するために利用できます。

このサービスはマルウェア作成機能も提供しています。Palo Alto Networksは、ファイル暗号化機能、コマンド＆コントロールのサポート、身代金要求メモを含むランサムウェアの作成にテストで使用しました。

WormGPT 4はユーザーに「制限のないAIへの鍵」として宣伝されていますが、Palo Altoの研究者は「WormGPT 4の開発者はモデルのアーキテクチャや学習データについて秘密を守っています。不正にファインチューニングまたは学習されたLLMに依存しているか、単に持続的なジェイルブレイク技術を使っているかについても肯定も否定もしません」と指摘しています。

Palo Altoの研究者が分析した2つ目のダークLLMはKawaiiGPTで、2025年7月に登場したとみられます。KawaiiGPTはGitHubで無料公開されており、簡単にセットアップできます。

研究者たちは、これを使って説得力のあるソーシャルエンジニアリングの誘引を作成したり、Linuxホスト上でのラテラルムーブメント用スクリプトを作成したり、データ流出用スクリプトを生成したり、身代金要求メモを書いたりできることを示しました。

「WormGPT 4の商業的性質とは対照的に、KawaiiGPTのアクセスのしやすさ自体が脅威となっています。このツールは無料で公開されており、サイバー犯罪志望者にとってコストが全く障壁になりません」と研究者は説明しています。

さらに「このオープンソースかつコミュニティ主導のアプローチは、忠実なユーザーベースを引き付けるのに非常に効果的であることが証明されています。このLLMはすでに500人以上の登録ユーザーを自ら報告しており、毎週数百人のアクティブユーザーが継続的にプラットフォームを利用しています」と付け加えました。

Palo Alto Networksは、WormGPT 4やKawaiiGPTのようなダークLLMが「デジタルリスクの新たな基準」を示していると警告しており、主にスキルの民主化とサイバー攻撃の商業化によって推進されていると述べています。

「これらの制限のないモデルは、サイバー犯罪活動に必要な技術的スキルという点で、いくつかの障壁を根本的に取り除いています。これらのモデルは、かつては知識豊富な脅威アクターだけに与えられていた力を、インターネット接続と基本的なプロンプト作成の知識さえあれば、ほぼ誰にでも与えてしまうのです」とセキュリティ企業は説明しています。