- ハッカーはWormGPT 4やKawaiiGPTなど制限のないLLMをサイバー犯罪に利用
- WormGPT 4は暗号化ツール、情報流出ツール、身代金要求文を生成可能。KawaiiGPTはフィッシングスクリプトを作成
- 両モデルともTelegramで数百人の購読者を持ち、サイバー犯罪の参入障壁を下げている
現在利用されているほとんどの生成AIツールには制限があり、例えば爆弾の作り方や自殺の方法を教えることは許可されていませんし、サイバー犯罪を助長することも許されていません。
一部のハッカーは巧妙なプロンプトでこうしたガードレールを回避し「脱獄」しようとしますが、他の者は完全に制限のない大規模言語モデル（LLM）を独自に構築し、サイバー犯罪専用に利用しています。
Palo Alto NetworksのUnit42のサイバーセキュリティ研究者は、こうした2つのモデルを分析し、その能力やサイバー犯罪者が利用できるツールについて理解を深めました。その結論は、一部のツールは非常に強力で、スキルの低いハッカーでも高度かつ破壊的な攻撃を実行できるというものです。
Discordへの攻撃？
具体的なモデル名はWormGPT 4とKawaiiGPTです。前者は2025年9月に提供終了したWormGPT LLMの後継で、有料ツールとして月額50ドル（または生涯ライセンス220ドル）で犯罪者が入手できます。後者は無料でコミュニティ主導の代替モデルです。
Unit 42によると、無料版は有料版ほど優れてはいませんが、それでも十分に強力で、説得力のあるフィッシングメッセージを作成したり、すぐに実行可能なスクリプトでラテラルムーブメントを自動化することができます。有料モデルはさらに深刻で、研究者は完全に機能するマルウェア、データ流出ツール、そして「ぞっとするほど効果的な」身代金要求文を作成することができました。
これらはネット上に存在する同種のツールの一部に過ぎない可能性が高いですが、人気があるようです。両LLMともTelegramで数百人の購読者を持ち、さまざまな攻撃で積極的に利用されています。
「これら2つのモデルの分析から、攻撃者が脅威の現場で悪意あるLLMを積極的に利用していることが確認されました」とUnit 42は結論づけ、サイバー犯罪への参入障壁がかつてないほど低くなっていると警告しています。
