アンダーグラウンドAIモデルがハッカーの「サイバーペンテスト嫁」になると約束

これらのプログラムはダークウェブのフォーラムで販売されており、明示的なハッキングツールまたは二重用途のペネトレーションテストツールとして宣伝されています。一部は月額または年額サブスクリプションを提供し、他はマルウェアデータセットで訓練され、専用コミュニティによって管理されている商用モデルのコピーのように見えます。

これらのモデルは、ネットワークの脆弱性スキャン、データの暗号化、データの流出、コードの作成など、ハッカーとサイバーセキュリティ防御者の両方に役立つ可能性のある特定のタスクに関する基礎的な能力を提供します。

Unit 42の脅威インテリジェンス担当シニアディレクター、アンディ・ピアッツァ氏は、AIツールが進化するにつれて、サイバーセキュリティにおけるその二重性がより明確になってきたとCyberScoopに語りました。

「ご存知の通り、Metasploitは善良な人向けのフレームワークですが、悪用する人もいます」とピアッツァ氏は述べました。「Cobalt Strikeも善良な人たちによって開発されましたが、残念ながら悪用されるようになりました。そして今、AIでも同じことが起きています。」

レポートでは最近の2つの事例が強調されています。

9月から、WormGPTの新バージョンがアンダーグラウンドフォーラムに登場しました。この脱獄済みLLMは2023年に初登場しましたが、開発者が厳しい監視や報道の中で地下に潜伏。その後、今年になって新しいバージョンが再登場し、「制限のない」LLM機能を提供するハッキングツールとして宣伝されました。

オリジナルのWormGPTは、マルウェアデータセット、エクスプロイトの解説、フィッシングテンプレートなど、ハッキング支援を微調整するためのデータで訓練されたと主張していました。新バージョン（WormGPT4）のモデルやアーキテクチャは不明のままです。

もう一つのモデル、KawaiiGPTは、GitHubで無料公開されており、Linux上で「5分未満」でセットアップできる軽量な構成です。自らを「あなたのサディスティックなサイバーペンテスト嫁」と宣伝しています。

おそらくオープンソースまたは古い商用AIモデルのコピーですが、「手軽に使える入門レベルでありながら、機能的に強力な悪意あるLLM」を体現しています。カジュアルな口調でユーザーに挨拶し、「Owo! はい！どうぞ…」のようなコメントとともに悪意ある出力を提供します。

「攻撃機能のコードは、WormGPT 4が生成するより最適化されたPowerShellスクリプトほど複雑ではないかもしれませんが、KawaiiGPTは攻撃のための社会的・技術的な足場を即座に提供します」とレポートは述べています。

多くのオープンソースツールと同様に、KawaiiGPTにも約500人の開発者からなる専用コミュニティがあり、効果を維持するためにアップデートや調整が行われています。

ピアッツァ氏は、これらAIツールの入手容易性とサイバー犯罪エコシステムへの影響について懸念を示しつつも、「AIレーザーがネットワークにマルウェアをばらまく」といった過剰な脅威ではないと冗談を交えて語りました。

レポートで説明された機能は、Anthropicが特定した大規模なサイバー攻撃の多くを自動化したハッキングキャンペーンなど、最近の事例で見られるものには及びません。ピアッツァ氏は、アンダーグラウンド市場で販売されているモデルには実際に限界があると指摘しました。例えば、LLMはマルウェアをより早く生成できるかもしれませんが、Palo Alto Networksの内部テストでは、そのほとんどのコードが簡単に検出可能であることが判明しています。

本当の危険は、レポートがLLM登場以来サイバー専門家が警告してきたこと、すなわち犯罪的なハッキングをより簡単かつ非技術的にする可能性を裏付けている点だと彼は述べました。

「それはまさに相互運用性なんです」とピアッツァ氏は語りました。「専門用語に詳しくなくてもいい。『ラテラルムーブメント』という言葉を使う必要すらない。『ネットワーク上の他のシステムをどうやって見つけるの？』と尋ねれば、スクリプトを出してくれる。だから参入障壁がどんどん下がっているんです。」