研究者らがダークウェブの闇フォーラムでAI搭載のハッキングツールが販売されているのを発見

サイバーセキュリティ企業Trellixが水曜日に発表したレポートによると、犯罪者らはダークウェブの闇フォーラム上で、AIを活用したさまざまなハッキングツールや関連サービスを販売しています。

研究者らは、偵察ツールから認証情報の売買市場、さらにはAIをサービスとして提供するプラットフォームに至るまで、幅広いAIベースのツールがこうした市場で販売されていることを発見しました。

このレポートは、高度な脅威活動への参入障壁を下げる目的で、AIがどのように収益化されているかを示しています。

提供されている主要なサービスやハッキングツールには、以下のようなものがあります。

• Shadowx007という名で知られる攻撃者は、国家レベルの攻撃立案能力を提供するツール「APEX AI」というサービスを提供しています。標的のドメインを入力すると、このサービスはランサムウェア展開を可能にする完全な攻撃計画を、段階的なコマンドとともに提示します。
• ImpactSolutionsという名で知られる脅威アクターは、商用の暗号化サービス「Metamorphic Crypter」を提供しています。Exploitフォーラムで販売されているこのサービスは、攻撃者がシグネチャベースの検知技術を回避できるよう設計されています。同アクターは、このサービスはWindows Defenderをはじめとするほとんどのアンチウイルス製品では検知できないと主張しています。
• BreachForumsでは「MessiahGPT」というサービスが提供されています。このサービスは、米国の主要な商用AIモデルの多くとは異なり、倫理的な制約が一切ないAIモデルであると謳っています。

Proofpointの研究者による別のレポートでは、AIエージェントを操るために設計された間接的なプロンプトインジェクションツールが明らかになりました。悪意のあるコマンドが隠されているため、AIはそのコマンドを正当なものと解釈し、あたかも正しい意思決定プロセスの一部であるかのように実行してしまいます。

こうしたプロンプトはPDF、メール、Webページ、カレンダーの招待状などに埋め込まれており、闇フォーラムでは月額150ドルで提供されています。

Palo Alto Networksは以前、大規模言語モデル（LLM）がこうした悪意のあるリクエストをどのように処理しているかを指摘していました。