「MessiahGPT」AIサービス、ランサムウェア・フィッシングキット・マルウェアを謳い文句に

犯罪目的のAIツールは、ますます商用ソフトウェアさながらの様相を呈しています。

Trellixの研究者は、BreachForums上でMessiahGPTが公然と宣伝されているのを発見しました。ランサムウェア、フィッシングキット、マルウェア、ソーシャルエンジニアリング資料を生成できる無制限のAIサービスだとうたっています。このプラットフォームには専用のWebサイトとTelegramコミュニティが存在しますが、研究者らは運営者が主張するモデルの性能や機能について独自に検証することはできませんでした。

技術そのものと同じくらい重要なのが、この「パッケージング」という側面です。サイバー犯罪向けのAIがブランド化され、主流のAIモデルと比較され、攻撃者向けの専用サービスとして販売されているのです。

通常のAIガードレールを外したマーケティング

Trellixは、兵器化されたAIに関する調査の中で、MessiahGPTが「人間のフィードバックによる強化学習(RLHF)」や「憲法的AI(Constitutional AI)」を経ずに訓練されたカスタムモデルとして提示されていると述べています。運営者は、訓練データにダークウェブのアーカイブ、流出した内部文書、無制限マニュアルなどが含まれていると主張しています。

研究者らはこれらの技術的な主張を独自に検証することはできませんでしたが、このサービスがサイバー犯罪者向けに公然と宣伝されていることは確認しています。

購入希望者に示される比較資料では、このプラットフォームがChatGPT-4o、DeepSeek-V3、Mistral-Largeと比較され、主流のシステムが拒否するカテゴリーのコンテンツを各モデルが生成するかどうかが示されています。マーケティングでは、この「無制限の出力」がセールスポイントとして打ち出されています。

今回の調査では、この広告が実在するMessiahGPTのWebサイト(messiahgpt.de)にリンクしていることも確認されました。現在、この公開サイトはより穏当な言葉遣いを用い、コーディングやペネトレーションテスト、OSINTなどをうたい文句にしていますが、研究者らはフォーラム上の宣伝文句においてはるかに露骨な犯罪利用が記載されていることを確認しています。

ランサムウェアとフィッシングは、より広範な「攻撃メニュー」の一部

Trellixによると、宣伝されている生成物の中には、完全でコンパイル可能なランサムウェア、スティーラー、クリプター、ルートキットなどが含まれています。フィッシングキットの生成やソーシャルエンジニアリング用スクリプトに加え、詐欺の手引きや、侵害されたデータの悪用支援なども提供されているといいます。

宣伝されている機能は、被害者への接触からマルウェアコードの開発まで、侵入活動の複数の段階にまたがっています。

犯罪者向けのフィッシングキットは、ますますSaaSプラットフォームさながらに運用されるようになっています。AIを活用したサイバー犯罪ツールも、攻撃者が自動化・生成できる攻撃活動の範囲を広げています。MessiahGPTは、こうした複数の機能を単一のサービスに集約したものと言えます。

この宣伝活動は、非公開の犯罪者グループの外にも及んでいます。BreachForumsでの広告、専用Webサイト、Telegramでの活動という複数の経路を通じて、利用希望者がアクセスできるようになっています。

セキュリティチームはアクセス制限とアカウント保護を

組織にアクセスを許可する正当な理由がない場合は、DNSフィルタリングやセキュアWebゲートウェイを通じてMessiahGPTのドメインをブロックしてください。社内デバイスからの接続の試みをログに記録し、後から確認できるようにしておくことも重要です。

認証情報の流出が発覚した場合は、速やかに侵害されたパスワードを無効化し、フィッシング耐性のあるMFAで特権アカウントを保護してください。機密性の高いシステムに関わる不審なサインインについても確認することが重要です。有効なアカウントが1つでも突破されれば、環境の奥深くへの侵入経路となり得るためです。

EDRツールを利用して、悪意あるコードがエンドポイントに到達した際の挙動を監視してください。振る舞い検知型の監視であれば、ファイルやスクリプトが既知のサンプルと一致しない場合でも、不審なプロセス活動を検出できます。

自組織のネットワークの外で誰が犯罪目的のAIサービスにアクセスするかを制御することはできません。だからこそ、防御は、攻撃者がネットワーク内でなお突破しなければならないポイントに重点を置くべきです。不正アクセスを制限し、アカウントを保護し、コード実行を監視することで、侵入の拡大を防ぐことができます。

関連記事: 現在も悪用が続くSAP Commerce CloudのRCE脆弱性は、未パッチの環境を高いリスクにさらしています。