制限なしAIモデル「MessiahGPT」、ハッカーによるランサムウェアやフィッシングキット生成を可能に

MessiahGPTと名付けられた新たな犯罪用AIサービスがBreachForumsで宣伝されています。このサービスは、ランサムウェアを生成できる制限なしの攻撃的モデルとして売り込まれており、フィッシングキットや情報窃取ツール、クリプター、ルートキット、ソーシャルエンジニアリング用コンテンツなどを要求に応じて作成できるとされています。

Trellix Advanced Research Centerの報告によると、このサービスはmessiahgpt[.]deというドメインを通じて運営されており、関連するTelegramコミュニティも宣伝されています。これは、これまでの非公式な「ジェイルブレイク」ボットから、より体系化されたサイバー犯罪サービス(cybercrime-as-a-service)プラットフォームへの移行を示すものです。

Reinforcement Learning from Human Feedback(人間のフィードバックによる強化学習)やポリシーベースのモデル制御といった安全対策を採用する主流の生成AI製品とは異なり、MessiahGPTは倫理的・法的な制約が一切ないことを売りにしています。

運営者らは、このモデルが制約のないマニュアル、ダークウェブのアーカイブ、流出文書、フィルタリングされていないインターネットデータを使ってゼロから学習されたと主張しています。

技術的なアーキテクチャに関する情報を含め、こうした主張は独自に検証することができませんが、犯罪フォーラムでの公然たる宣伝や、誰でもアクセス可能なプラットフォームであること自体が、明確な意図を示していると言えます。

このサービスは、データベースの共有や妨害活動、さらにはハクティビスト系グループとの連携で知られるサイバー犯罪コミュニティ「Dabial Leaks」によるものとされています。これはUndercode Testingが報じています。

制限なしAIモデル「MessiahGPT」

MessiahGPTは、128人のエキスパートから成るMixture-of-Expertsアーキテクチャを採用し、トークンごとに16人のエキスパートが活性化する仕組みだとされています。このアーキテクチャはリクエストを専門化されたモデルコンポーネントへ振り分けるよう設計されており、常時すべてが稼働するモデルと比べて運用コストを抑えられる可能性があります。

ただし、宣伝されているエキスパート数やモデルサイズ、学習プロセスを裏付ける独自の証拠は存在しません。

MessiahGPTの技術的な主張よりも懸念すべきなのは、その商用設計です。報道によれば、ユーザー登録なしで50回までの無料クエリが利用でき、有料プランは月額約8ドルから提供されているとのことです。

決済は本人確認(KYC)を必要としない暗号資産のみで受け付けられています。この参入障壁の低さにより、経験の浅いユーザーでも、高度なマルウェア開発スキルや既存の犯罪マーケットプレイスへのアクセス手段を持たないまま、悪意あるプロンプトを試したり攻撃を拡大したりできる可能性があります。

Antivirus& Malware

このサービスがもたらす脅威は、必ずしも生成されるすべてのペイロードの巧妙さにあるわけではありません。むしろ、このプラットフォームによって、フィッシングの誘い文句や認証情報窃取ページ、スクリプト、マルウェアの試作品などの量や種類が増加する恐れがあります。

AIを活用したフィッシングは、特定の業界、職種、時事ネタ、地域の言語パターンに合わせて調整できるため、これまで文法の誤りや繰り返しのテンプレート、既知の悪意あるテキストへの依存に頼っていた従来の検出フィルターの有効性が低下してしまいます。

セキュリティチームは、単にドメインをブロックするだけでは十分な対策にならないことを念頭に置くべきです。DNSセキュリティ制御、セキュアウェブゲートウェイ、ファイアウォールの送信ポリシー、脅威インテリジェンスフィードによってmessiahgpt[.]をブロックすることは、管理下のエンドポイントからの直接アクセスを減らす効果はありますが、攻撃者はプロキシや別のインフラ、コピーされた出力、独自にホストされたフィッシングコンテンツなどを依然として利用できてしまいます。

したがって、組織はDNSログを監視して新たに観測された不審なドメインを検出し、異常な送信接続にフラグを立てるとともに、大量のファイル変更や異常なアーカイブ作成、認証情報のダンプ、不審なスクリプトエンジンの実行といったエンドポイント上の活動を調査する必要があります。

YARAルールは補完的な対策として役立ちますが、「AIが生成したコード」を識別しようとするのではなく、具体的なマルウェアの挙動やファイルの特徴を対象にすべきです。

効果的な検出ロジックでは、不審なインポートの組み合わせ、埋め込まれたエンコード済みコンテンツ、暗号化API、永続化の仕組み、プロセスインジェクションの挙動、既知のコマンド&コントロールのパターンに着目するとよいでしょう。

攻撃者がペイロードの亜種を容易に再生成できる状況では、静的なシグネチャよりも、挙動ベースのエンドポイント検知・対応(EDR)の方が高い耐性を発揮します。

MessiahGPTは、同じく公然と宣伝されている「無検閲」AIサービスであるDarkGPTなどを含む、より広範なアンダーグラウンド市場の中で運営されています。

ここで重要な教訓は、攻撃者の能力がコーディングスキルと直接結びついているとはもはや言えないという点です。組織はAIを活用した攻撃の影響を軽減するため、フィッシング耐性のある多要素認証(MFA)、メール認証、サンドボックス化、最小権限アクセス、変更不可能なバックアップ、DNSの可視化、送信制御、そして迅速な挙動検出を優先すべきです。

新たなフィッシングやマルウェアが企業に被害を及ぼす前に阻止しましょう。 世界15,000のSOCからのライブインテリジェンスを統合

Antivirus& Malware