新たに確認されたMessiahGPTは、BreachForums上で宣伝されている犯罪者向けAIサービスです。ランサムウェア、フィッシングキット、スティーラー、クリプター、ルートキットを無制限に生成できるプラットフォームとして売り込まれています。
このサービスは、単発のジェイルブレイクプロンプトから一歩進み、サブスクリプション制の商用サービスへと移行している点が特徴です。これにより、これまでサイバー犯罪の参入障壁となっていた技術的なスキルの壁を取り払うことを狙っています。
Trellix Advanced Research Centerによると、MessiahGPTは公開サイトmessiahgpt[.]deと、Telegramコミュニティを通じて運営されているとのことです。
広告では、128個のエキスパートを持ち、トークンごとに16個が活性化するカスタムMixture-of-Expertsモデルを採用し、人間のフィードバックによる強化学習（RLHF）やConstitutional AIによる安全対策は一切導入していないとうたわれています。
運営者側の説明によれば、このモデルは制限のないマニュアル、ダークウェブのアーカイブ、流出文書、フィルタリングされていないウェブデータを用いて訓練されたとされています。ただし、これらの主張はあくまで販売元によるマーケティング上の説明であり、第三者による検証は行われていません。
こうした技術的な触れ込みと同様に懸念されるのが、その経済モデルです。MessiahGPTは匿名で50回まで試用クエリを利用でき、その後は月額$8からの有料プランに移行するとされており、支払いは本人確認（KYC）不要の暗号資産で行えるといいます。
Undercode testingの調査によると、広告ではコンパイル可能なマルウェア、フィッシング用インフラ、ソーシャルエンジニアリング用コンテンツなど、犯罪目的の素材の生成が明確に宣伝されているとのことです。
実際のところ、こうしたツールはスキルの低い攻撃者であってもコードの下書きを作成したり、標的ごとにルアーを調整したり、キャンペーンを翻訳したり、亜種を素早く量産したりする助けになりかねません。
とはいえ、AIが生成したペイロードのすべてが目新しく、有効で、最新のセキュリティ対策を回避できるというわけではありません。また、宣伝されているモデルアーキテクチャそのものが、その性能を証明するものでもありません。
明確な事実として確認できるのは、このサービスが犯罪者向けの場で公然と宣伝されているという点です。しかし、運用面でのリスクは現実のものです。AIは悪意あるコンテンツの量、ローカライズ、パーソナライズを高める一方で、盗んだデータから説得力のあるフィッシング攻撃に至るまでの時間を大幅に短縮しうるからです。
防御側にとって適切な対応は、「AI生成マルウェア」を独立したカテゴリーとして探すことではありません。発生源の特定は信頼性が低く、「encryption」「Base64」「Python imports」といった汎用的な文字列に反応する静的ルールは、過剰な誤検知を招くだけです。
検知の焦点を当てるべきは、実際に観測できる攻撃の挙動です。具体的には、不審なメールボックスルールの作成、認証情報を窃取するページ、異常なIDプロバイダーへのサインイン、大量のファイルリネーム、不審な暗号化処理、エンドポイント上の異常なプロセスチェーン、未承認の外部通信などが挙げられます。
組織はSPF、DKIM、DMARCの強制適用によりメール認証を強化し、添付ファイルのデトネーション（起爆検査）やURLの書き換えを活用し、フィッシング耐性のある多要素認証を必須とし、検証済みのオフラインまたはイミュータブルなバックアップを維持すべきです。
セキュリティ運用チームは、DNS、プロキシ、エンドポイント、ID関連のテレメトリを相互に照合し、新規ドメインや新たに登録されたインフラ、異常な送信トラフィックのパターンを調査する必要があります。ドメインのブロックは封じ込め策として有効な場合もありますが、攻撃者はインフラを迅速に移動させることができるため、恒久的な対策とはなりません。
脅威インテリジェンスチームは、このサービスおよび関連チャンネルを継続的に追跡し、インジケーター、広告内容、主張されている機能を把握する一方で、実際に観測された事実と運営者側の未検証の主張とを明確に区別する必要があります。
インシデント対応担当者は、ランサムウェア対応のプレイブックを見直し、エンドポイントの隔離手順を検証し、事業部門の責任者とともに復旧に関する意思決定の訓練を行うべきです。
MessiahGPTの登場は、単一のマルウェアファミリーに関する一事件というよりも、自動化された攻撃支援を提供するアンダーグラウンド市場が成熟しつつあることを示す証左だと言えます。
ここから得られる防御上の教訓は明快です。攻撃者は低コストで洗練された、多様なコンテンツを作成できると想定すべきだということです。対策は、文法ミスや使い回されたテンプレート、あるいは「攻撃者のスキルは低いはず」といった思い込みではなく、ID、行動、セグメンテーション、そしてレジリエンスを軸に構築する必要があります。
ANY.RUNのブラウザ内データ検査で、検知・調査・対応をより迅速に。フィッシングの全体像を把握し、SOCを強化してMTTRを削減しましょう
翻訳元: https://cyberpress.org/messiahgpt-blackhat-ai-tool-helps-hackers-create-ransomware-phishing-attacks/
