ロシア人ハッカー、脱獄させたClaudeをペンテストプラットフォームに転用

あるロシア語圏のサイバー犯罪者が、ロシア語フォーラムに脱獄(ジェイルブレイク)手法の解説を投稿してからわずか3カ月で、その手法を組み込んだ攻撃的AIペンテストプラットフォームを商用販売するまでに至ったことが明らかになりました。

Cato Networksの研究部門であるCato CTRLの新たな調査によると、Trimというハンドルネームを使う人物が3月31日にこのフォーラムに初めて登場し、Claude Opusの安全フィルターを回避する6つの手法を名付けて詳細に解説する投稿を行いました。

そして6月21日には、同じ利用者層に向けて実働する製品「AI Pentest Checker」を引っさげて再び姿を現しました。この製品の中核には、自ら文書化したClaudeの脱獄手法が組み込まれていました。

Trim氏によれば、Telegramの転売業者からグレーマーケットのClaude APIキーをわずか4ドルで購入し、それを基盤にツールを構築したといいます。Cato はこの手口を、より広範なトレンドの最先端を示す事例だと位置付けています。

脱獄研究に関する関連記事: セキュリティ研究者、生成AIツールがChrome向け情報窃取マルウェアを開発できることを実証

解説投稿から製品化まで、わずか3カ月

Trim氏が3月に投稿した内容では、名前を付けた6つの脱獄手法が共有されていました。その一つ「Context Warming(文脈のウォーミングアップ)」は、まず無害な業務上の質問でセッションを開始し、正当な監査担当者としての人物像を確立してから、悪意ある要求をさりげなく差し込むという手法です。

もう一つの「Ghost Reset(幽霊リセット)」は、セッションを一度削除して再度開き、直前の拒否応答を「ネットワーク切断」だったと言い換えたうえで、当初のプロンプトを和らげた形で改めて入力するという手法です。Trim氏はこの手法について、試行の90%で成功したと主張しています。

Claudeが頑なに拒否を続けた場合の代替策として、この投稿ではmodal.com経由で無料で利用できるKimi AI、GLM-5、MiniMax 2.5などの代替モデルを推奨していました。3月の投稿には、別のフォーラム利用者から回避手法の有効性を裏付ける詳細な技術的返信が寄せられていました。

核心にあった流出済みシステムプロンプト

6月の製品投稿では、AI Pentest Checkerを、重大な脆弱性のエスカレーション処理にClaude Opus 4.8を、エクスプロイトレポートの生成にGLM-5を組み合わせた、自動Webぜい弱性スキャンプラットフォームと説明していました。

これらのAIエンジンの周囲には、Nuclei、ffuf、katana、gitleaksを含む14種類の従来型スキャンツールが配置されています。Trim氏は、対象ドメインをスキャンしてから10分以内にPDFレポートを生成できると宣伝していました。

Claude Opus 4.8の上位に位置するエスカレーション用プロンプトについても、フォーラム投稿ではAnthropicがガードレールを設けた一般公開向けフロンティアモデルであるFable 5から流出したシステムプロンプトを基にしていると説明されていました。

システムプロンプトとは、モデルの挙動と安全境界を形づくる非公開の指示セットのことです。Cato は、モデルのシステムプロンプトに書かれた正確な文言、例外条件、条件分岐のロジックを知ることで、攻撃者は手探りで探るのではなく、各条項を個別に回避するよう入力を設計できるようになると指摘しています。

Trim氏は、最初の50人のベータテスターと、マネタイズ提携先として名を連ねたパートナーに無料のアクセスキーを提供していました。

翻訳元: https://www.infosecurity-magazine.com/news/trim-jailbroken-claude-ai-pentest/

ソース: infosecurity-magazine.com