フィルターなしの犯罪特化型AIプラットフォーム「Kriminal」がサイバー犯罪への悪用懸念を招く

ある企業が「制限なし」を謳うAIプラットフォームを販売しており、この製品がサイバー犯罪者に利用される可能性について懸念が浮上しています。

このモデルの名称は「Kriminal」で、Malwarebytesの法人向けセキュリティブランドであるThreatDownが昨日公開した新しい調査の対象となっています。ThreatDownはブログ投稿の中で、Kriminalを「犯罪AI市場において最も新しく、最も人気のあるツールの一つ」と説明しています。

このプラットフォームの名称や、ThreatDownが新興の「犯罪AI」市場における人気ツールと位置付けている点にもかかわらず、Kriminalは表のWeb(クリアウェブ)上でインデックスされており、Googleで単純検索するだけで見つけることができます。攻撃能力を前面に押し出して宣伝することが多い従来のエクスプロイトキットや他のサイバー犯罪サービスとは異なり、Kriminalはむしろ一般的なSaaS(サービスとしてのソフトウェア)製品のような体裁を取っています。

Kriminalと違法サービスとの共通点の一つが決済方法です。サブスクリプションは暗号資産のみで購入可能となっています。利用料金は月額12.99ドルから始まります。

Kriminalのウェブサイトによると、これまでに18,400件を超えるメッセージが同プラットフォームに送信され、アクティブユーザー数は2,300人、質問への回答率は99%に上るとされています。

Kriminalの構成要素

Kriminalのウェブサイトは自らをサイバー犯罪ツールとは明示的に謳っていないものの、最上位プランの料金を支払ったユーザー向けに、「ソーシャルエンジニアリング&ペルソナ作成」機能を提供する「WRAITH」を用意しています。もう一つの機能である「ARCHITECT」エージェントは、「攻撃的セキュリティ&エクスプロイトの専門家」を謳っています。Kriminalはこのほかにも、ガードレールなしの陰謀論的な議論、検閲なしの画像生成、氏名や住所といった情報を対象としたOSINT(オープンソースインテリジェンス)スキャン、暗号資産の追跡なども提供しています。

さらに、Kriminalの利用規約ページには、本サービスは「研究、創作、教育を目的とする」ものであると明記されており、「適用される地域、国内、または国際的な法律に違反する形でサービスを利用すること」を禁止しています。この利用規約から、Kriminalの運営者は「検閲なし」のAIサービスと、モデレーションを一切行わないサービスとを区別していることがうかがえます。実際、規約には未成年者が関わる違法な搾取コンテンツを検知するための手動・自動検出の仕組みへの言及があり、同社はそうしたコンテンツの生成をユーザーが試みた場合、関係当局に通報される可能性があるとしています。

とはいえ、このプラットフォームのフィルターなし・ガードレールなしを前面に押し出したマーケティング戦略は、サービス名そのものも相まって、多くの疑問を投げかけています。Kriminal AIの運営者は、サービスのウェブサイト上で自らの身元を公にしておらず、連絡先情報も掲載されていません(Dark Readingは同社への取材を試みましたが、本稿執筆時点で回答は得られませんでした)。一方で、OSINTスキャンや暗号資産の追跡、攻撃的なセキュリティテストは、正当な目的を持つ関係者によっても利用されている技術です。

Kriminal:既製AI部品の寄せ集めか

「サイバー犯罪ネットワーク」と表現するものについて、ThreatDownは、Kriminalが自らを「他社のAPIをジェイルブレイクでラップしただけのものではない」と喧伝していると述べています。しかし、内部を分析してみると、そのコンポーネントのほぼすべてが独自開発のものではないことが分かったとしています。

同社の分析によると、Kriminalは主要な推論にGrokを利用し、ホスティングにはGoogle CloudとCloudflareを使用しているとみられます。また、長文コンテキストを扱うモデル層にはAnthropicのClaudeを、特定の専門タスクにはOpenRouter経由でルーティングされたLlamaを利用しているようです。さらに、リアルタイム検索にはTavilyを、暗号資産決済には(どうやらKYCなしの)NowPaymentsを、DNSとTLSにはCloudflare/Let’s Encryptを利用しているとみられます。

ThreatDownが指摘するように、Kriminalが各種モデルを本来の用途とは異なる目的で利用しているとしても、それぞれのモデルは犯罪行為全体のうちの一部分しか把握していません。

「これがこの仕組みの強靭さの理由です。Cloudflareにはトラフィックは見えても、それが何のためのものかは見えません。NowPaymentsには暗号資産の決済は見えても、それが何を購入するためのものかは見えません」とThreatDownのブログ投稿は説明しています。「スタックを構成する各ベンダーは、自らの担当する層だけしか可視性を持たないため、全体像を把握できる企業は一社も存在せず、各社はそれぞれの断片しか把握できません。摘発すべき対象は、押収すれば済むような一つの防弾ホスティングではなく、一連の作戦のうちの断片をそれぞれ扱う十数件もの個別の乱用対応チケットに分散しているのです」

ThreatDownの調査や見解が正確なものであるとすれば、Kriminalは自らが依拠しているモデルを提供するAI事業者にとって、コンプライアンスやポリシー上の問題を引き起こす可能性があります。しかし、利用規約違反を立証することは容易ではないでしょう。何らかの結論を導き出すには、具体的な契約内容やAPIの利用パターン、生成された出力内容を個別に精査する必要があるためです。