はじめに
Resecurityは、検閲のないダークネットAIアシスタントの出現を確認しました。これにより、脅威アクターは高度なデータ処理能力を悪意ある目的で活用できるようになります。その一つであるDIG AIは今年9月29日に特定され、すでにサイバー犯罪者や組織犯罪の界隈で人気を集めています。2025年第4四半期には、当社HUNTERチームが、悪意あるアクターによるDIG AIの利用が顕著に増加していることを観測しました。これは、世界的に違法活動が新記録に達した冬季休暇期間中に加速しました。2026年にはミラノ冬季オリンピックやFIFAワールドカップなど重要イベントが予定されており、犯罪AIは新たな脅威とセキュリティ上の課題をもたらし、悪意ある者が作戦を拡大し、コンテンツ保護ポリシーを回避することを可能にします。
「良くない」AI
「良くない」（「犯罪」または「検閲なし」）AIとは、サイバー犯罪、過激主義、プライバシー侵害、誤情報の拡散など、違法・非倫理的・悪意ある、または有害な活動のために人工知能（AI）を利用することを指します。合法性と倫理性は、ツールそのもの、どのように使われるか、誰が使うか、そして社会に害を及ぼし得る技術の作成主体にも左右されます。
サイバー犯罪フォーラムにおける悪意あるAIツールの言及と利用は大幅に増加しており（2024〜2025年で200％超）、これら技術の急速な採用と進化を示しています。FraudGPTとWormGPTはサイバー犯罪者向けに特化して販売される最も有名なAIツールですが、脱獄（jailbroken）やカスタマイズされたLLMが定期的に登場しており、状況は急速に変化しています。これらのツールは、悪意ある活動を自動化・強化することで、サイバー犯罪の参入障壁を下げます。
これらのツールはしばしば「ダークLLM」（大規模言語モデル）または「脱獄」AIチャットボットと呼ばれ、ゼロから構築されたもの、あるいは正規のAIモデルを改変して安全制限を取り除いたものです。
DIG AIは、爆発物の製造から、CSAMを含む違法コンテンツ作成に至るまでの助言を生成するために、悪意あるアクターがAIの力を活用できるようにします。DIG AIはTORネットワーク上でホストされているため、この種のツールは法執行機関にとって容易に発見・アクセスできません。これらは、海賊版や派生物からその他の不正行為に至るまで、重要な地下市場を形成します。
それでも、国際電気通信連合（ITU）およびデジタル技術を担当する国連（UN）機関によって2017年に設立されたAI for Goodのように、新技術の責任ある利用を促進する重要な取り組みがあります。しかし、悪意あるアクターはその正反対、すなわちAIの兵器化と悪用に注力するでしょう。
DIG AIはアカウント不要で、Torブラウザから数クリックでアクセスできます。
サイバー犯罪に加えて懸念される主要分野の一つは、DIG AIのようなAI搭載ツールが過激派やテロ組織を支援し得る点です。
当社アナリストは、爆発物、薬物、禁止物質、詐欺、その他国際法で制限される領域に関連する分類辞書（タクソノミー辞書）を活用し、DIG AIの多数のテストを実施しました。
DIG AIは、悪意あるコンテンツ、詐欺的コンテンツ、スキャム（詐欺）コンテンツの生成を自動化するためにも利用できます。外部APIと組み合わせてパッケージ化することで、悪意あるアクターはサイバー犯罪オペレーションを拡大し、リソース集約的なタスクを最適化できます。
DIG AIは、悪意あるアクターが脆弱なWebアプリケーションにバックドアを仕込むために使用できる悪意あるスクリプトや、その他の種類のマルウェアも生成できました。
特筆すべき点として、コード難読化（特に比較的大きなコードブロックを処理する場合）のような計算負荷の高い処理には時間がかかります。DIG AI側で一部の処理が完了するまで3〜5分を要したことが観測され、計算資源が限られていることを示しています。これは、脅威アクターが有料のプレミアムサービスとして提供することで容易に緩和できるものです。同時に、これは「良くないAI」の新たなフロンティアでもあります。すなわち、悪意あるアクターが、負荷、同時リクエスト、複数の顧客による利用を考慮しつつ、作戦を効果的にスケールさせるために、カスタムのインフラ、さらにはバレットプルーフホスティングで用いられるようなデータセンターさえ設計・運用・維持するというものです。
DIG AIが生成した出力は、実際に悪意ある活動を行うのに十分なものでした。悪意あるオペレーションの自動化に用いられ、誤った手に渡れば、重大な技術的・金銭的損害を引き起こし得ます。
Pitchという別名で活動するDIG AI作者が公開した告知によれば、本サービスはChatGPT Turboを基盤としています。
本サービスは、Pitchが運営する地下マーケットプレイスの一つを含め、ダークウェブ上で積極的に宣伝されています。
DIG AIのバナーは、薬物取引や侵害された決済データの収益化などの違法オペレーションに関与するTORネットワーク上の複数のマーケットプレイスで見つかっており、潜在的なエンド顧客の層を示唆している可能性があります。
AIの犯罪化
DIG AIのようなツールは、安全対策として現代のAIシステムで用いられている既存のコンテンツポリシーやフィルタリング機構を回避するよう設計されています。これらのポリシーはAI倫理の観点から標準的なものです。法律に違反する有害・悪意ある・疑わしいコンテンツの生成につながり得る特定のキーワードや言語オペレーターに検閲を適用することで、ユーザーと社会の双方をAIの違法利用から守ることを目的としています。
OpenAIのChatGPT、AnthropicのClaude、Google Gemini/Bard、Microsoft Copilot、Meta AIなどのプラットフォームはいずれもコンテンツモデレーションシステムを採用しています。これらのシステムは、ヘイトスピーチ、誤情報、露骨な性的素材、暴力、違法行為、そして一部の法域では政治的発言といったカテゴリのコンテンツを検閲または制限します。この検閲の主な理由は、（EU AI Actなどの）法令遵守、ユーザーを危害から守ること、倫理基準の維持、そして企業の評判と市場アクセスの保護です。
立法者は、同意のないAI生成の性的画像を禁止するTAKE IT DOWN Actのような新たな取り組みを提案し、AI生成の児童虐待素材に関する規則も整備しています。焦点は、AIのactus reus（不法行為）およびmens rea（故意）に対する人間の責任に置かれており、FBIなどの機関はAIを用いた犯罪と闘う一方で、司法制度内でのAIの内部利用も規制しています。
これらの取り組みは、従来のインターネットおよびサービスプロバイダーにおいて必要です。しかし、これらの法律はダークウェブ上のコンテンツやサービスには適用されません。
サイバー犯罪者は、DIG AIをブランド悪用に利用する可能性もあります。テキスト生成とグラフィック生成の組み合わせは、悪意あるアクターに前例のない能力を提供します。
AI生成CSAM
拡散モデル、GAN、テキストから画像へのシステムなどの生成AI技術は、違法な児童性的虐待素材（CSAM）の作成に積極的に悪用されています。加害者はこれらシステムの技術的脆弱性を悪用して、極めて現実的な合成CSAMを生成・改変・配布し、検知、法執行、そして世界的な子どもの安全に重大な課題を突きつけています。
Resecurityは、DIG AIがCSAMコンテンツの制作を促進し得ることを確認しました。このツールは、完全に合成されたコンテンツを生成するか、実在する未成年者の無害な画像を改変することで、子どもの超高精細で露骨な画像や動画の作成を可能にし得ます。 この問題は、CSAMコンテンツの制作と流通に対抗するうえで、立法者に新たな課題を突きつけるでしょう。
当社チームは、DIG AIを用いて高度に現実的なCSAMコンテンツを作成する悪意あるアクターの証拠を収集・保全するため、関係する法執行当局（LEA）と連携しました。これは「合成（synthetic）」と表示されることもありますが、実際には違法と解釈されます。
2024年、米国の児童精神科医が、実在する未成年者の画像をデジタル改変してAI生成CSAMを制作・配布したとして有罪判決を受けました。画像は非常に現実的で、米国連邦法におけるCSAMの基準を満たしていました。法執行機関および子どもの安全に関する組織はAI生成CSAMの急増を報告しており、加害者には成人だけでなく未成年者も含まれます（例：いじめや恐喝のために同級生のディープフェイクヌードを作成する）。EU、英国、オーストラリアは、実在の子どもが描写されているかどうかにかかわらず、AI生成CSAMを明確に犯罪化する法律を制定しています。 2025年、Resecurityは犯罪者がすでにAIを利用していることを示す多数の指標を収集しており、AIを活用した新種のハイテク犯罪が2026年に出現すると予想されます。
新たなセキュリティ上の課題
悪意あるアクターは、特別に作り込まれたプロンプトや敵対的サフィックスを用いてAIシステムを悪用し、組み込みの安全プロトコルを回避して、モデルに禁止コンテンツを生成させています。DreamBoothやLoRAのようなツールは、加害者がオープンソースLLMを適応させ、標的型のCSAMを生成することを可能にします。 この問題は犯罪者に新たなビジネスモデルも生み出し、コスト最適化を可能にするとともに、違法性のある合成コンテンツを大規模に活用する地下経済の発展を促します。
Resecurityは、悪意あるアクターがデータセットを積極的に操作すると予測しています。たとえば、CSAMや無害コンテンツとアダルトコンテンツの混在を含み得るLAION-5Bのような汚染された学習データにより、モデルが違法な出力を学習し再現できるようになります。加害者は自前のインフラでモデルを稼働させるか、ダークウェブ上でホストして、オンラインプラットフォームが検知できない無制限の違法コンテンツを生成できます。また、同じサービスへのアクセスを他者に提供し、それぞれが不正かつ違法なコンテンツを作成できるようにすることも可能です。オープンソースモデルは、安全フィルターを除去または回避できるため、特に脆弱です。これらのモデルは、違法コンテンツを生成するようにファインチューニングされ、脱獄されています。
Resecurityは、2026年には、人間のアクターに加えて、犯罪化・兵器化されたAIが従来の脅威を変質させ、これまでにない速度で社会を標的とする新たなリスクを生み出すことで、インターネットコミュニティが不穏なセキュリティ上の課題に直面すると考えています。サイバーセキュリティおよび法執行の専門家は、このような危険な前兆の出現を懸念し、第5の戦場領域であるサイバーにおいて「機械」との戦いを継続する準備を整えるべきです。
