- Flashpointは、AIが現在ディープフェイクベースのKYCバイパスに多く使用されており、合成ビデオ、音声クローニング、偽造文書をバンドルしたツールキットを販売するポストがあることを発見しました
- 犯罪者は新しいAIツールの構築にはあまり関心がなく、代わりにジェイルブレイク、プロンプトワークフローを改善し、VeniceAIのようなより安全保障が少ないモデルへシフトしており、フィッシングスクリプトと偽装プロンプトはコモディティとして取引されています
- 研究者は、これらの進化し続ける方法への可視性が防御者にとって重要であることを強調しており、より早期の検出と、アクティブな詐欺技術に対するより的を絞った対応を可能にします
サイバー犯罪者がキャンペーンでAI（人工知能）を使用していることは既知の事実ですが、新しい研究によると、彼らがツールを使用する方法はほぼ毎分変化しているとのことです。
セキュリティ研究者Flashpointからの報告書は、詐欺師がどのようにAIを主にディープフェイクで人々になりすまし、顧客確認（KYC）プロトコルをバイパスして詐欺を可能にするかを概説しています。
この報告書は、違法な活動のためにAIをどのように使用するかについてのウェブ全体での230万を超える議論に基づいており、Flashpointは63,000を超えるポストがAIを使用したKYCバイパス方法について議論していることを見出し、多くの場合、脅威者は包括的なツールキットを販売していました。
成熟した業界
Flashpointは、これらのソリューションがライブ検証動作をシミュレートするように設計された合成ビデオ生成、音声クローニング、スクリプト化されたインタラクションプロンプト、および偽造文書をバンドルしており、仲間が始めから終わりまで偽の身元を使用することを可能にしている方法を概説しました。
一部の売り手は、特定のプラットフォームまたは検証要件に製品を適応させるためのガイダンスを提供し、買い手のフィードバックに基づいてリアルタイムでリストを更新していました。
Flashpointはまた、ハッキング集団が「成熟した」と述べており、もはや新しいAIツールの構築に関心がなく、代わりにジェイルブレイク方法、プロンプト共有ワークフロー、およびChatGPTやGeminiのような業界標準と比較して安全保障が少ないモデルへの移行に関する議論を通じて、既存のツールから最大限の利用価値を引き出すことに焦点を当てています。
報告書によると、VeniceAIはメンションの顕著な急上昇を見ており、主にプラットフォーム専用の新しく形成されたRedditおよびDiscordコミュニティによって推進されています。プロンプト自体はコモディティになり、詐欺師はフィッシングスクリプト、段階的ななりすましワークフローなどを共有しています。
「セキュリティチームにとって、優先事項はこれらの方法がどのように進化し、どこで適用されているかについて可視性を維持することです」とFlashpointは述べました。
「その可視性は、早期検出、より的を絞った対応、およびどの技術がアクティブに流通しているかについてのより明確な理解をサポートします。」
「これらのソースを監視することで、そのコンテキストが提供されます。観察されたアクティビティを、それを支える方法に結びつけ、チームがこれらの方法がどのように時間とともに発展するかを追跡するのを支援します。」
