顔入れ替えツールが「顧客確認（KYC）」リスクを高める

新たな研究は、ますます高度化するディープフェイク技術に直面し、金融機関の不正対策・リスク管理チームは顧客確認（KYC）の安全対策を強化しなければならないと警告している。

ディープフェイク生成の急速な進歩や、詐欺師が利用できるその他のツールの改良により、生体認証の「ライブネス」テストを含むさまざまなリモート本人確認の信頼性がすでに揺らいでおり、状況はさらに悪化する見込みだと、世界経済フォーラム（WEF）のサイバー犯罪アトラス・プロジェクトが公表した、サイバー犯罪の動向と対抗戦略を追跡する報告書は述べている。

報告書によれば、特に複数を組み合わせて用いられる場合、本人確認を突破するためのツールや手法は、KYC要件への対応を含め「デジタル上の信頼」に依存するあらゆる機関に対して「財務上、運用上、そしてシステム上のリスク」をすでにもたらしている。

詐欺師の最新のAI対応ツールとその能力への関心は依然として高い。2022年11月のChatGPT公開後、サイバーセキュリティ企業Group-IBは、2023年にダークネットのフォーラムやTelegramチャンネルでAIに関する議論が急増したことを追跡しており、その勢いは衰えていない。

Group-IBによると、サイバー犯罪者がアンダーグラウンド市場で入手できるものには、すぐに使える合成IDキットが各種含まれ、個人の偽IDは5～15ドルで取引されている。一方、すぐに使える画像や動画を提供するディープフェイク・アズ・ア・サービスのサブスクリプションは、Darkpaint、Shawtyclub、Rysucaといった事業者から月額10～50ドルで入手できるという。「ターンキーの顔入れ替え」をうたうディープフェイクツールは、Haotian AIやChenxinAIといった名称で1,000～10,000ドルで販売されている。音声なりすましツールはより安価で、BoltFox、Gorilla p1 bot、Google Voice P1、Stunnaといった名称で1,000～3,000ドルで販売されている。

こうしたサービスは、AIに興味を持つ不正者にとって参入障壁を下げる。より高性能なツールだけでなく、デジタルの元素材が豊富にあることも相まって、実在人物の説得力あるディープフェイクを作るのはこれまでになく容易になっている。

Group-IBは、「攻撃者はソーシャルメディア、ウェビナー、あるいは過去の通話からサンプルを収集する」とし、「音声がわずか10秒あれば、詐欺師は同僚、上司、家族の説得力あるクローンを作成できるようになった」と述べた。

世界経済フォーラム報告書の著者ナタリア・ウマンスキーは、犯罪者が商業的に入手できるもの（正規のツール、または不正利用のために開発されたツール）は完璧ではないが、急速に改善していると述べた。

「17種類の顔入れ替えツールとカメラ注入技術を分析した結果、明確な変化が見られました。多くのツールは依然として不完全である一方、すでにリアルタイムで高忠実度のなりすましを可能にし、デジタルKYCを突破できるものもあります。脅威アクターは、AI生成または盗難された本人確認書類、高品質な顔入れ替え、カメラ注入を組み合わせ、ライブ検証を回避するケースが増えています」と彼女は述べた。

レビュー対象となった17の顔入れ替えツールのうち、11はクリエイティブ、エンターテインメント、またはソーシャルメディア用途として販売され、2つはレッドチームを含むセキュリティテスト用途として販売されている。

報告書は、顔入れ替えツールが、口座開設や不正行為のために完全に架空の人物像、いわゆる合成ID（シンセティック・アイデンティティ）を作り出すのに利用され得ると警告している。こうしたツールは実在人物のなりすましにも使える。多くの場合、利用者は別人（実在人物またはツール生成）の顔をデジタルで「装着」したまま、自然に首を動かし、笑い、まばたきすることができる。中には、KYCチェックを確実に突破できると約束してサイバー犯罪サイトで明示的に販売されているツールもある。

報告書は、今後12～15カ月で、より高度な顔入れ替え系ツールへの犯罪者のアクセスが増加し、金融サービス企業や暗号資産プラットフォームへの不正な攻撃が増えるほか、比較的最近KYCを導入した分野でもKYC回避の試みが増えると予測している。

新たにKYCに熱心な分野としてはギャンブル業界と通信業界が多いが、デジタルIDに依存するあらゆる業界が標的になり得る（参照: 概念実証：ボットか購入者か？小売におけるアイデンティティ危機）。

WEFの報告書はまた、無料ソフトから10～3,000ドルのアプリケーションまで幅広い8種類のカメラ注入ツールもレビューしており、これらもデジタル本人確認の回避に使われている。3つのツールは事前に用意したメディアでのみ動作し、別の3つは事前準備メディアとライブ配信の両方に対応していたが、結果は常に完璧ではなかった。

報告書によれば、「全体として、カメラ注入の能力は技術的に多様である一方、遅延、コンテンツ形式の要件、検出可能なデバイス由来の痕跡によって制約されていた」。また、多くのツールはOSのタスクマネージャー上で実行プロセスとして確認できるため、想定外のドライバーやプロセスが発見され得るという。

少なくとも現時点では、多くのカメラ注入ツールは「動的プロンプトやソフトウェア開発キット（SDK）レベルの整合性チェックを用いる最新のKYCシステムを、確実に突破する能力には限界があるように見える」と報告書は述べている。

専門家は、犯罪者がより高い秘匿性を提供する優れた仮想カメラドライバーを開発し、特にハイエンドGPUと組み合わせた場合に、遅延や目に見える不自然さが少ないリアルタイム配信機能を改善したソフトウェアが登場することで、状況は変わると見ている。

こうした偽装を検知して不正審査チームにフラグ付けする役割の一部は金融機関のKYCソフトウェアベンダーが担うことになるが、WEFはさらに、急速に進化する技術を踏まえてガバナンスプロセスを更新すること、レッドチーミングを通じて技術的防御と人による防御を定期的にテストすること、そして最新の革新を追跡するために官民で豊富にインテリジェンス共有を行うことを推奨している。