世界経済フォーラム（WEF）は、ディープフェイクの急速な進歩がデジタルIDシステムにおける信頼の維持にとって大きな課題になりつつあると警告した
ディープフェイク生成技術、とりわけ顔入れ替えツールは、悪意ある攻撃者が本人確認（KYC）やリモート検証プロセスを回避することを可能にし、デジタル上の信頼に依存するあらゆる機関に対して、財務上、運用上、そしてシステム全体に及ぶリスクを生み出している。
1月8日に公開された世界経済フォーラムのサイバー犯罪アトラス向けの新しい報告書は、この進展が、脅威アクターが金融サービスや暗号資産をますます標的にしているといった他の懸念すべき傾向と同時期に起きていることを指摘した。これらは特にKYC回避攻撃を受けやすい分野である。
「犯罪者は現在、AI生成または盗まれた身分証明書、高度な顔入れ替え、そしてカメラインジェクションを組み合わせてライブ検証を回避している」と報告書は述べている。
現在の商用顔入れ替えツールはKYC保護を回避する
研究チームは、サイバー犯罪アトラスのプロジェクト専門家であるナタリア・ウマンスキー氏と、同アトラスのリードであるシェーン・ドイル氏をはじめ、バンコ・サンタンデールおよびGroup-IBの研究リードも含めて、17の顔入れ替えツールと8つのカメラインジェクションツールを分析し、それらがKYC回避を効果的に可能にするかどうかを評価するとともに、現在のディープフェイクの状況を特徴づけた。
KYC保護は、多くの業界で新規顧客の身元を認証し、それに伴う潜在的リスクを評価するために用いられている。典型的なKYCプロセスは、書類検証（政府発行の身分証明書（パスポート、IDカード、運転免許証）の収集と自動検証）と、生体認証（ライブの生体サンプル（例：顔画像や短い動画）を身分証明書と照合）を組み合わせる。
悪用の可能性を防ぐため、ツールの名称、ベンダー、段階的な悪用手法は報告書から削除されているが、ほとんどは創作または娯楽用途を意図したものであり、公開されているドキュメントやウェブサイトにおいて、KYC回避機能を明示的に含むものはなかった。
しかし研究者らは、一部のツールには従来のデジタルKYC保護を打ち破る能力が含まれていると結論づけた。
研究者らは「総じて最大のKYCリスクは、低遅延・高忠実度のリアルタイム入れ替えが、検証パイプラインへ直接投入できる場合に見られた」と記している。
さらに分析では、中程度の品質の顔入れ替えモデルであっても、カメラインジェクション技術と統合されると、特定の環境条件または技術条件下で一部の生体認証システムを欺けることが示された。
研究者らは「ただし大半の攻撃には、特に時間的同期、照明、圧縮アーティファクトにおいて検知可能な不整合が依然として見られる。これらの弱点は、高度な検知モデルやフォレンジック対策にとって実行可能な注力点を提供する」と付け加えた。
続きを読む：身元詐欺が停滞する中、AIとディープフェイクを用いた不正が急増
KYC保護に対する将来のディープフェイク駆動型脅威を予測する
ディープフェイクツールに関する技術分析に加え、研究者らは、今後1年でこの領域が採用していく可能性が高い5つの傾向と方向性を予測した。
-
AIツールの民主化により参入障壁が下がり、攻撃の複雑性が増大
-
金融および暗号資産が主要標的であり続け、他のKYC依存セクターへも拡大
-
顔入れ替え技術の忠実度向上によりリアリティが増し、検証が損なわれる
-
短期的には提示攻撃が継続し、アクティブな生体検知（ライブネス）の導入が進むにつれてインジェクション攻撃が激化
-
断片化した規制が短期的には防御を制約する一方で、規制の収れんにより中期的にはレジリエンスが向上する可能性
WEFの報告書はまた、将来増大するAIおよびディープフェイクによるKYC回避攻撃の脅威を軽減するため、ライブネスやアンチスプーフィングのベンダーなどのKYCソリューション提供者、KYC保護に依存する組織内の不正対策チーム（例：リスクエンジン、監視部門）、ならびに国内外の機関に向けた27の提言を示した。
研究者らは「本研究は、防御の状況が生成AIの進歩と歩調を合わせて進化しなければならないことも明らかにしている。検知モデルは既知のパターンを認識するだけでなく、継続的学習、フィードバック統合、プラットフォーム横断のシグナル相関を通じて将来のパターンを予測しなければならない」と述べた。
「攻撃者がオープンソースのAIモデルと低コストのハードウェアを活用するにつれ、リアルタイムのなりすましを実行する障壁は引き続き低下し、同等に機敏な防御が求められる。」
Unmasking Cybercrime: Strengthening Digital Identity Verification against Deepfakesと題されたWEFのサイバー犯罪アトラス報告書は、Lemon、Mastercardおよびその子会社Recorded Future、SpyCloud、Trend Microとの協力により作成された。
翻訳元: https://www.infosecurity-magazine.com/news/wef-deepfake-faceswapping-security/
