ディープフェイク詐欺ツールは期待に届いていない

出典：Stu Gray（Alamy Stock Photo経由）

ディープフェイク生成ソフトウェアは、おもちゃから正当な詐欺の脅威へと進化してきたが、その進展は予測よりも遅いことを示す証拠がある。 

世界経済フォーラム（WEF）の研究者は、2024年7月から2025年4月の間にオンラインで入手可能だった17のオープンソース（OSS）および商用のディープフェイクプログラムをレビューした。彼らは各ツールの手法と、顔認識アルゴリズムを無力化する能力を評価し、特に機微な「顧客確認（KYC）」の本人確認チェックの文脈に焦点を当てた。 

研究結果はまちまちだった（また、実機での検証が不足していたため、ツール自身のドキュメントやオンライン上の他のオープンソースから収集した情報に依拠しており、研究には一定の制約があった）。大半のツールは比較的安価で表層的であり、ソーシャルメディアなどの娯楽目的で販売されていることが分かった。一方で、少なくとも表向きにはプロ向けとして売り込まれているものもあった。より懸念される少数派は、深刻ななりすまし詐欺を可能にし得る高度な機能を備えているように見えた。

「ブラックマーケットで入手できます。アカウント1つあたり150〜200ドルです」と、ディープフェイク検知企業GetReal Securityの脅威リサーチ責任者トム・クロスは警告する。「そのアカウントはマネーロンダリングに関与している人たちに買われています。そういうことが今、組織的に起きています。脅威アクターは、ディープフェイクを使ってKYCで検証済みの銀行口座を手に入れられることを確実に理解しています。」

今日のディープフェイクソフトウェアのエコシステム

専門家によれば、現在のディープフェイクプログラムは大きく3つに分類できる。単なるポストプロダクションの動画編集ツールのもの、ホスト型のWebサービスのもの、そしてリアルタイムのウェブカメラ置換（スワップ）ツールだ。前者2つの方式でもそれなりに完成度の高いディープフェイクファイルは作れるかもしれないが、アルゴリズムをその場でリアルタイムに欺ける脅威となるのは、リアルタイムのウェブカメラ置換ツールだけである。

WEFが調査した17のプラットフォームのうち、ウェブカメラ置換ツールは5つだった。その5つのうち、偽の映像をKYCチェックで使われる種類のビデオフィードに直接注入できたのは3つだけだった。17のうち6つは、微細な動きや繊細な表情などを捉えて反映できるモーションキャプチャ技術を用いていた。しかし、難しく変化の大きい照明条件に対応できたのは2つだけで、しかもその場合でも、事前に録画されたコンテンツを処理し、手作業での微調整を加えたときにのみ本当に有効だった。総合すると、WEFの調査結果は、技術は改善しているものの、ディープフェイクツールの大多数はいまだライブのKYCチェックに苦戦していることを示唆している。

しかし、iProovの最高技術責任者（CTO）ドミニク・フォレストは、問題は実際にはもっと深刻だと主張する。同社は現在、Web上の120以上のディープフェイク製品を追跡している。より大きなサンプルの中では、「これらのツールの多くはおもちゃですが、そうではないものも多く存在し、品質はここ18〜20カ月ほどで大きく進み、目視では違いが分からない段階に達しました」と彼は言う。 

例えば彼は、「以前は『メガネをかけたり外したりして』とか『頭を回して』とか、そういうことを言うと［ディープフェイクが］破綻しました。そしてそれは確かにそうでした。ですが今は、少なくとも多くの、いや、良いツールのほとんどに関して言えば、もうそうではありません」と述べる。

ディープフェイクの軍拡競争に勝つ

目視検査をすり抜けた場合でも、WEFの研究者は、ベンダーや組織、あらゆる種類のチームが高品質なディープフェイクを見抜く方法は数十通りあると示唆した。例えば次のようなものだ：

ありがたいことに、多くのサイバーセキュリティのトレンドとは対照的に、ここでは防御側が攻撃側を大きくリードしている。フォレストは、その一因を情報の非対称性に求める。ITハッカーは、攻撃したいシステムについて学ぶための時間がいくらでもある。KYC詐欺に関しては、「私たちはあらゆる攻撃について膨大な情報を学べます。研究できます。攻撃者が何をしているかを見ることができます。一方で彼らが得られるのは、イエスかノーかの単一の回答だけです。だから彼らは何も学べない。改善しているのかどうかも分からないのです」と彼は言う。

皮肉なことに、今日のディープフェイクが非常にリアルであるという事実は、いまや攻撃者の利害に反して働いている。以前は、目で見てリアリティへの到達度を測れた。だが今は、自分たちが知らない防御技術に対抗しなければならない。フォレストは、「あなたの目に本当に、本当に良く見えるものが、必ずしも検知ソフトウェアにとって非常に、非常に良く見えるものと同じとは限りません。だから人間として違いを認識できないなら、どう攻撃すべきかを理解するのは非常に、非常に難しいのです」と指摘する。

「完全に不公平な、一方的な戦いです」と彼は言う。「そしてね、分かりますか？ 私はそれが完全に不公平であることを歓迎します。」