Zoomが「相手はディープフェイクではない」と証明可能に――サム・アルトマン氏の…

サム・アルトマン氏が率いる生体認証ID検証企業のWorldが、実在の人物とAIによるディープフェイクを企業が見分けるためのツール群を発表しました。同氏が手がける別の企業であるOpenAIが、人間を模倣する能力を急速に高めている中での動きです。

主な発表の一つが「World ID for Zoom」の一般提供開始です。企業向け顧客は、本物のビデオ映像とAI生成コンテンツを区別できる検証プロセスを利用できるようになります。

新システムでは、検証を済ませた参加者のビデオ映像の横に「ヒューマンバッジ」が表示されます。これにより、他の参加者は相手が人間であると、より確信を持てるようになります。

World ID for Zoom

Worldが解決しようとしている問題は、ディストピア的で現実味が薄いように思えるかもしれません。しかし、最近のGartnerの調査では、上級サイバーセキュリティ責任者の36%が、過去12か月間にビデオ通話中のディープフェイクが絡むインシデントを少なくとも1件経験したと報告しています。

Microsoftも、Teamsで同様の懸念に対処するため、数多くのアップデートを投入しています。プラットフォームを開放してサードパーティ製のディープフェイク検出を可能にし、AI生成の映像や音声の撲滅を目指しています。

ただし、人間であることの証明は、いくつかの項目にチェックを入れたり、パスポートをスキャンしたりするだけで済むほど単純ではありません。従業員はWorldの物理デバイス「Orb」のある場所へ足を運び、虹彩をスキャンして、暗号技術で保護された生体認証の基準データを作成する必要があります。

手続きを効率化するため、企業は自社拠点にOrbを設置することもできますが、コストがかさむ可能性があります。

その後、Zoom通話中にモバイルアプリで自撮り写真を撮影し、その基準画像と照合して、参加者が人間であることを検証します。

Worldによると、ディープフェイクの検出は特に難しく、「ディープフェイクの検出と生成との間で軍拡競争を招く」といいます。そのため、検出ではなく人間であることの検証という手法を選んだとしています。