YouTubeがディープフェイク対策のため顔認証を利用したい

自分のディープフェイク画像がオンラインに出現することを心配している場合、あなた一人ではありません。YouTubeもあなたのために心配しています。自撮り動画と身分証明書をサイトにアップロードすることで、保護したいと考えています。

この考えは、ビデオ大手がAIを使用してサービス内のあなたの姿を使用した偽の動画を監視し、それらを削除する機会を与えるというものです。

ただし、これはすべての人が利用できるわけではありません。セレブ、脆弱な職業にある人、そして今ではほとんどのYouTubeクリエイターが対象です。

YouTubeは「類似検出」システムと呼ぶこのコンセプトに取り組んでいます。2024年9月にこのアイデアを公開しました。その年の12月には、スポーツとエンターテイメント業界の人物を対象にこの技術を使用したCreative Artists Agencyとのパートナーシップを開始しました。

昨年10月には、より多くのクリエイターを対象に類似検出を拡大し、3月には政治家とジャーナリストを対象に再度拡大しました。そして先月、ハリウッドスターを対象にサービスを提供し、ネットをさらに広げました。YouTubeアカウントを持っているかどうかに関係なく使用できると述べています。

現在、最新の動きとして、18歳以上で自撮り写真と身分証明書を持つ誰もがサインアップできます。少なくとも理論上は、まだ全員に展開されていないため。また、これは顔のみを対象としています。AIで生成された音声クローンは別の問題です。

プライバシーのリスク

プライバシー擁護派は、YouTubeの類似検出システムが大規模なテックプラットフォームに生体認証データを提供することを正当化する可能性があると警告しました。YouTubeはデータがクリエイターの許可を得た上で類似検出モデルの改善にのみ使用されると述べています。

類似検出サービスのヘルプページでは、YouTubeはクリエイターが顔声テンプレートを類似検出モデルの改善に使用することを別途選択できると述べています。

「類似検出にサインアップすると、YouTubeが顔と声のテンプレートを使用して類似検出技術を開発・改善することを許可する選択肢もあります。これにより、より優れた、より正確な類似検出技術を構築できます。」

追加:

「類似検出モデルの開発と改善のためのこのデータのYouTubeの使用をいつでもオプトアウトできます。」

YouTubeはディープフェイク対策を目的とした立法、例えばNO FAKESおよびTAKE IT DOWN法を支持しています。これらはオンラインで誰かの画像の不正使用を阻止するために設計されています。1年前に法律になったTAKE IT DOWNは「非合意親密画像」に純粋に焦点を当てています。しかし、これは偽の政治家やセレブのエンドースメントなど、他の種類のディープフェイクをカバーしていません。これらはますます一般的になっています。まだ法律になっていないNO FAKESはスコープが遠かに広く、人々に自分の画像に対する連邦的権利を割り当てています。

では、その代償の価値はあるのか？

ディープフェイク、特に親密なものやその他のものは確かに脅威であり、特に人気を得たYouTuberにとってそうです。そして参入障壁は常に低くなっています。Googleの自社DeepMind研究者は、生成AIの悪用のほとんどが洗練されていないことを発見しました。これはブラウザを持っている誰もが実施できる平凡な画像操作です。

では、あなたの顔と身分証明書をあなたの保護のために、幅広いデータ収集慣行が長年の精査に直面している企業に提供し、そのポリシーが変わらないことを期待しますか？それとも、それをスキップして、ディープフェイク商人があなたをターゲットに決めないことを願いますか？

6ヶ月前にサービスを明かしたYouTubeのビデオにコメントしたクリエイターは、あまり感銘を受けていませんでした。あるコメンター言った:

「IDアップロードまで100％同意していました。それは私を非常に不安にさせます。」

削除リクエストに対応するのが難しいと不満を言った他の何人かの意見を反映して、別のコメンターは追加しました:

「YouTubeが実際にこの種のレポートに対応していれば、私はこれに賛成するでしょう。」

サービスにサインアップするかどうかに関わらず、目を開いてそれを行うようにしてください。

誰かがあなたのアカウントを監視しています。 それが私たちであることを確認してください。