英国の規制当局、技術企業にディープフェイクと非合意的な親密な画像への対応を要求

英国の最高通信規制当局は月曜日、技術企業にサイトから非合意的な親密な画像をさらに見つけて削除し、人工知能によって作成されたディープフェイクの拡散を抑制することをより多く要求し始めることを述べた。

規制当局のOfcomは、新しい言語を含めるために実務慣行コードを更新しています。変更は、英国議会からの措置を待って、今秋に発効することが予想されています。

Ofcomは、サイトとアプリが「ハッシュマッチング」技術をより広範に使用して画像を検出することを推奨しており、これは画像をデータベースに保存できるデジタルフィンガープリントに変換して、同じまたは類似のファイルの将来のアップロードを防止することを含みます。

規制当局の発表によると、変更は「女性と少女をオンラインでよりよく保護する緊急の必要性」のために行われています。

ヌード化ツールを禁止し、非合意的な親密な画像が2日以内に削除されることを義務付ける新しい立法と並んで、この措置は「女性と少女をオンラインで保護する上で実質的な違いを生じさせる」とOfcomのプレスリリースにあります。

2月、英国首相キール・スターマーは、親密な画像をすぐに削除しない技術企業に多額の罰金を課す新しい法律が、画像を削除させるために繰り返し報告する必要があることから被害者を救うために必要であると述べました。スターマーはまた、2日以内に画像を削除しなかった技術企業がサービスをブロックされる可能性があると警告しました。

英国政府のこの問題への焦点は、非合意の女性と子どもの何百万ものヌード化された画像がxAIのGrokチャットボットを介して世界中に拡散した数週間の後に生じました。

2月の意見記事で、スターマーはこの問題を「国家的緊急事態」と見なしました。

「被害者は一人で戦うことを余儀なくされています。有害なコンテンツをサイトからサイトへと削除を追求し、同じ資料を何度も何度も報告しているのに、数時間後に別の場所に再び現れるのを見るだけです」とスターマーは書きました。「それは正義ではありません。」

「私たちは技術企業に通知を出しています」と彼は付け加えました。「虐待に対処する負担は、もはや被害者に落ちてはいけません。それは加害者に、そして害をもたらすのを助ける企業に落ちなければなりません。」

Ofcomのアプローチは、今のところ、国の同僚が取った道と異なる道を切り開いています。技術企業がコミュニケーションを児童性的虐待資料（CSAM）について検索することを許可していた欧州連合の法律は、プライバシーの懸念についての議員間の長い対立の後、先月失効しました。

テック大手企業はCSAMについてコミュニケーションをスキャンし続けると言っていますが、欧州委員会の当局者はその慣行は法律に反していると言っています。