英国の規制当局Ofcom、Xに対する調査を開始

英国のインターネット規制当局のトップは、ユーザーがAIチャットボット「Grok」の助けを借りて、実在の人物の同意のないAI加工のヌードおよび半裸写真を大量に投稿し、サイトがそれであふれたことを受け、ソーシャルメディアネットワークXに対する正式な調査を開始した。

インターネットおよび通信企業を規制する通信庁（Ofcom）は月曜日、調査により当該コンテンツが英国オンライン安全法に違反しているかどうかを判断すると述べた。

Ofcomによれば、調査は、こうしたコンテンツがオンラインで英国の利用者に届くリスクを評価すること、同意のない画像および児童性的虐待資料（CSAM）の流通を防ぐための措置を講じること、違法コンテンツを削除すること、利用者のプライバシーを保護することを求める同法の一部について、Xが順守しているかどうかに焦点を当てる。

また、Grokのディープフェイク機能が英国の子どもに及ぼし得るリスクを評価するための措置をXが講じたか、あるいは年齢確認機能を用いて子どもが当該コンテンツにアクセスしたり閲覧したりするのを遮断したかどうかにも焦点を当てる。規制当局は、Xの担当者との協議を継続しているとし、最終決定を下す前に、同法の要件に従い、Xには「当局の所見に対して全面的に回答する機会」が与えられると述べた。

Ofcomの広報担当者は声明で、「GrokがX上で、違法な同意のない親密画像や児童性的虐待資料を作成・共有するために使用されているとの報告は、極めて憂慮すべきものだ」と述べた。「プラットフォームは、英国で違法とされるコンテンツから英国の人々を守らなければならない。企業が義務を果たしていない疑いがある場合、特に子どもに危害が及ぶリスクがある場合には、調査をためらわない。」

Ofcomはまた、自らは規制機関であって政府の検閲機関ではないと明確にし、今回の調査の目的は、子どもに関するものを含む同意のないディープフェイク・ポルノの拡散を助長することでXが法律に違反しているかどうかを判断することだとした。

先週、与党・労働党のキア・スターマー首相は、このディープフェイクをめぐるスキャンダルを「不快極まりない」と呼び、英国でXを禁止することを含むあらゆる選択肢が検討対象だと述べた。

調査の結果、規制当局はXがオンライン安全法に違反したかどうかを判断し、暫定的な制裁を科す。Grokや事業慣行の変更をXに命じる可能性のある法的命令に加え、制裁には最大1,800万ポンド、または同社の世界売上高の10%に相当する罰金が含まれ得る。Ofcomは、昨年初めて施行されたオンライン安全法の下で新たに得た権限を用い、90以上のプラットフォームに対する調査を開始し、「強固な」年齢確認技術を備えていないとして6社に罰金を科し、初の100万ポンドの罰金も科したと述べた。

しかし、米国に拠点を置き、世界で最も裕福な人物が所有するXに対する今回の調査と潜在的な制裁は、新法の下での規制当局の権限にとって、これまでで最も重要な試金石となるだろう。これまでのところ、利用者や各国政府の怒りが高まり続ける中でも、米国司法省と連邦取引委員会は沈黙を保っている。