欧州委員会は金曜日、TikTokが推奨アルゴリズムによるユーザーの誘導を防げていないと非難しました。ユーザーは、悲しみや自傷行為、ボディイメージに関するコンテンツの「ウサギの穴」に引き込まれているといいます。
TikTokがEUのデジタルサービス法（DSA）に違反しているとする予備的な調査結果です。大西洋の両岸で、ソーシャルメディアのプラットフォームが若年ユーザーを危険にさらしているのか、どのように危険にさらしているのかが注目されるなかでの発表となりました。
欧州の当局者によると、EUの規制当局が大手ソーシャルメディアのエンゲージメント重視の推奨システムに直接異議を唱えるのは今回が初めてです。当局者の知る限り、世界でもこの種の執行措置は初めてだといいます。
欧州委員会の当局者は記者団に対し、この調査は主にユーザーのエンゲージメントを土台とする「ビジネスモデルに正面から取り組むもの」だと述べました。
欧州委員会は、TikTokの「おすすめ」フィードについて、「メンタルヘルスの問題やボディイメージに関連する動画であっても、パーソナライズされた動画を絶え間なく表示し続ける」と指摘しています。
「ユーザーが特定の種類のコンテンツに触れれば触れるほど、TikTokの『おすすめ』フィードのアルゴリズムは似たコンテンツを推奨します。悲しみや孤立、ボディイメージに関するコンテンツに、このように終わりなく繰り返し接し続けると、この設計は有害になり得ます」
ブリュッセルによると、欧州委員会が問題視した点の一部は、TikTok自身のリスク評価でも特定されていました。しかし調査の結果、同社はこうしたリスクを適切に分析せず、十分な保護措置も講じていなかったと判断しました。
今回の調査結果は最終的なものではなく、TikTokには欧州委員会の証拠を確認し、結論に異議を唱える機会があります。
DSA違反が確定した場合、同社は全世界の年間売上高の最大6%の制裁金を科される可能性があります。ただし、TikTokも親会社のByteDanceも、全世界の売上高を公表していません。
ウサギの穴
欧州の当局者は、今回の件はコンテンツの削除を求めるものではないと強調しました。調査では、違法でもTikTok自身の規則違反でもない動画に意図的に焦点を当てたといいます。当局者の一人は、これを「最も害の少ない」カテゴリーのコンテンツだと説明しました。
当局者は「what I eat in a day（1日の食事）」や「SkinnyTok」といったトレンドを挙げ、合法的なコンテンツは単体では無害に見えても、繰り返し表示されることで、特に若く傷つきやすいユーザーに害を及ぼすようになると述べました。
この動きの背景には、8月に米国の上院議員らがTikTokに回答を求めたことがあります。16歳のChase Nasca氏は、悲しみや自殺に関するコンテンツを次々と視聴した末、2022年2月に自ら命を絶ちました。上院議員らはその死についてTikTokに説明を求めました。
Bloombergが昨年報じたTikTokの社内調査によると、Nasca氏は、プラットフォームのユーザー全体の約10%で構成される対照群に属していました。このグループには、有害なテーマへの繰り返しの接触を防ぐための設計変更が適用されていなかったといいます。
欧州委員会の当局者は金曜日、「同じ種類のコンテンツが数百本、場合によっては数千本も連続して表示されると、人々は私たちが『ウサギの穴』と呼ぶ状態に陥り、精神的な健康に悪影響を及ぼします」と述べました。
欧州委員会によると、こうした連鎖を断ち切るためのTikTok独自のツールは機能していません。フィードを多様化する「分散」手法は効果がなく、フィードの更新も一時的な効果にとどまり、「興味がない」をタップしても、しばらくすると効かなくなるとしています。
特に欧州委員会は、TikTokのアルゴリズムによる推奨を、動画の視聴時間のような暗黙のシグナルではなく、ユーザーが明示的に希望した内容に基づくものにするよう求めています。
当局者によると、「世界でも最先端の調査基盤」の開発に2年半を費やしました。ただし、プラットフォームがツールの裏をかくのを防ぐため、具体的なテスト手法は秘密にせざるを得ないといいます。
当局者は、同社の内部文書とデータを入手し、心理学者や精神科医、システム設計の専門家の協力を得て約2万本の動画を分析したと説明しました。当局者の一人は、このテストでは「正確なアルゴリズムへのアクセスは必ずしも必要ありませんでした。それがなくても十分な情報がありました」と述べています。
TikTokには欧州委員会の証拠を確認し、異議を唱える権利があります。同社はコメントの求めにすぐには応じませんでした。
金曜日の調査結果は、欧州委員会が今年TikTokに対して出した3件目です。2月には依存性のある設計機能を問題視する調査結果が出され、7月には未成年者のアカウント保護に関する調査結果が出ています。
当局者は、今回の案件が通知や無限スクロールではなく、プラットフォームの推奨システムに焦点を当てている点で異なると説明しました。また、アラバマ州でのTikTokの最近の和解よりも踏み込んだ内容だとしています。この和解は、推奨システムに「そこまで深くは踏み込んでいない」といいます。
当局者は、他のプラットフォームでも同様にユーザーがウサギの穴に引き込まれていると認めました。欧州委員会は「TikTok以外にも幅広く目を向けている」と述べましたが、TikTok以外についてのコメントは控えました。
欧州委員会は、今回の案件を、9月に提案したKIDS法の「地ならし」と位置づけています。同法案は、プラットフォームが子どもへのコンテンツ推奨でエンゲージメントのシグナルだけに頼ることを禁じるものです。当局者は、この条項はTikTokへの調査から直接着想を得たものだと述べています。
翻訳元: https://therecord.media/eu-accuses-tiktok-of-rabbit-hole-DSA-violation
