上院議員2名、一部ユーザー向け安全機能を非公開にしていたTikTokを追及

米上院議員2名が、TikTokに対して説明を求めています。同社が一部ユーザーの安全機能を意図的にオフにし、その保護機能がアプリへのエンゲージメントにどう影響するかを検証していたとする報道を受けての措置です。 

Marsha Blackburn上院議員(共和党、テネシー州選出)とRichard Blumenthal上院議員(民主党、コネチカット州選出)は水曜日付の書簡で、TikTokが「ユーザー保護が自社の収益にどう影響するかを見極めるため、子どもを含む数百万人の米国ユーザーに対して重要な安全対策を意図的に控えていた」と批判しました。

この書簡は、今月初めに報じられたBloombergの報道を受けたものです。同報道は、2022年2月に自殺した16歳の少年Chase Nasca氏のアカウント活動を分析した社内極秘文書に基づいています。同氏は悲しみや自殺に関連するコンテンツを連続して視聴した後に命を絶ちました。この文書によれば、Nasca氏はプラットフォームの利用者全体の約10%を占める対照群に含まれており、有害な話題への繰り返しの露出を防ぐためにTikTokがアルゴリズムに加えた変更が、その対照群には適用されていませんでした。 

同社の調査によると、この少年は死の2週間前までに7,500本以上の動画を視聴しており、そのうち73%が悲しみや個人的な苦悩をテーマにしたもので、10%は自殺や自傷行為の正常化を禁じる同社の規約に違反していました。 

「TikTokのフィルターバブル防止策は、設計上このユーザーには適用されていなかった」と、社内調査は結論づけています。  

この文書に関する質問に対し、同社はBloombergに対して次のように回答しています。「当社は今後もTrust & Safety(信頼と安全性)への投資を大幅に続けていきます。これには、コミュニティガイドラインに違反するコンテンツを積極的に削除する強固な検知システムや専任の執行チームが含まれます」。TikTokはRecorded Future Newsからのコメント要請には、これまでのところ応じていません。

両上院議員は書簡の中で、この一件を、自分たちが支持するKids Online Safety Act(子どものオンライン安全法、KOSA)の必要性を示す事例として挙げています。同法案は8月5日に上院商業委員会を通過しました。 

「KOSAが法制化されれば、まさにこうした開示内容が示すような行為に対処することになる。すなわち、子どもたちがその代償を払う一方で、依存性を最大化するように製品やアルゴリズムを設計するプラットフォームの問題だ」と両議員は述べています。法案は前進しているものの、企業に対して予見可能な害を防止する法的義務を課す条項を盛り込むかどうかを巡って意見の隔たりが残っており、今会期中の成立は見込み薄とされています。 

両上院議員は、A/Bテストの実施や一部ユーザー向けの安全機能の無効化といった、いわゆる「実験」に関する一連の質問への回答を、9月1日までに提出するよう同社に求めています。また、Nasca氏の死をめぐる報告書全文の公開を要求するとともに、なぜ未成年者が対照群に含まれていたのかを問いただしています。 

この論争は、FacebookとInstagramの親会社であるMetaと、未成年者に対して製品を意図的に依存性の高いものにしていたと主張する米国4州の司法長官らが争う、今週注目を集めている裁判と時期を同じくして持ち上がりました。