大手テクノロジー企業が、およそ3,000件に上る子ども向けサービスの安全性をめぐる訴訟の進行を食い止めようとしていますが、その裁判で重要な手続き上の争いに敗れました。
この一連の訴訟は、州司法長官や家族らが起こしたもので、Meta、Google、ByteDance傘下のTikTok、そしてSnapが、自社製品が子どもや10代の若者に対して依存性を持ち、精神衛生上の害を及ぼすことを認識しながらも、利益のために若年層への売り込みを続けたと主張しています。
各テック企業は、当事者らが訴訟を提起することを認めた連邦裁判所の判断を不服として控訴を試みました。米連邦控訴裁判所である第9巡回区控訴裁判所において、企業側はある基幹的な米国法により自分たちが提訴の対象になり得ないと主張していました。
その法律とは、30年前に制定された通信品位法(Communications Decency Act)第230条です。同条項は、プラットフォームがユーザーの投稿内容について責任を問われないと定めています。長年にわたり、ソーシャルメディア企業はこれを防弾チョッキのように扱ってきました。ユーザーが問題のある投稿をしても、運営企業側は自分たちは単なる伝達者であって発信者ではないと主張できたのです。
しかし今回、その防御策は通用しなかったようです。8月10日、裁判所は「第230条が定めるのは責任に対する抗弁であって、訴訟そのものからの免責ではない。したがって今回の控訴は時期尚早である」との判断を下しました。この訴訟の争点は、ユーザーがオンラインで何を投稿したかというよりも、テック企業がそのコンテンツをユーザーに提示するためにプラットフォームをどのように設計したとされるか、という点にあります。
Nebraska Law Reviewは、これらのプラットフォームをより魅力的に、そしてことによると依存性を高めているとされる複数の手法について解説しています。
この記事では、これらのプラットフォーム上での特定のやり取りがドーパミンの放出を引き起こす仕組みを説明しています。そうしたやり取りは、誰かがメッセージに返信してくれる、あるいは投稿した写真に「いいね」がつくといった単純なものである場合もあります。ドーパミンは脳の報酬系において重要な役割を果たしています。
Nebraska Law Reviewの記事では、こうした報酬を予測不可能なものにすることでユーザーが習慣的にアカウントを確認し続けるよう仕向ける手法などが紹介されています。無限スクロールのようなインターフェース機能も、ユーザーをこの「ドーパミン列車」に乗せ続けるために設計されています。同論文は、この着想の発案者による次のような言葉を引用しています。
「(行動的な)コカインを取り出して、インターフェース全体に振りかけているようなものだ」
ベッドの中で延々とドゥームスクロールをしてしまった経験がある人なら、誰しも共感できるでしょう。
第9巡回区控訴裁判所による控訴棄却は、手続き上は限定的なものですが、戦略的には極めて大きな意味を持ちます。第230条は裁判で主張する抗弁であって、原告を裁判所の入り口で締め出す壁ではないということです。第3巡回区控訴裁判所はさらに踏み込み、「プラットフォームが自ら設計したアルゴリズムによって引き起こされた損害をめぐる不法行為訴訟に直面した場合、第230条は免責を与えるものではない」との判断を示しています。
つまり、アルゴリズムそのものが「製品」であり、その製品には欠陥があり得るということです。
これらの訴訟の背後には、原告側がプラットフォーム各社のユーザーエンゲージメントへの取り組み方を明らかにするものだと主張する証拠開示資料が積み重なっています。さらに今月初め、同様の申し立てを扱ったニューメキシコ州の裁判では、Metaに対する判決が出ています。担当判事はMetaが「プラットフォーム設計を通じて公衆に対する迷惑行為(public nuisance)を生み出した」と認定し、当初の賠償額に5億6,700万ドルを上乗せしたため、この判決の総額は9億4,200万ドルに達しています。
証拠開示で次々と明らかになる事実
これらの訴訟における証拠開示手続きは、これまでもMetaにとって厳しいものとなってきました。マーク・ザッカーバーグ氏によるものとされる2016年のメールには、10代の若者によるライブ動画配信を保護者に通知することは「そもそも製品を台無しにしてしまうだろう」と記されていました。最近の裁判資料では、大手ソーシャルメディア企業の従業員が自社のプラットフォームを麻薬になぞらえていたとの主張もあり、あるMetaの従業員は次のように書いていたとされています。
「私たちは基本的に売人のようなものだ」
Snapの状況もこれと大差ありません。ニューメキシコ州の訴訟における提出資料によれば、2022年後半までに、Snapの従業員は月あたりおよそ1万件のセクストーション(性的搾取目的の脅迫)の報告に対応していました。社内調査の結論によれば、被害者の70%は「Snapが何の対応も取らないと分かっていた」ため被害を一切報告しておらず、実際に報告した残り30%についても、対応がなされたケースは皆無だったとされています。
この数字は、Snap自身の情報開示によってではなく、ニューメキシコ州の訴状(黒塗りを解除した版)を通じて明るみに出たものです。
機能しない安全機能
経営陣が実態を把握していたのであれば、当然対策が講じられているべきです。しかし、実際にはそうなっていないケースがほとんどでした。ニューヨーク大学とノースイースタン大学の研究者らが86個の若年層向け安全機能を検証したところ、51個がテストに失敗しました。失敗率はSnapchatが73%、Instagramが66%、YouTubeが55%、TikTokが50%に上りました。さらに9個の機能については、研究者が試みても作動すら確認できませんでした。研究者らによれば、検証対象となったいじめ防止機能はすべて機能していなかったとのことです。
そうした回避策は容易に見つかりました。Instagramの検索窓に「eating disorder(摂食障害)」と入力すると、オートコンプリート機能が、摂食障害を助長するコミュニティがプラットフォーム自身のブロックリストをかいくぐるために使う、わざと綴りを間違えた語句を親切にも提示してしまうのです。この場合、安全機能は本来の目的とは正反対の働きをしていたことになります。
保護者が今できること
アプリ内の安全機能が宣伝どおりに機能していると思い込まないことです。お子さんがソーシャルメディアを利用している場合は、実際に自分で設定を試し、想定どおりに動作しているかを確認しましょう。
テスト用のアカウントを作成し、各設定が謳っている内容をきちんとブロックするかどうかを確認してください。また、お子さんにソーシャルメディアの利用をどの程度許可するか、あるいはそもそも利用させるかどうかについても検討する必要があります。いずれにせよ、まずは家族での率直な話し合いから始めることが大切です。
お子さんがオンライン上の知り合いから嫌がらせを受けている場合は、すぐに保護者に伝えるよう促してください。証拠を保存し、必要に応じてアカウントをブロック・報告し、嫌がらせに脅迫、恐喝、あるいは性的搾取が含まれる場合には、学校や法執行機関への相談をためらわないでください。
セクストーションについては、プラットフォーム自体の通報窓口に頼るのではなく、National Center for Missing and Exploited ChildrenのCyberTiplineに直接報告することも可能です。
この連邦訴訟の詳細については、引き続き当サイトをご確認ください。今後数カ月のうちに、史上最大級のプラットフォーム各社が陪審によって作り変えられるのか、それとも非公開の和解金支払いによって一件ずつ幕引きを図るのか、その行方が決まることになります。
脅威を報じるだけでなく、取り除くところまで。
サイバーセキュリティのリスクを、見出しの中だけの話で終わらせてはいけません。今すぐMalwarebytesをダウンロードして、お使いのデバイスを脅威から守りましょう。
