ブラジルは、未成年者を自傷行為や自殺を助長するコンテンツから保護できていなかったかどうかを当局が調査する間、Discordにライブ配信機能を停止するよう命じました。
ブラジル国家データ保護庁（ANPD）は水曜日、Discordの「Go Live」機能について、子どもや10代の若者を保護するための実効性のある安全対策を導入したことを同社が証明できるまで無効化を継続しなければならないと発表しました。
この命令は、ブラジル中西部で13歳の少女が死亡した事件を受けたものです。当局によると、少女は7月にDiscordで行われた約45分間のライブ配信中に自傷行為をするよう仕向けられたとされています。
この事件に関連して10代の若者5人が逮捕されました。警察はまた、別の事件でも介入しており、ある少女がオンライン配信中に自殺を図ろうとしていたケースにも対応しています。
捜査により、Telegramを含むオンラインコミュニティを利用して、ネオナチ的・反ユダヤ主義的・女性蔑視的な素材を拡散し、メンバーを勧誘し、暴力行為について話し合っていたとみられる10代の若者グループの存在が明らかになりました。
ブラジルのデジタル権利担当国家長官、ビクトル・フェルナンデス氏は、DiscordとTelegramがオンライン上で女性や子どもを保護するための規則に違反していたと述べました。
「Discordでは、10代の若者が関わる環境で自殺のライブ配信が行われました」とフェルナンデス氏は述べました。「その素材は削除されるまでにしばらく時間がかかり、その間も閲覧可能な状態のままでした」
同氏によると、その後当局は両プラットフォームに素材の削除を命じるとともに、素材が共有されていたサーバーの停止に動いたとのことです。
安全対策の不備を示す「確かな証拠」
ANPDは水曜日、Discordが子どもや10代の若者を有害コンテンツ、特に暴力や自傷行為、自殺を助長・助長しうる素材から保護するための合理的な措置を講じていなかったことを示す「確かな証拠」を発見したと述べました。
同規制当局は、Discord自体がブラジルでブロックされているわけではないと強調しています。今回の命令は、ユーザーが他者に映像を配信できる「Go Live」機能のみを対象としています。
「目的は、子どもや青少年がさらされている深刻または回復不能な被害のリスクを低減することです」と同庁は述べました。
同規制当局によると、Discordの技術的な仕組み上、配信中の映像コンテンツに同社がアクセスできないため、ライブ配信中の悪用を防ぐことが特に困難になっているといいます。これにより、有害コンテンツをリアルタイムで自動検知するDiscordの能力は制限されており、大部分は自動検知システムと各サーバー内のユーザーからの通報に依存する状態になっていると同庁は付け加えました。
ブラジル当局はまた、Discordが3月に「Go Live」にエンドツーエンド暗号化を追加したことについても批判しており、この変更によって有害な活動をリアルタイムで検知する同社の能力がさらに制限されたと指摘しています。ANPDによると、Discordの既存の安全対策は、被害が発生した後になって初めて機能するか、そもそも被害の防止にほとんど役立たないものだったといいます。
ANPDは、規制当局が指摘したリスクに対処する実効性のある措置を導入したことをDiscordが証明できるまで、今回の停止措置は継続されると述べました。Discordには、ブラジル全土で停止措置を完全に実施したことを証明するための猶予として3営業日が与えられています。
Discordはブラジルの報道機関UOLへの声明で、命令を受け取り現在検討中であることを認めた上で、規制当局による自社の安全対策についての説明は「当プラットフォームの実態や、ユーザーの安全確保のために行ってきた投資を反映したものではない」と付け加えました。
同社はまた、ブラジルでのライブ配信停止という決定を「時期尚早」だとも述べました。
「Discord上、そしてインターネット全体において、すべてのユーザーがより安全にオンライン体験を楽しめるよう促進するため、ブラジルの政策立案者との対話を今後も続けていきたいと考えています」と同社は付け加えました。
より広範な調査
ブラジル当局はまた、Discordに十分な年齢確認システムが備わっているか、また同社が禁止コンテンツの削除を怠ったり、違反事項を当局に適切に報告していなかったりしなかったかについても調査を進めています。
同規制当局は、調査の進展に伴い追加の要件を課す可能性もあるとしています。
違反が確認された場合、Discordは違反1件につき最大5,000万ブラジルレアル（約1,000万ドル）の罰金を科される可能性があります。
今回のブラジルの措置は、若年層ユーザーを保護するDiscordの能力に対する、より広範な監視の強化の一環として行われています。
ブラジルのデジタル権利保護団体SaferNetが、DiscordがEUに提出した開示情報を対象に行った最近の分析によると、児童・青少年保護に関する対応は、これまで欧州における同社の報告済みモデレーション対応の中で大きな割合を占めてきたことが明らかになりました。
SaferNet Brasilに寄せられたDiscordに関する通報件数も、2024年以降大幅に増加しています。同団体によると、2026年の最初の7か月間だけで、同プラットフォームに関する通報を406件受け付けたといいます。
特にゲーマーの間で人気の高いDiscordは、全世界で9,000万人を超えるユーザーを抱えており、通常は13歳以上であることが利用条件となっています。
同プラットフォームは、これまでにも他国で規制を受けたことがあります。ロシアとトルコは2024年にDiscordをブロックしており、両国当局は同社が違法な素材の取り締まりを十分に行っていなかったと非難しています。
ロシアの規制当局は、Discordが過激主義・テロ活動や勧誘、薬物取引に利用されていると主張しました。トルコ当局は、同サービスをブロックした際、児童虐待や恐喝、オンライン上の嫌がらせに関する疑惑を理由に挙げています。
翻訳元: https://therecord.media/discord-brazil-orders-suspension-livestreaming
