ニューメキシコ州のMeta判決と暗号化

マイク・マスニックは、指摘しているように、最近のニューメキシコ州がMetaに対して下した裁判所の判決は、エンドツーエンド暗号化と一般的なセキュリティに悪い影響を与える可能性があります：

「設計上の選択が責任を生じさせる」というフレームワークが抽象的には懸念されるように見えるなら、ニューメキシコ州の事件は、それが実践ではどこに導くかの具体例を提供する。

ニューメキシコ州の司法長官がMetaに対して使用した主要な証拠の1つは、2023年にFacebook Messengerにエンドツーエンド暗号化を追加するという同社の決定でした。議論は次のように進みました：捕食者はMessengerを使用して未成年者をグルーミングし、児童性虐待教材を交換しました。これらのメッセージを暗号化することで、Metaは法執行機関がこれらの犯罪の証拠にアクセスすることをより困難にしました。したがって、暗号化は害をもたらす設計上の選択でした。

その州は現在、「悪事を行う者をシールドする暗号化通信から未成年者を保護する」を含む裁判所が命じた変更を求めています。

そう、ニューメキシコ州の判決の最終的な結果は、Metaがすべての人の通信をより安全でないものにするよう命じられるかもしれません。それは誰もが恐れるべきことです。判決を応援している人たちでさえ。

エンドツーエンド暗号化は何十億人もの人々を監視、データ漏洩、権威主義的な政府、ストーカー、および家庭内虐待者から保護します。それは普通の人が持つ最も重要なプライバシーとセキュリティツールの1つです。世界中のすべての主要なセキュリティ専門家と市民的自由組織は、より強い暗号化を主張しており、より弱い暗号化ではありません。

しかし、「設計上の責任」理論の下では、暗号化の実装は過失の証拠となります。なぜなら、少数の悪事を行う者も暗号化された通信を使用しているからです。このロジックは、これまで発明されたすべての通信ツールに文字通り適用されます。捕食者は郵便サービス、電話、および対面での会話も使用します。暗号化自体は誰にも害をもたらしません。無限スクロールと自動再生のように、それは悪事を行う者の選択なしには不活性です。プラットフォームの設計ではなく、人々によって行われた選択です。

これが作る動機は暗号化をはるかに超えており、それは悪いことです。ユーザーの大多数を保護する製品の改善が、少数の悪事を行う者に悪用されるために反対されることができるなら、企業はそれらの改善を単に作成を停止します。将来の訴訟でExhibit Aになるなら暗号化を追加するのはなぜですか？原告の弁護士がそれを「悪事を行う者をシールドする」と特徴付けるなら、プライバシー保護機能を実装するのはなぜですか？

そしてそれはさらに悪くなります。両方の試験での最も有害な証拠の一部は、従業員が安全性リスクについての懸念を提起し、トレードオフについて議論した内部の企業文書から来ました。これらはメディア（および法廷）で「決定的な証拠」として扱われました。しかし、それは企業が誰もが再び懸念を提起することを許可しないことを意味します。それは非常に、非常に悪いことです。

理健全な法的環境では、企業がこれらの内部討論を持つことを望んでいます。エンジニアと安全チームが潜在的なリスクにフラグを立て、難しいトレードオフに取り組み、その推論を文書化することを望んでいます。しかし、それらの誠実な検討が「彼らは知っていて、とにかくそれをした」という証拠として陪審団に提示された原告の展示品になるとき、合理的な企業の対応は何も書かなくなることです。リスク評価を停止します。内部的に難しい質問を尋ねることをやめてください。

シリコンバレーのすべてのゼネラルカウンセルが今学んでいる教訓：無知は探求よりも安全です。それは誰もがより安全ではなく、より少ない安全性にします。

エッセイはもっと多くあります：Section 230について、この分野での競争について、判決の近視眼的な性質について。こちらから読んでください。