ChatGPTと卑猥な会話をするには、近いうちに運転免許証を提示しなければならなくなるかもしれません。
OpenAIは先月、ChatGPTが認証済みの大人のみを対象にまもなくエロティカを提供すると発表しました。一見、巧妙な安全策のように思えますが、「認証済み」が意味するのは、すでにあなたの検索履歴や会話、もしかしたらあなたの妄想まで知っている会社に、政府発行の身分証明書をアップロードすることかもしれません。
これはテクノロジーにとって超現実的な瞬間です。世界で最も有名なAIツールがポルノの門番へと変貌しつつあります。そして、これは孤立した出来事ではありません。カリフォルニア州は最近、アプリのダウンロード時に年齢確認を義務付ける法律を可決しました。Discordの年齢認証パートナーは今夏ハッキングされ、7万件の政府発行IDが流出し、現在恐喝に利用されています。アメリカの24州が同様の法律を可決しています。
子どもをアダルトサイトから遠ざけるための取り組みとして始まったものが、静かに史上最大のデジタルIDシステムへと進化しています。私たちが投票で決めたわけでもないのに。
オンラインIDチェックポイントの常態化
年齢認証は道徳的な十字軍として始まりました。立法者たちは未成年者を露骨なコンテンツから守りたかったのです。しかし、オンラインでIDを要求するすべてのシステムは、まったく別のものへと変貌します。それは監視チェックポイントです。大人であることを証明するために、犯罪者や政府が夢見るような情報を、しかもそれを無期限に保管する民間業者の寄せ集めに差し出すことになるのです。
その先に何があるか、私たちはすでに目にしています。イギリスではオンライン安全法のもとで年齢制限ルールが施行された後、認証会社の一つが侵害されました。アメリカでは、AU10TIXの情報漏えいにより、Uber、X、TikTokのユーザーデータが流出しました。毎回同じ話です。人々はパスポートや運転免許証、自撮り写真をアップロードさせられ、そのデータが漏洩するのを見守るしかないのです。
もしハッカーが大規模な個人情報盗難の理想的なシナリオを設計したいなら、これがその答えでしょう。政府が何百万人もの大人に、犯罪者が必要とするまさにその書類のアップロードを法的に義務付けているのです。
安全の幻想
皮肉なことに、これらは実際には子どもを守っていません。イギリスでは、新しい規制が始まった日にVPNの登録が1,400%急増しました。それが個人情報の提出をためらう大人によるものだと願いたいところですが、要は検索バーさえあれば、どんなティーンエイジャーでも数分で年齢制限を回避できるということです。その結果は安全なインターネットではなく、大人のデータがより多く収集され、子どもたちがより怪しい、規制されていないネットの隅へと追いやられるだけです。
親にはすでに不適切なコンテンツを遠ざけるより良い選択肢があります。デバイスレベルのコントロール、フィルタ付きブラウザ、子ども向けのスマホなどです。これらは、私たち全員を歩くIDトークンに変える必要はありません。
バーからブラウザへ
擁護者たちは、オンライン認証をバーでIDを見せることに例えたがります。しかし、ビールを買うために免許証を見せても、店員はそれをスキャンしたり、保存したり、あなたの飲酒履歴の永久記録を作ったりはしません。オンライン認証はまさにそれを行います。ログインのたびに、あなたの身元とあなたが読んだり見たり話したりしたことが結び付けられる新たなデータポイントが生まれるのです。
このインフラがどう拡大するか想像するのは難しくありません。今日はポルノ、暴力、そして「大人向け」チャットボット。明日はリプロダクティブヘルスのフォーラム、LGBTQ+リソース、あるいは「センシティブ」とされた政治的ディスカッショングループかもしれません。一度パイプができれば、誰かが必ず新たな用途を見つけるのです。
イノベーションが侵害に感じられるとき
正直に言いましょう。私たち全員がポルノマシンを作る決断をすればお金を稼げますし、ChatGPTの新サービスはまさにそれに感じられます。AIがOnlyFans市場の一角を奪うのに時間はかかりませんでした。ただし、入場料は月額20ドルだけではありません。あなたの身元、そして多くの心の痛みが代償になるかもしれません。
Electronic Frontier FoundationのJason Kelley氏が私のLock and Codeポッドキャストで説明したように、
「一度、特定の種類の情報をウェブサイトに提供するよう求められたら、その会社、つまり年齢を確認しているはずの会社が、その情報で何をしているか知る術はありません。」
認証プロセス自体が監視の一形態となり、政府やサイバー犯罪者が悪用できる、合法的な大人の行動の詳細な記録を生み出します。
これが監視が常態化する方法です。「安全」機能を一つずつ追加することで。
ChatGPTのエロティックモードは、IDアップロードを日常的なものにし、あなたのお気に入りのAIコンパニオンとのチャット前のカジュアルな一歩に感じさせるでしょう。しかしその裏で、これらのIDは新たなデータブローカーや第三者認証業者に渡り、彼らのビジネスはあなたの実名とオンラインでのすべての行動を結び付けることに依存しています。
もはや政府や企業が中央集権的なデータベースを構築する必要はありません。私たちが自ら、少しずつ情報を差し出しているのです。
ChatGPTの最新の動きは、これからの未来の予告編です。インターネットは何年も前からアイデンティティへと傾いてきました。ソーシャルログインや認証済みプロフィールから、AIがその流れを加速させているだけです。かつて匿名性が残っていた場所は見つけにくくなり、今やウェブはあなたが誰なのかを正確に知ることを当然のように求めています。
「安全な」オンライン空間の未来が、AIに運転免許証を差し出すことに依存すべきではありません。
