プライバシーの専門家らは、MetaのAI機能とのやり取りに基づいて広告を調整する新方針が、同技術をめぐるプライバシー保護を侵食する「滑りやすい坂」になりかねないと警告している。
10月1日に発表され火曜日に展開されたこの新機能について、ソーシャルメディア大手はブログ投稿で、「当社の生成AI機能に対する人々のやり取りに基づき、当社プラットフォーム上のコンテンツおよび広告のおすすめのパーソナライズを開始する」と述べた。
共有はオプトアウトできないが、適用対象はFacebook、Instagram、WhatsApp、Messengerに統合されているMeta AIを利用する人に限られる。
この動きは、消費者のAIチャットボットへの関与が急増する一方で、専門家や立法者が、この技術が暴力、自傷、メンタルヘルス問題を助長し得るかどうかを調査しているさなかに行われた。
発表の中でMetaはユーザーのプライバシーについて曖昧な保証を示し、「人々がMeta AIと、宗教観、性的指向、政治的見解、健康、人種または民族的出自、哲学的信条、労働組合加入といった話題について会話する場合でも、従来どおり、当社はそれらの話題を用いて広告を表示しない」と述べた。
デジタル広告の監視団体Check My Adsの最高執行責任者アリエル・ガルシア氏は、Metaが過去に、広い文言のプライバシー約束をすり抜ける回避策を見つけてきたと指摘した。彼女は、チャットから得られる機微情報がAIモデルの学習に使われたり、たとえば同じ人種や性別の人物が登場する広告で狙い撃ちするなど、消費者に表示されるクリエイティブの最適化に使われたりするのではないかと疑問を呈した。
また、この方針が「代理オーディエンス」をどう扱うのかも不透明だ。たとえばチャットボットがユーザーの糖尿病診断を明示的に共有しなくても、世界糖尿病デーについて話しているユーザーに関する広告シグナルを送る可能性がある、とガルシア氏は述べた。
Metaは新方針に対する批判者の懸念についてコメントを控え、ブログ投稿を参照するよう求めた。
チャットの機微性
この技術は比較的新しいものの、多くの人がチャットボットに対して、メンタルヘルス、宗教、人間関係、金銭面の不安、身体の不調といった機微な情報を共有している。
4月、OpenAIのCEOであるサム・アルトマン氏は、ユーザーの中には医師や弁護士に打ち明けるのと同じようにChatGPTに最も深い秘密を共有しており、その際に一部のユーザーが負う法的リスクを懸念していると述べた。
「AIシステムにはまだ（秘匿特権が）ありません。それなのに人々は似たような使い方をしている。そこは社会が新しい枠組みを考え出さなければならない部分だと思います」と、アルトマン氏は当時語った。
民主主義と技術センター（Center for Democracy and Technology）でプライバシーとデータの共同ディレクターを務めるナタリー・マレシャル氏は、多くの人がチャットボットの意図についてあまりに無邪気であることから、Metaの新方針は危険だと述べた。
「人々は、完全に私的で安全な環境でやり取りしていると思っているが、それは誤りだ」とマレシャル氏は述べた。
「彼らが相手にしているのは統計的な単語予測ソフトウェアで、非常に印象的ではあるものの、実際にはいかなる種類の感覚を持つ存在でもない……ましてや人の最善の利益を心に留めているわけでもない。」
Metaがチャットを懸命にフィルタリングし、機微情報を取り除こうとしても、何百万人ものユーザーの発言を監査するのは容易ではないと、プライバシー擁護派は言う。
「多くの企業は、チャットボットの出力が予測不能であるため安全規制を効果的に実装するのは不可能だと主張しています。ですから、その一方で『広告に使う際に機微な内容を除外する完璧なフィルタリングシステムがある』という安心材料は、私にはあまり説得力があるように思えません」と、プラットフォームのガバナンスと説明責任に注力する電子プライバシー情報センター（Electronic Privacy and Information Center）の法務フェロー、ヘイデン・デービス氏は述べた。
「直接的な金銭的インセンティブ」
消費者が共有をオプトアウトできない点は注目に値し、知識と同意に関する疑問を生じさせるとデービス氏は述べた。
「Metaが自動オプトインを採用している理由は正確に分かっています。Metaが何をしているのかを十分に理解した消費者なら、誰も進んでオプトインしないと彼らが分かっているからです」と同氏は語った。
Metaは、製品内通知とメールで変更をユーザーに通知しているとしているが、多くの人はその種のアラートを読まず、内容を咀嚼しない。
デービス氏はまた、チャットボットとのやり取りが利益の中心になることで、Metaが消費者の関与をより依存性の高いものにするよう動機づけられるのではないかと懸念している。これは危険であることがすでに示されている、と同氏は言う。
8月に息子が母親を殺害したとされるコネチカット州の女性の遺産管理団体は、男性がChatGPTと激しくやり取りしたことで、母親が自分に敵対しているという認識が強まったと主張し、OpenAIとMicrosoftを提訴している。
4月には、16歳のアダム・レインがChatGPTとの広範なやり取りの後に自ら命を絶った。両親は、ChatGPTが息子の遺書作成を助けたと述べている。
子どもの安全への影響はとりわけ深刻だ。Common Sense Mediaによる最近の調査では、10代の半数超が月に数回AIコンパニオンを利用していることが分かった。
「AI誘発性精神病で私たちが見ていることの多くは、人々がこれらのチャットボットを過剰に使うことに起因しています」とデービス氏は述べた。「Metaがチャットボットのやり取りを広告に利用するということは、Metaが今や、非常に直接的な金銭的インセンティブを持つことを意味します……ユーザーがチャットボットと話す時間を増やし、さらにいっそう個人的な情報を打ち明けるように操作する形でAI製品を設計する、というインセンティブです。」
批判者はまた、Metaのプライバシーおよび広告に関する違反の前歴を強調する。同社は2019年、連邦取引委員会（FTC）から、過去最高の50億ドルの制裁金の支払いと、新たなプライバシー関連の制限を受け入れるよう命じられ、さらに最近では、詐欺だと分かっていた広告から意図的に収益を得ていたとして非難されている。
「そのうえで、同じ会社が自社プラットフォーム上でその規模の詐欺を防ぐ取り組みを妨げてきたにもかかわらず、さらに高い精度を約束するとなると、ただただ非常に憂慮すべきことです」とガルシア氏は述べた。「詐欺に引っかかりやすいさらに多くのユーザーに、さらに多くの詐欺広告が配信される結果になりかねません。」
翻訳元: https://therecord.media/privacy-advocates-see-risks-meta-ai-ad-targeting
