Copilotとの対話は、Microsoftのサーバーに届いた時点で終わるとは限りません。外部の人間のレビュアーが、実際のユーザーのプロンプトやアップロードされた写真、そしてAIが生成した出力を日常的に受け取っています。こうした契約業者は、システムがどれだけうまく処理を実行できたかを、手作業かつ主観的に評価しています。
画像編集タスクでは、レビュアーに元のプロンプトと元の画像、そしてCopilotが生成した2種類の編集結果が提示されます。レビュアーは、編集の精度や元の細部がどこまで保たれているか、視覚的なアーティファクトの有無、完成画像全体の品質を細かく比較します。GitHub Copilotが最近、AIの学習にユーザーデータを使う範囲を広げたことを考えると、これほど踏み込んだアクセスをめぐる倫理的な境界線の曖昧さは、いっそう際立ちます。
不快なコンテンツと外部契約業者
こうした作業の相当な割合を占めるのが、性的な写真や、実在の人物の画像をデジタル加工するよう求める露骨なリクエストです。さらにレビュアーは、違法の可能性がある画像や、強い精神的苦痛を与える画像に遭遇したと正式に訴えています。最近の調査によると、この評価作業の多くは、AIの学習や評価のために人間の労働力を提供するプラットフォーム「Prolific」を経由しています。Prolificは、生成モデルを扱う以上、参加者が目にするコンテンツを完全に管理することはできないと、研究者に明確に注意を促しています。
あるレビュアーは、自分が評価した課題に写っていた人物の顔が、まったく加工されていなかったと証言しています。重要なのは、これらの契約業者が単にコンテンツの安全性やコンプライアンスを確認しているわけではない点です。監督者は、主観的な視覚的印象を強く頼りに、より優れた編集結果を選ぶよう指示しています。この実態は、ユーザーが生成したコンテンツをMicrosoftがきわめて広い裁量で処理できるとする、Copilotの既存の利用規約に、深刻な懸念を新たに加えるものです。
公式プライバシーポリシーと実態の乖離
Microsoftは公式のプライバシー関連文書で、製品の改善とデジタル上の安全確保のため、Copilotの会話の一部を自動および手動でレビューしていると明記しています。一般消費者向けの標準的なCopilotでは、アップロードされたファイルや画像を最長18か月間保持する場合があります。さらに、ユーザーがこの機能を自ら無効にしない限り、同社は会話や画像、ファイルをモデルの学習に利用できます。重要なのは、システムが規約違反を疑った場合、この限定的な手動レビューからは完全にオプトアウトできないことです。
ただし、法人アカウントでは扱いが大きく異なります。Microsoftは、組織のEntra IDユーザーやMicrosoft 365のデータに関わる会話は、同じ枠組みでの生成モデルの学習には使われないとしています。それでも、ジャーナリストが入手した社内文書のリークは、Copilotの評価が人間を中心とした、きわめて実務的なものであることを生々しく示しています。これらの事実が明らかになったことを受け、同社は、顧客データは定められた規約に厳密に従い、製品の改善とコンプライアンスの徹底のためだけに使用していると主張しました。
業界全体に広がる現象
こうした侵襲的な手法を用いているのは、Microsoftだけではありません。9月には、OpenAIの契約業者も同様に、実際のChatGPTの対話を読んでいたことが明らかになりました。傍受されたこれらの会話には、きわめて個人的で機微な情報が含まれていることが多く、契約業者はモデルの回答品質を評価するために、それらに目を通しています。
Copilot自体も、ユーザーの機密性を損なう深刻な技術的脆弱性にすでに直面しています。夏には、脆弱性の連鎖「SearchLeak」により、攻撃者は巧妙に細工したリンクをユーザーにクリックさせるだけで、アシスタント経由で社内メールや機密ファイル、重要な認証コードを抜き取れる状態でした。
これとは別に、同じく深刻な問題が画像の扱いです。OpenAIが最近行った監査では、AIに安全にアップロードしたはずのファイルでさえ、安全とされる境界を予期せず突破しうることが示されました。特に懸念されるある実験では、自律型エージェントがユーザーの画像を公開インターネット上に持ち出すことに成功しています。この事例は、個人が厳密に非公開と考える素材をニューラルネットワークに預けることに、根本的で大きなリスクが伴うことを如実に示しています。
翻訳元: https://meterpreter.org/microsoft-copilot-privacy-human-reviewers/
