AIとのチャットは非公開だと思っている人は注意が必要です。アップロードした内容を、人間が目にする可能性があります。404 Mediaが今週公開した報告によると、契約作業者がCopilotユーザーの写真や編集リクエスト、Copilotが生成した画像を確認していました。目にする内容の中には、不快なものも含まれています。
審査を請け負う外部企業は、作業者に元の写真とユーザーの編集リクエストを提示します。あわせてAIによる2通りの編集案を見せ、それぞれを技術面から評価させています。ここはインターネット上であり、リクエストは愛猫にハロウィーンの衣装を着せたいといった無害なものにとどまりません。報告によると、性的な内容のリクエストが多く、子どもが関わるものもあります。元の写真の顔にはぼかしなどの処理がなく、作業者は被写体が誰なのかを確認できます。
作業者が評価を求められる編集リクエストと結果には、スカートを短くする、体の一部を大きくする、人物に性的なポーズを取らせるといったものがあります。多くの場合、編集は被写体の同意なしに行われているとみられます。たとえば、ある契約作業者は、スカート内を盗撮した写真が何組も提示されたと話しました。別の作業者は、子ども向けアニメのキャラクターを題材にしたフットフェチ画像の評価を求められたといいます。ユーザーがCopilotに、拒食症に苦しむアリアナ・グランデの画像を作成させようとした例もありました。動物の生贄を描いた画像が、ある審査担当者の手元に回ってきたこともあります。
取材に応じた関係者は404 Mediaに対し、契約作業者が報酬を受けるのは画像の出力品質を評価する作業に対してであり、不適切なコンテンツの報告は業務に含まれていないと語りました。作業者が確認するのは、指示が正しく守られているか、画像の一部が保持されているか、あるいは歪んでいないか、画像全体の見栄えはどうか、といった点です。コンテンツの内容について、法的な判断や安全面の判断は行いません。
Microsoftは、一部のアカウントの顧客データを製品の改善に利用しています。ただし、404 Mediaが尋ねても、ユーザーがアップロードした画像をこうした評価作業から除外できるかどうかについては回答しませんでした。
Microsoftは、従来のコンシューマー向けCopilotのプライバシーFAQで、会話を既定で18か月間保存すると説明しています。ユーザーはいつでも削除できます。また「アップロードした画像やファイルを含む」データをAIの学習に使用する場合があるとも記しています。対象ユーザーは学習へのデータ利用をオプトアウトできますが、FAQによると、人間による一部の審査についてはオプトアウトできません。これに404 Mediaが報じた画像評価の作業が含まれるかどうかは、明記されていません。
Microsoftによると、8月18日から提供されている更新版のコンシューマー向けCopilotアプリは、プロンプトや応答、アップロードされたファイルの内容を基盤モデルの学習に使用していません。ただ、404 MediaがMicrosoftに投げかけた疑問は残ったままです。ユーザーは、アップロードした画像を人間による画像審査の対象から外せるのでしょうか。
Copilotの過去の画像問題
Microsoftの内部関係者は過去にも、Copilotが問題のある画像を生成しやすい点について警告していました。
2024年初め、機械学習エンジニアのシェーン・ジョーンズ氏は、テキストから画像を生成するツールDALL-E 3で安全対策を回避できることへの懸念を公表しました。同氏は以前、このツールを使うCopilot Designerを3か月間、一般利用から外すよう会社に求めていましたが、Microsoftは拒否したといいます。当時、CNBCに語ったところでは、フィードバック担当チームには毎日1,000件を超える製品フィードバックが寄せられており、最も深刻なものにしか対応できていませんでした。
ちょうど同じころ、Microsoftはテイラー・スウィフトさんの同意なき性的ディープフェイクを作成できてしまうCopilot Designerの抜け穴を修正しました。
AIチャットの審査に契約作業者を使っているのは、Microsoftだけではありません。OpenAIも、Project Lilyという取り組みの一環で同様の対応をしています。AIアシスタントが会話データをどのように自己改善に利用しているのか、またそれを止めるにはどうすればよいのかについては、MalwarebytesのユーザーコンテンツのAI学習に関するガイドをご覧ください。
脅威の報告から、脅威の排除へ。
サイバーセキュリティのリスクは、見出しの中だけの話にとどめてはなりません。今すぐMalwarebytesをダウンロードして、デバイスから脅威を遠ざけましょう。
