AIチャットボットの学習をオプトアウトする方法

404 Mediaの技術ジャーナリストたちは、OpenAIが数百人の契約社員を雇い、実際のユーザーがChatGPTに入力したプロンプトとその応答を大量に読んで評価させていることを明らかにしました。

この「プロジェクト・リリー(Project Lily)」と呼ばれるプログラムは、契約社員にChatGPTの回答を採点・批評させることで、チャットボットの品質や振る舞いを改善することを目的としているとされています。

プロンプトが人間によってレビューされる場合があること自体は、それほど驚くべきことではないかもしれません。AI企業は安全性の観点からも会話を監視しています。例えばAnthropicは、AIを生物兵器の研究に悪用しようとする試みを阻止したと発表しています。

しかし、安全性や悪用防止のための会話レビューと、通常のモデル改善を目的としたレビューとの間には、明確な違いがあってしかるべきです。

OpenAIによると、悪用の調査、サポート提供、法的対応、モデルの改善など複数の理由により、権限を与えられた一部の担当者および信頼できるサービスプロバイダーがチャット内容にアクセスできる場合があるとしています。

OpenAIは404 Mediaに対し、プロンプトがレビュー担当者の目に触れる前に「プライバシーフィルター」と呼ばれるモデルを使って個人情報を除去していると説明する一方、機微な情報がすり抜けてしまう可能性があることも認めています。

プロンプトは、レビュー担当者がそれを入力したChatGPTユーザーのユーザー名を目にすることはないという意味では匿名化されています。しかしレビュー担当者は、会話中に含まれる個人的な詳細情報に加え、そのユーザーがこれまでチャットボットをどのように利用してきたかを要約した「ユーザーメモリーサマリー」を目にする可能性があります。これらの情報を組み合わせれば、そのユーザーについて多くのことが依然として明らかになってしまう恐れがあります。

AIチャットボットとやり取りしているとき、それが決してプライベートな会話ではないという事実は、つい忘れがちです。これはAIの利用そのものに対する過剰な警告ではなく、自分が開示する内容が読まれ、レビューされる可能性があることを念頭に置いてほしいという注意喚起です。

AIチャットボットの学習をオプトアウトする方法

ChatGPT

OpenAIは404 Mediaに対し、「全員のためにモデルを改善する」設定をオフにすれば、そのユーザーのチャット内容が同社モデルの改善に利用されることはなくなると説明しています。この設定はFree、Plus、Proの各プランでデフォルトでオンになっているため、オプトアウトしたいユーザーは自ら手動でオフにする必要があります。

ただし、オプトアウトしても人間によるアクセスがすべて遮断されるわけではありません。OpenAIによると、悪用やセキュリティインシデントの調査、サポート提供、問題のトラブルシューティング、法的対応などが必要な場合には、権限を与えられた担当者や信頼できるサービスプロバイダーが引き続きコンテンツにアクセスできるとしています。

ChatGPTでは、プロフィールアイコンを選択し、設定からデータ管理に進み、全員のためにモデルを改善するをオフにしてください。モバイル版では、サイドバーを開いてプロフィールアイコンを選択し、同じ手順に従います。

Perplexity

Perplexityでは、設定から環境設定、AIデータの保持に進み、設定をオフにします。

Perplexityによると、これによりオプトアウト後に収集されたデータがAIモデルの学習に使われなくなるとしています。ただし、それ以前に収集されたデータは削除されず、サービスの運営・改善や法的義務の遵守のためにデータが処理され続ける場合があります。

Claude

Claudeでは、自分の名前を選択し、設定からプライバシーに進みます。AIモデルの改善にご協力くださいの項目で、設定をオフにしてください。

Anthropicによると、新しいチャットやコーディングセッションは今後のモデル学習に使用されなくなるとしています。また、これまでに保存された会話についても、将来の学習プロセスへの利用を停止するとしていますが、すでに学習に組み込まれたデータを取り除くことはできません。

Anthropicはさらに、一つの重要な例外があると述べています。

当社の安全性分類システムによって会話にフラグが立てられた場合、その会話は引き続き、社内の信頼・安全性モデルの改善、有害コンテンツの検知、ポリシーの適用、安全性研究の推進などに利用される可能性があります。

その他のAIツールを利用している場合は、各サービスのプライバシーポリシーや設定を確認し、会話がレビューされたりモデル改善に利用されたりする可能性があるかどうか、またオプトアウトが可能かどうかを調べておくことをお勧めします。