WhatsAppの隠しAI指示、チャットボットにプライバシー苦情への言及を禁じていた

WhatsAppの公開プライバシーポリシーは、ユーザーがデータ保護当局に苦情を申し立てる権利を認めています。ところがヘルプセンターのページに埋め込まれた隠し指示では、AIチャットボットに対し、特定のケースでこの選択肢を案内しないよう命じていました。

この指示を発見したのは、データ削除サービスを手がけるRedactです。同社はWhatsAppのヘルプセンターのHTMLソースコードに埋め込まれた指示を突き止めました。その一部は、アカウント削除の問題をめぐって規制当局への苦情を勧めないようチャットボットに指示していました。別の指示は、特定の情報を引用しないよう求めるものでした。

WhatsAppは、この問題の露呈はバグが原因だったと説明し、現在は該当の指示を削除しています。今回の発見は、WhatsAppがプライバシー法に違反したことを裏付けるものではありません。ただし、AIの回答が企業の公表したポリシーと整合しているかを確認する必要性を浮き彫りにしています。

問題の核心は何か

Redactは、隠されたAI向け指示を102ブロック発見しました。これらはWhatsAppのヘルプセンター80ページにまたがっていました。

指示はページのHTMLソースコードに埋め込まれていました。一般の訪問者には見えませんが、ページの基となるコンテンツを処理するシステムには読み取られる可能性があります。Redactは、WhatsAppのAIサポートチャットボット向けにコンテンツを示す目的とみられる識別子HelpContentGalaxyLLMIncludeの下で、これらの指示を見つけました。

報告された例の一つでは、WhatsAppが、スマートフォンや電話番号にアクセスできなくなった場合の対処法を説明していました。しかし隠し指示はさらに踏み込み、データ保護当局への連絡を勧めたり、WhatsAppが手動でアカウントを削除できると示唆したりしないよう、チャットボットに命じていました。 

その結果、同社の公開プライバシー情報で認められている選択肢と、チャットボットが案内するよう指示されていた内容との間に食い違いが生じています。

Redactによると、AI向け指示は80ページで102ブロックに上りました。すべてが情報を制限するものだったわけではありません。わかりにくいトピックを整理するもの、より適切なページへユーザーを誘導するもの、安全面の注意を示すものも含まれていました。

WhatsApp「バグで指示が露呈した」

WhatsAppはWIREDに対し、バグが原因でこれらの指示がヘルプセンターのページに表示されたことを認めました。同社はあわせて、AIサポートチャットボットは法的助言の提供を意図したものではないと述べています。

WIREDの取材に対しWhatsAppは、AIサポートチャットボットに法的助言を提供させる意図はなかったと説明しました。AIモデルはハルシネーション（もっともらしい誤情報の生成）を起こし、不正確な法的情報をユーザーに伝える恐れがあります。ユーザーにも企業にも新たな問題を生みかねないため、この立場は妥当といえます。

しかしRedactは、法的助言を避けることと、ユーザーが取りうる選択肢についての情報を伏せることは別だと主張しています。

研究者によると、一部の指示は法的助言を控えさせるだけにとどまっていませんでした。データ保護当局への連絡を勧めたり、関連するプライバシー法に言及したりしないよう、チャットボットに命じていたといいます。

今回の発見は、AIアシスタントの責任範囲を限定することと、ユーザーが自分の選択肢について正確な情報を得られるようにすることの間で、企業はどこに線を引くべきかという問いを投げかけています。

顧客向けAIを使う企業への広範な影響

顧客対応にAIを導入する企業にとって、今回の件は、チャットボットが何を話すかだけでなく、何を話さないよう指示されているかにも注意を払う必要があることを示しています。

特に重要なのは、AIシステムが対応する場面が、苦情、アカウント解約、請求トラブル、プライバシーに関する請求など、ユーザーが次の行動を決める前に選択肢を理解する必要があるケースである場合です。 

専門的な助言をチャットボットに禁じるのは妥当です。ただし、その制限によって、基本的で関連性のある情報の提供や、適切な当局・専門家への案内まで妨げられないよう、企業は注意しなければなりません。

セキュリティ担当やAIガバナンス担当のチームにとって、今回の件は、チャットボットへの指示を監査すること、実際の顧客シナリオで回答をテストすること、社内の制限が公表済みのポリシーやユーザーの正当な選択肢と矛盾していないかを確認することの重要性を改めて示しています。

チャットボットがユーザーの期待を裏切るのに、偽の回答をでっち上げる必要はありません。重要な選択肢を省くだけで十分な場合もあります。

顧客向けAIを展開する企業にとって、教訓はハルシネーションの防止にとどまりません。システムに何を省くよう指示しているのかも点検する必要があります。そうした省略は、誤った回答と同じように、ユーザーの判断を左右し、信頼を損なう可能性があるためです。

関連ニュース: Microsoftは、AIエージェントの挙動を監視する新たなセキュリティ制御を発表しました。リスクが顕在化した場合にはアクセスを制限します。