重大なプライバシー上の失態により、人気モバイルアプリ「Chat & Ask AI」が、2,500万人のユーザーの3億件のプライベートメッセージを公開してしまいました。
Google PlayとAppleのApp Storeで提供されているこのアプリでは、ChatGPT、Claude、GeminiといったAIモデルとチャットできます。
Harryとして知られる独立系セキュリティ研究者がこの欠陥を発見し、詳細を404 Mediaに共有しました。
問題の原因はハッカー攻撃ではなく、基本的な設定ミスでした。このアプリはGoogle Firebaseを使用しており、これはアプリデータを保存するためのクラウドサービスです。
Firebaseのデータベースは初期状態では安全ですが、開発者がアクセスを制御するための「ルール」を設定する必要があります。ここではそのルールが大きく開放されたままで、玄関の鍵をかけずに放置しているような状態でした。
簡単なFirebaseログインさえあれば、誰でも「認証済み」ユーザーとして振る舞い、バックエンドのデータベース全体を読み取れてしまいました。
Harryは数百万人分のユーザーのチャット履歴にアクセスしました。流出したデータには、タイムスタンプ、ユーザー設定、選択されたAIモデル、カスタムチャットボット名などが含まれていました。
6万人のユーザーと100万件のメッセージをサンプリングした結果、侵害が確認され、アプリが主張する5,000万人のユーザーの少なくとも半数に影響が及んだことが分かりました。パスワードや金融情報は流出していませんが、メッセージ内容は極めて個人的なものでした。
ユーザーはこれらのAIボットを信頼できる友人のように扱い、秘密を気軽に打ち明けます。流出したログには衝撃的な質問が含まれていました。自殺の遺書の書き方、痛みの少ない自傷方法、メタンフェタミンのレシピ、ハッキングのコツなどです。
これは、単純なインターフェースの「ラッパー」アプリが抱えるリスクを浮き彫りにしています。OpenAIやGoogleのような大手AI技術を再販売している一方で、それに見合うセキュリティを備えていないのです。
Firebaseは次のように動作します。データをリアルタイムデータベースまたはCloud Storageに保存します。デフォルトのルールでは認証が必要で、読み書きが制限されます。開発者は次のような簡単な言語でルールを書きます。
「Chat & Ask AI」では、ルールが公開読み取りを許可していました：allow read: if true;。簡単なcurlコマンドやFirebase SDKでデータをダンプできてしまいます。Harryが開発者に警告したことで修正され、その後データベースは保護されました。
これは珍しいことではありません。Firebaseの設定ミスにより、以前にもFortniteのトラッカーなどのアプリからデータが流出しています。ラッパーアプリは市場投入を急ぎ、監査を省きがちです。
この侵害はAIブームへの警鐘です。利便性がセキュリティに勝ってはなりません。開発者は設定を最優先すべきであり、ユーザーもアプリに打ち明ける前にもう一度考えるべきです。
翻訳元: https://cyberpress.org/ai-chat-app-data-breach-exposes/