独立したセキュリティ研究者が、Google PlayおよびApple App Storeで最も人気のあるAIチャットアプリの一つで、ユーザー数が5,000万人を超えるChat & Ask AIに影響する大規模なデータ侵害を発見しました。
研究者によると、公開状態のデータベースが原因で、2,500万人超のユーザーから3億件のメッセージにアクセスできたといいます。これらのメッセージには、違法行為に関する議論や自殺幇助の依頼などが含まれていたと報告されています。
舞台裏では、Chat & Ask AIは他社のさまざまな大規模言語モデル（LLM）に接続する「ラッパー」アプリで、OpenAIのChatGPT、AnthropicのClaude、GoogleのGeminiなどが含まれます。ユーザーは、どのモデルとやり取りするかを選択できます。
露出していたデータには、ユーザーの全チャット履歴、使用したモデル、その他の設定を含むユーザーファイルが含まれていました。しかしそれだけでなく、Chat & Ask AIの開発元であるCodewayが開発した他のアプリのユーザーデータも明らかになりました。
このデータ侵害の背後にある脆弱性は、よく知られ文書化もされているFirebaseの設定ミスです。FirebaseはGoogleが提供するクラウドベースのバックエンド・アズ・ア・サービス（BaaS）プラットフォームで、開発者がモバイルおよびWebアプリケーションを構築、管理、拡張するのを支援します。
セキュリティ研究者は、開発者がGoogle Firebaseサービスを設定する際に起こしがちな、予防可能な一連の誤りについてよく言及します。これらの誤りにより、バックエンドデータ、データベース、ストレージバケットが認証なしで一般公開され、誰でもアクセスできる状態になります。
最も一般的なFirebaseの設定ミスの一つは、Security Rulesを公開設定のままにしてしまうことです。これにより、プロジェクトURLを知っている人なら誰でも、認証なしでデータの読み取り、変更、削除ができてしまいます。
これを受けて研究者は、Google PlayとApple App Storeのアプリをこの脆弱性について自動的にスキャンするツールを作成しました。その結果は驚くべきものでした。報道によれば、Harryという名の研究者は、スキャンした200本のiOSアプリのうち103本にこの問題があることを発見し、合計で数千万件の保存ファイルが露出していたといいます。
この問題への注意を喚起するため、Harryはユーザーが影響を受けるアプリを確認できるウェブサイトを立ち上げました。開発者が問題を修正したと確認するとHarryが掲載を削除するため、Codewayのアプリは現在そこに掲載されていません。報道によれば、Codewayは責任ある開示を受けてから数時間以内に、同社の全アプリで問題を解決したとのことです。
安全を保つ方法
HarryのFirehound レジストリに、あなたが使っているアプリが載っていないか確認することに加え、AIチャットボットを利用する際にプライバシーをよりよく守るための方法がいくつかあります。
- あなたのデータをモデルの学習に使わない、プライベートなチャットボットを利用する。
- 重要な人生の意思決定をチャットボットに頼らない。彼らには経験も共感もありません。
- 機微な विषयを話すときは実名を使わない。
- 共有する情報は個人が特定できないものにする。実名は使わず、個人文書をアップロードしない。
- どうしても必要な場合を除き、会話を共有しない。場合によっては、それが検索可能になってしまいます。
- ソーシャルメディア企業が開発したAI（Meta AI、Llama、Grok、Bard、Geminiなど）を使う場合は、そのソーシャルメディアプラットフォームにログインしていないことを確認する。会話がソーシャルメディアアカウントに紐づけられる可能性があり、そのアカウントには多くの個人情報が含まれているかもしれません。
AIの進歩は、セキュリティやプライバシーを技術に組み込むには速すぎるスピードで進んでいることを常に忘れないでください。そして、最高のAIでさえ依然としてハルシネーションを起こします。
