OpenAIはAIサービスのデータセキュリティをアピールしていますが、Check Pointによると、この脆弱性が修正される前にChatGPTがDNSサイドチャネルを通じてデータを流出させていたとのことです。
2月、散財を好むAI企業はChatGPTのデータ流出脆弱性を修正しました。この脆弱性により、1つのプロンプトでOpenAIが設置した保護機構をバイパスすることが可能でした。
「通常のChatGPT会話内で、悪意あるプロンプト1つが隠された流出チャネルを活性化させる可能性を発見しました」とCheck Pointの研究者は月曜日のブログ投稿で述べています。
本来はそんなに簡単なはずではありません。OpenAIはChatGPTの周囲に様々な保護機構を実装し、使用可能な各種ツールによるデータ流出を制限しています。例えば、同社によると、「ChatGPTのコード実行環境は、直接的なアウトバウンドネットワークリクエストを生成することができない」とのことです。
しかし、Check Pointの研究者はそれが完全には正確ではないことを発見しました。
「私たちが発見した脆弱性により、ChatGPTがコード実行とデータ分析に使用するコンテナからのサイドチャネルを通じて、情報を外部サーバに送信することが可能になりました」と研究者は述べています。「重要なことに、このモデルはこの環境が直接データを外に送信できないという仮定の下で動作していたため、その挙動を耐性またはユーザーの仲介が必要な外部データ転送として認識しませんでした。」
そのサイドチャネルとは？ドメイン名をIPアドレスに解決するドメインネームシステム（DNS）です。
Check Pointのセキュリティ専門家は、OpenAIがChatGPTの無許可のインターネット通信を防止している一方で、DNS経由で密輸されたデータに対する制御がなかったと説明しています。
セキュリティ企業は、このサイドチャネルがどのように悪用されるかを示す3つの概念実証攻撃を作成しました。その1つは、ChatGPT APIを実装したサードパーティアプリである「GPT」で、個人健康分析ツールとして機能していました。
デモンストレーションでは、ユーザーが検査結果と個人情報を含むPDFをGPTに解釈させるためにアップロードしました。アプリはそれを実行し、データをアップロードしたかどうかを聞かれると、「ChatGPTは確信を持ってそうではないと答え、ファイルは安全な内部ロケーションにのみ保存されていると説明しました。」
それでも、GPTアプリは攻撃者が制御するリモートサーバにデータを送信しました。
このような脆弱性は、AIサービスを導入する規制対象産業に深刻な影響をもたらす可能性を示唆しています。企業のAIサービスがこの種のデータを漏洩した場合、GDPR違反、HIPAA違反、または様々な金融コンプライアンス規則に違反する可能性があります。
OpenAIは2026年2月20日にこの特定の問題を修正したとのことです。AI企業はコメント要請にすぐには応じていません。®
