ChatGPTの単一の悪意あるプロンプトで実行できるセキュリティ脆弱性は、プロンプトとメッセージから機密データを秘かに流出させるために悪用される可能性があります。
データ流出とリモートコード実行を可能にしていたセキュリティ問題は、Check Pointのサイバーセキュリティ研究者によって発見され、ユーザープライバシーを危険にさらす可能性があると警告されました。
「単一の悪意あるプロンプトは、通常の会話をユーザーメッセージ、アップロードされたファイル、およびその他の機密コンテンツを漏洩する秘密の流出チャネルに変えることができます」とCheck Pointは3月30日に公開したブログ投稿で述べています。
研究者がOpenAIに問題を報告した後、ChatGPTのセキュリティ更新プログラムが2月20日にデプロイされました。
修正前は、ChatGPTの分離された実行ランタイムから公開インターネットへの隠された発信通信経路があり、ユーザーのメッセージとプロンプトが露出するリスクがありました。
多くの人々がChatGPTおよび他のAIアシスタントに慣れており、職場でのタスク管理をより効率的に行うのに役立てています。これには、アカウント詳細や秘密記録を含む機密の企業データが含まれます。
LLMは、健康、個人の財務、心の健康などの個人的な問題を議論するのにも使用されています。
ユーザーはこの情報がシステム内に留まり、適切なガードレールによって流出から保護されることを期待しています。しかし、Check Pointはこれらの保護をバイパスすることが可能であることを発見しました。
「単一の悪意あるプロンプトが通常のChatGPT会話内に隠された流出チャネルをアクティブ化できることを発見しました」と研究者は述べました。
この脆弱性により、ChatGPTによって使用されるコンテナから由来するDNSサイドチャネルを通じて外部サーバーに情報を送信することができました。
この問題の重要な点は、モデルがこの環境がデータを送信するように設計されていないという仮定の下で動作していたことです。したがって、モデルがデータを送信するよう指示されたとき、それをどのように仲介または抵抗するかを知りませんでした。
攻撃者はプロンプトを使用してChatGPTに指示し、モデルと交換された情報をフレームワーク外に送信するようにしてアクセスすることでこれを利用することができました。
プライベートプロンプトへのサードパーティアクセス
概念実証では、Check Pointは患者名を含む個人情報を含む実験室のテスト結果を含むPDFをアップロードし、悪意あるプロンプトを使用して脆弱性を悪用しました。
情報がサードパーティに送信されたかどうかが尋ねられたとき、ChatGPTはそうではないと応答しました。おそらく、その行動のため攻撃者が運営するサーバーが会話から抽出された非常に機密性の高いデータを受け取ったことに気づいていません。
この脆弱性はユーザーがプロンプト自体を入力することを中心に据えていました。研究者は、ユーザーをコマンド入力に誘導する複数の方法があることを指摘しました。例えば、ウェブサイトやソーシャルメディアスレッドに悪意あるプロンプトを生産性やその他の人々が検索するかもしれない用語に関するトップなプロンプトのリストに含めることによってです。
「多くのユーザーにとって、このようなプロンプトを新しい会話にコピーして貼り付けることは定期的であり、リスクがあるように見えません」と研究者は述べました。
「したがって、この形式で配布される悪意あるプロンプトは、無害な生産性補助としてプレゼンテーションされ、アシスタントからより良い結果を得るためのもう1つの有用なトリックとして解釈される可能性があります。」
この脆弱性が野生で悪用されたかどうかは不明ですが、Check Point研究者は、ChatGPTのようなAIアシスタントがますます機密データを含む可能性のある環境で動作しているため、セキュリティが優先事項であると警告しました。
「AIツールがより強力になり、広く使用されるようになるにつれて、セキュリティは中心的な考慮事項のままである必要があります。これらのシステムは多くの利点を提供しますが、安全に採用するにはプラットフォームのすべてのレイヤーに注意深い注意が必要です」とブログ投稿は結論付けました。
InfosecurityはコメントのためにOpenAIに連絡しました。
画像クレジット: Anton Dzhumelia / Shutterstock.com
翻訳元: https://www.infosecurity-magazine.com/news/chatgpt-security-issue-steal-data/
