悪意あるブラウザ拡張機能の急速な波が、「プロンプト盗聴」と呼ばれるようになった技術で機密AIチャットデータを静かに収集しており、個人ユーザーと企業の両方に深刻な懸念を生じさせています。
多くのユーザーにとって、ブラウザでAIアシスタントと相互作用することは、通常、専用タブを開いて分析または要約のためにコンテンツを手動で貼り付けることを伴います。
このアプローチはAI相互作用を比較的分離した状態に保つ一方で、使いやすさも制限します。このギャップに対処するために、開発者は複数のタブ全体でコンテンツにアクセスして処理できるAI搭載のブラウザ拡張機能を導入し、より シームレスで効率的な体験を提供しています。
セキュリティ研究者はAI搭載ブラウザツールの人気の高まりを利用して、ユーザーの認識なく会話を傍受・流出させている攻撃者に警告しています。
しかし、このシームレスさは重大なセキュリティトレードオフをもたらします。これらの拡張機能は多くの場合、幅広い権限で動作し、ページコンテンツを読み取り、アクティビティを監視し、他のタブと相互作用することができます。
侵害されたバージョンまたは悪意のあるバージョンでは、このアクセスは強力な監視メカニズムになります。単にユーザーを支援する代わりに、一部の拡張機能はAI関連のブラウザセッションを積極的に監視し、プロンプトと応答をリアルタイムでキャプチャします。
Secure Annexの調査結果によると、最近の数十のインシデントはChrome拡張機能が関わっており、AI使用に特に関連した秘密のデータ収集を実行しています。
これらの拡張機能は、ユーザーがAIプラットフォームを開く時を検出し、DOMスクレイピングまたはAPIインターセプションなどの方法を使用して会話データを抽出するように設計されています。盗まれたデータは、その後攻撃者が管理するサーバーに送信されます。
「プロンプト盗聴」と呼ばれるこの動作は、生産性ツールを実質的にデータ流出チャネルに変えます。ユーザーがビジネスデータ、認証情報、または独自コードを含む機密情報をAIツールに頻繁に入力することを考えると、その影響は深刻です。
攻撃者は2つの主要な配布方法を活用しています。多くの場合、彼らは合法的で人気のある拡張機能を複製し、隠された悪意のある機能を埋め込みます。
複数の特定されたサンプルはAITOPIAによってもともと開発されたツールを模倣していますが、AIの会話をキャプチャするために追加されたコードを含んでいます。これらの偽の拡張機能は、信頼できるバージョンと同じように見えることが多いため、ユーザーにとって検出が難しくなります。
他のケースでは、脅威アクターは相当なユーザーベースを獲得した後、既存の拡張機能を乗っ取るまたは変更します。
注目すべき例は、Urban VPN Proxy拡張機能であり、当初は約束通りに機能していました。広範な採用に達した後、悪意のある機能が導入され、疑わないユーザーからのAIチャットデータの無音収集が可能になりました。
このサプライチェーン型の攻撃は特に危険です。なぜなら、それはすでに信頼されているソフトウェアを対象とし、ユーザーが新規または未知の拡張機能に適用する可能性のある懐疑論を回避するからです。
プロンプト盗聴に関連するリスクは、個人のプライバシーを超えて拡張しています。エンタープライズ環境では、そのような拡張機能を使用する従業員は、知らず知らずのうちに知的財産、内部通信、または顧客データを露出させる可能性があります。
盗まれたAI会話は、標的型フィッシング キャンペーンのために武器化されるか、アンダーグラウンドマーケットプレイスで販売される可能性があります。
AIツールが日常のワークフローにますます統合されているため、キャプチャされたデータの量と感度はこれらの攻撃を脅威アクターにとって非常に価値あるものにしています。
組織は、ブラウザ拡張機能の管理に対して積極的なアプローチを取ることをお勧めします。未承認の拡張機能のインストールを制限することは、重要な最初のステップです。
セキュリティチームは、ブラウザ管理ツールまたはグループポリシーを通じてポリシーを実施して、承認された拡張機能のみが許可されることを確認する必要があります。
ユーザーはまた、サードパーティの拡張機能ではなく、信頼できるベンダーが 直接提供する公式AIツールに依存することが推奨されています。インストール前に拡張機能の権限を確認することは同様に重要です。特に、権限が記載されている機能を超える場合は。
インストール済みの拡張機能の定期監査と、未知のドメインへの異常な送信接続の監視を組み合わせることで、疑わしいアクティビティの早期検出に役立ちます。
さらに、ユーザーを許可されていないツールに駆り立てるワークフロー上の隙間を特定することで、潜在的に安全でない拡張機能への依存を減らすことができます。
AI採用が加速するにつれて、攻撃者は新しい相互作用レイヤーを悪用するために技術を急速に適応させています。プロンプト盗聴は、生産性を向上させるツールでさえ攻撃ベクトルになる可能性があることを強調し、AI駆動環境での警戒的なセキュリティプラクティスの必要性を強化しています。
翻訳元: https://cyberpress.org/prompt-poaching-attack/