- ChatGPTのサーバーサイド脆弱性により、攻撃者はユーザーの操作なしでデータを盗むことが可能
- ShadowLeakは従来のエンドポイントセキュリティを完全に回避
- ShadowLeakの悪用により、数百万のビジネスユーザーが危険にさらされる可能性
企業は、ChatGPTのDeep ResearchエージェントのようなAIツールを活用し、戦略的意思決定のためにメールやCRMデータ、社内レポートを分析するケースが増えていると専門家は警告しています。
これらのプラットフォームは自動化や効率化をもたらしますが、特に機密性の高いビジネス情報を扱う際には新たなセキュリティ課題も生じます。
Radwareは最近、ChatGPTのDeep Researchエージェントに「ShadowLeak」と名付けられたゼロクリック脆弱性が存在することを明らかにしましたが、従来の脆弱性とは異なり、この脆弱性は機密データを密かに流出させます。
ShadowLeak：ゼロクリックのサーバーサイド攻撃
この脆弱性により、攻撃者はユーザーの操作を一切必要とせず、OpenAIのサーバーから機密データを完全に抜き取ることができます。
「これこそが典型的なゼロクリック攻撃です」とRadwareの最高技術責任者であるDavid Aviv氏は述べています。
「ユーザーの操作は一切不要で、目に見える兆候もなく、被害者が自分のデータが侵害されたことを知る手段もありません。すべてはOpenAIクラウドサーバー上の自律エージェントの動作によって、舞台裏で進行します。」
ShadowLeakはエンドポイントやネットワークにも依存しないため、企業のセキュリティチームによる検知は極めて困難です。
研究者らは、隠された指示を含むメールを送信するだけで、Deep Researchエージェントが自律的に情報を漏洩させることを実証しました。
Radwareのサイバー脅威インテリジェンスディレクターであるPascal Geenens氏は、「AIを導入する企業は、悪用防止のために組み込まれたセーフガードだけに頼ることはできません」と説明しています。
「AI駆動のワークフローは、まだ想定されていない方法で操作される可能性があり、こうした攻撃経路は従来のセキュリティソリューションの可視性や検知能力をしばしば回避します。」
この脆弱性は、純粋なサーバーサイドでのゼロクリックデータ流出としては初めてのものであり、企業側からはほとんど証拠が残りません。
ChatGPTは500万以上の有料ビジネスユーザーを抱えていると報告しており、潜在的な被害規模は非常に大きいと言えます。
自律型AIエージェントが機密データにアクセスする場合には、人間による監督と厳格なアクセス制御が引き続き重要です。
したがって、AIを導入する組織は、これらのツールを慎重に扱い、常にセキュリティの隙間を評価し、技術と十分な運用知識を組み合わせて運用する必要があります。
安全を守るために
- 複数の攻撃タイプに同時に対応できる多層的なサイバーセキュリティ防御を導入する。
- AI駆動のワークフローを定期的に監視し、不審な活動やデータ漏洩の兆候を検出する。
- システム全体に最良のウイルス対策ソリューションを導入し、従来型マルウェア攻撃から守る。
- 強固なランサムウェア対策を維持し、機密情報を横方向の脅威から保護する。
- 機密データとやり取りするAIツールには厳格なアクセス制御とユーザー権限を適用する。
- 自律型AIエージェントが機密情報にアクセス・処理する際は必ず人間による監督を行う。
- AIエージェントの活動を記録・監査し、異常を早期に特定できるようにする。
- 異常検知や自動セキュリティアラートのために追加のAIツールを統合する。
- 従業員にAI関連の脅威や自律エージェントワークフローのリスクについて教育する。
- ソフトウェアによる防御、運用上のベストプラクティス、継続的な警戒を組み合わせてリスクを低減する。
