AmazonのAI駆動型ビジネスインテリジェンスプラットフォームにおける一見無害に思える見落としが、管理者によるロックアウトをバックドアに変えました。
研究者は、特定のユーザーに対してAIチャットエージェントをシャットダウンするよう設計されたカスタム権限設定が、フロントエンドでのみ強制され、APIレベルではまったく強制されていないことを発見しました。
バックエンドへの生のHTTPリクエストを送信することで、基本アカウントを持つ誰でも、明示的に禁止されているにもかかわらず、AIと会話し、「マンゴーについて教えて」などのプロンプトへの回答を受け取ることができました。
この欠陥は、サーバーサイドの認可チェックの欠如、典型的なCWE-862の欠落認可バグに起因しており、クラウドネイティブAIサービスにおけるUIの約束と実際の強制の間のギャップを露呈しました。
このインシデントは、AI対応クラウドプラットフォームにおける反復的な課題を強調しています。セキュリティコントロールはUIとAPIの両方のレイヤー全体で一貫して強制される必要があります。
AIエージェントがSaaS製品に組み込まれるにつれて、フロントエンド制限のみに依存することは危険な盲点を生み出します。
組織は、ベンダーがすべてのAI関連エンドポイントに対して透過的なサーバーサイド認可を提供するまで、直接APIコールを通じて権限の強制を定期的にテストし、ネットワークレベルの制限やランタイムAI使用監視などの追加のセーフガードをレイヤー化することを検討すべきです。
翻訳元: https://cyberpress.org/amazon-quick-flaw/
ソース: cyberpress.org