- Pen Test Partnersは、弱い検証やHTMLインジェクションなど、ユーロスターのAIチャットボットの欠陥を発見
- ユーロスターは顧客データは一度も危険にさらされていないとし、脆弱性はその後緩和されたと説明
- Palo Altoは、AIの急速な導入により、設定ミスや非人間のIDを通じてクラウドの攻撃対象領域が拡大すると警告
ユーロスターが最近導入したAI搭載のカスタマーサポート用チャットボットには、サイバーセキュリティ上の脆弱性があり、多数の潜在的リスクへの扉を開きかねないと専門家が警告している。
Pen Test Partnersの研究者は発見したところによると、このチャットボットは会話の中で直近のメッセージしか適切に検証しておらず、古いメッセージを改ざんして悪意あるプロンプトを含められる可能性があったという。そのプロンプトは、システム情報の開示から、（場合によっては）機密性の高い顧客データの持ち出しまで、事実上何でもあり得た。
幸いにも、ユーロスターは顧客情報データベースをチャットボットに接続していなかったため、発見当時はデータ漏えいが起きる直接的なリスクはなかった。
「顧客が危険にさらされることはなかった」
専門家は、会話IDやメッセージIDが適切に検証されていないこと、あるいはチャットウィンドウ内でJavaScriptを直接実行できてしまうHTMLインジェクションの欠陥など、システムには他にも弱点があることを見つけた。
Pen Test Partnersがこれらの脆弱性を最初に発見したとみられる。「他のユーザーの会話や個人データにアクセスしようとする試みは行わなかった」と研究者は説明している。「しかし、チャットボットの機能が拡張されれば、同じ設計上の弱点ははるかに深刻になり得る」
ユーロスターは顧客データが危険にさらされたことはないと強調し、City AMに対して次のように述べた。「このチャットボットは他のシステムにアクセスできず、さらに重要なことに、機密性の高い顧客データが危険にさらされることはなかった。すべてのデータは顧客ログインによって保護されている」
しかし多くの企業がAIツールの導入を急ぐ一方で、企業での急速な採用はクラウドの攻撃対象領域を大幅に拡大し、これまで以上に企業をリスクにさらしている。
