- スペインのデータ保護当局(AEPD)が、自律型AIエージェントによる初の情報漏えい事案を報告
- 同エージェントは複数の攻撃段階を連鎖させ、公開ファイルへのアクセス、システムのスキャン、脆弱性の悪用、データの改ざんを実行
- AEPDは企業に対し、AI主導の攻撃をリスク評価に組み込むよう促し、より迅速な対応と強固なID管理の重要性を強調
スペインのある企業が、自律型AIエージェントによる情報漏えいの被害を受けたとみられています。
今週初め、スペインのデータ保護当局(AEPD)の会長を務めるフランシスコ・ペレス・ベス氏は、同当局のブログに新たな記事を公開し、「著名な大規模言語モデルを搭載した人工知能エージェントを使用して実行されたとされるインシデントについて、個人データ漏えいの通知を初めて受け取った」と述べました。
ペレス・ベス氏によると、このエージェントはまず標的企業の「一般に公開されているファイル」を利用し、そこからシステムへのログインに成功しました。侵入後は内部から脆弱性のスキャンを開始し、脆弱性を発見するとそれを悪用して個人データを改ざんし、請求書へのアクセス権を得たといいます。
行動を促す警鐘
著者は、この事案についてはまだほとんど分かっておらず、現在も詳細な調査が進行中であると強調しています。また、今回の攻撃はAIモデルやそのプロバイダーのインフラそのものが侵害された、あるいは設計上悪意を持っていたことを意味するものではないと指摘する一方、AIエージェントが複数の攻撃段階を連鎖させて実行した点は「データ保護の観点から重大」だと述べています。
ペレス氏にとって、この攻撃は行動を促す警鐘です。企業はセキュリティリスクの評価・管理方法を根本から見直す必要があるといいます。同氏は、企業が「個人データ処理に伴うリスクを評価する際、AI支援型・AI主導型の攻撃を明示的に考慮に入れる」必要があり、対応時間についても再評価が求められると主張しています。
「人手による攻撃を前提に設計された対応手順では、AIエージェントが複数の資産を同時に分析し、さまざまな攻撃経路を試行し、発見した情報をもとに即座に行動を適応させる状況には対応しきれない可能性があります」
同氏はまた、「デジタルIDおよび認証情報の重要性が増している」ことも強調しました。アカウントやAPIキーを持つAIエージェントは「機械的な速度で動作し、組織が異常な活動を検知する前に複数のサービスをまたいで移動できる」ためです。
