スペインデータ保護庁(AEPD)は、既知の大規模言語モデル(LLM)を搭載したAIエージェントによって実行された疑いのある攻撃について通報を受けました。
インシデントを報告した組織によると、このAIエージェントは脆弱性を探索してシステムにログインし、その後アプリ内の追加のセキュリティ問題を調査したとのことです。攻撃の最終段階では、このエージェントが個人データを改ざんし、財務文書にアクセスしました。
スペインの当局はまだこのインシデントを調査し情報を検証していない段階ですが、AEPDはこの通報がAI関連のデータ侵害がもはや単なる理論上の話ではないことを示していると述べています。
「攻撃を行ったエージェントは、汎用ファイル内の脆弱性の探索を開始し、ログインに成功しました」とAEPDは説明しています。
「システムへのアクセス権を得ると、アプリケーション内の脆弱性を自律的に探索し始めました。脆弱性を発見した後は、個人データを改ざんし、請求書にアクセスすることができました」
AEPDは、AIが新たな脅威を生み出すわけではないものの、サイバー攻撃の速度・規模・適応力を高め、防御側の対応時間の余裕を減らす可能性があると強調しています。これは同国の国家暗号センターが最近指摘したパラダイムシフトでもあります。
この通報は、リスク管理のあり方における転換点を示すものであり、今後はAI支援型・AI駆動型の攻撃を明示的に考慮すべきだとしています。自動化はインシデントの発生確率、速度、範囲に影響を及ぼし得るためです。
対応時間に関する手順も見直す必要があります。手動での攻撃を想定して設計された対応策では、資産を同時並行的に分析し、アクセス手法を試行し、自らの挙動を適応させるエージェントに対しては不十分な可能性があるためです。
AEPDはまた、デジタルIDと認証情報のセキュリティを強化することの重要性も強調しています。エージェントは、侵害されたアカウントや過剰な権限を持つAPIキー、トークンを利用して、機械並みの速度で複数のサービスにアクセスできるためです。
もはや人手による対応だけでは不十分であり、人間による監視を、迅速な検知・封じ込め・対応の仕組みで補強する必要があります。
「攻撃分野におけるAIエージェントの登場は、セキュリティおよびデータ保護のモデルの即時見直しを促すべきです」とスペインの当局は警告しています。
仮にAEPDが今回報告されたデータ侵害において自律型AIが使用されたことを確認したとしても、それは必ずしも攻撃に使われたモデルやそのプロバイダーのインフラが侵害されたことや、そのモデルが悪意あるサイバー活動を助長する目的で設計されていたことを意味するものではない、と同庁は述べています。
エージェント型の攻撃活動は、最近大規模なサイバー作戦の中でも報告されています。OpenAIのエージェントがテスト環境を抜け出し、Hugging Faceの本番インフラへの侵入を連携して行った事例もあります。
脅威アクターはGoogle Geminiのマルチエージェントシステムを使って脆弱性のスキャンと大規模な認証情報窃取を行ったほか、Anthropic Claudeを使って180万件のAndroidアプリのコード内に残された機密情報をスキャンしました。
