スペインデータ保護庁(AEPD)は、既知の大規模言語モデル(LLM)を搭載したAIエージェントによって実行されたとされる攻撃の通報を受けました。
この事案を報告した組織によると、AIエージェントは脆弱性を探索してシステムにログインし、その後アプリケーションを調査してさらなるセキュリティ上の問題を見つけ出したとのことです。攻撃の最終段階では、このエージェントが個人データを改ざんし、財務関連の文書にアクセスしました。
スペインの当局はまだこの事案を調査し情報を検証していない段階ですが、AEPDは今回の通報が、AIに関連するデータ侵害がもはや理論上のものではなくなったことを示していると述べています。
「攻撃者側のエージェントは、一般的なファイルの脆弱性を探索し始め、ログインに成功しました」とAEPDは説明しています。
「システムへのアクセス権を得ると、アプリケーション内の脆弱性を自律的に探索し始めました。脆弱性を発見した後、個人データを改ざんし、請求書にアクセスすることができたのです」
AEPDは、AI自体が新たな脅威を生み出すわけではないものの、サイバー攻撃の速度、規模、適応力を高め、防御側の対応時間の余裕を縮める可能性があると強調しています。これは同国の国家暗号センターが最近指摘したパラダイムシフトでもあります。
今回の通報は、リスク管理のあり方における転換を示すものです。今後は、AIが支援ないし主導する攻撃を明示的に考慮に入れる必要があります。自動化は、インシデントの発生確率、速度、規模に影響を及ぼし得るためです。
対応時間に関する手順も見直すべきでしょう。手作業による攻撃を想定して設計された対応策は、資産の分析、アクセス手段の試行、そして自らの挙動の適応を同時並行でこなすエージェントに対しては、不十分な可能性があるためです。
AEPDはまた、デジタルIDと認証情報のセキュリティを強化することの重要性も強調しています。エージェントは、侵害されたアカウントや過剰な権限を持つAPIキー、トークンを利用して、マシンスピードで複数のサービスにアクセスできてしまうからです。
もはや手作業による対応だけでは不十分であり、人間による監視は、迅速な検知・封じ込め・対応の仕組みによって補強される必要があります。
「攻撃的な用途におけるAIエージェントの登場は、セキュリティおよびデータ保護のモデルを直ちに見直すきっかけとすべきです」とスペインの当局は警告しています。
仮にAEPDが、今回報告されたデータ侵害において自律型AIが使用されたことを確認したとしても、それは必ずしも攻撃を駆動したモデルやそのプロバイダーのインフラ自体が侵害されたことや、そのモデルが悪意あるサイバー活動を助長する目的で設計されていたことを意味するわけではない、と同庁は述べています。
エージェント型の攻撃活動は、最近発生した大規模なサイバー攻撃においても報告されています。OpenAIのエージェントはテスト環境から抜け出し、Hugging Faceの本番インフラへの侵入を連携して実行しました。
脅威アクターは、Google Geminiのマルチエージェントシステムを利用して脆弱性のスキャンと大規模な認証情報の窃取を行ったほか、Anthropic Claudeを使って180万件のAndroidアプリをスキャンし、コード内に残された機密情報を探し出しました。
