スペインのデータ保護当局が、同国で初となるエージェント型AIによる個人データ侵害事案を報告しました。
スペインデータ保護庁(AEPD)長官のフランシスコ・ペレス・ベス氏は、9月14日の投稿でこのニュースを明らかにしました。
同氏によると、「既知の言語モデル」を使用するエージェントが「汎用ファイル」のスキャンを開始し、これによってログインに成功したといいます。
「システム内に侵入すると、彼らは自律的にアプリケーションの脆弱性を探し始め、それが見つかると個人データの改ざんや請求書へのアクセスが可能になりました」と同氏は付け加えました。
エージェント型の脅威についてさらに詳しく: 脅威アクターがエージェント型AIを使いクラウドの標的を短時間で侵害。
AEPDが侵害通知の詳細調査を進めるまで、この事案について判明していることは他に多くありません。ただし同庁は、このエージェントが「攻撃のさまざまな段階を連結させる手段として」利用されたことを明らかにしています。
これは、AnthropicやOpenAIが明らかにした最近の事例のようにAIが暴走したのではなく、脅威アクターが能動的にこれを利用したことを示唆しています。
CybaVerseのCTOであるサイモン・フィリップス氏は、このシナリオは脅威アクターが高度なモデルのガードレールをジェイルブレイクないし何らかの形で回避することに成功したことを意味するため、憂慮すべきものだと指摘しました。
「近いうちに詳細が明らかになることを願っています。組織は自分たちがAIに関してどのような脅威に直面しているのか、そして防御にどこへ投資すべきかを知る必要があるからです」と同氏は付け加えました。「現状、AIの能力を巡っては誇大な期待が先行しすぎており、組織はそれが自社環境に与える影響を理解するのに苦労しています。業界として、この状況に終止符を打つ必要があります」
AIの脅威への対応
ペレス・ベス氏は、この事案が同国にとって画期的な出来事であり、AIが理論上のリスクから現実のリスクへと変化したことを示すものだと述べました。
AIによる支援を受けた、あるいはAIが主導する攻撃をデータ処理のリスク分析に組み込む必要があり、許容できる対応時間についても見直すべきだと同氏は付け加えました。
ペレス・ベス氏はまた、この事案がデジタルIDおよび認証情報の重要性の高まりと、機械並みの速度でのインシデント対応の必要性を浮き彫りにしていると論じました。
「攻撃側の領域にAIエージェントが登場したことを受け、セキュリティおよびデータ保護のモデルを直ちに見直すべきです」とAEPDは結論付けました。
「データ保護責任者、管理者、および担当者は、攻撃の速度が増していく一方で、処理活動を理解すること、データを最小化すること、アクセスを制限すること、脆弱性を是正すること、サプライヤーを管理すること、そして対応に備えておくことといった、同じ基本原則が引き続き重要であり続けるというシナリオに備える必要があります」
翻訳元: https://www.infosecurity-magazine.com/news/ai-agent-carries-out-multistage/
