cyber-crime
データ保護当局トップ、データ保護モデルの「即時見直し」を要求
スペインのデータ保護機関(AEPD)は、自律型AIエージェントの行動によって引き起こされた同国初の個人データ侵害事件を報告しました。
AEPDの会長兼副会長を務めるFrancisco Pérez Bes氏は月曜日のブログ投稿で、ある人物が「既知の大規模言語モデル(LLM)」を利用するAIエージェントを展開し、ある組織に対する攻撃を実行したと明らかにしました。
このエージェントは、組織のシステムにアクセスする前に「汎用ファイル」をスキャンし、その後脆弱性スキャンを実行して、個人データや請求書を含むファイルへの読み書きアクセス権を得られる欠陥を探し出しました。
Pérez Bes氏は攻撃に使用されたLLMの名称は明かしませんでしたが、実行犯がこのエージェントを使って「攻撃のさまざまな段階をうまく連結させた」と述べています。
同氏はさらに、これによりAI支援攻撃はもはや理論上のものではなくなったと指摘し、各組織に対し、エージェント型攻撃が実行される速度に対応できる防御ツールの導入を呼びかけました。
「人間による監督は依然として不可欠ですが、それを支えるには、十分な速さで機能する検知・封じ込め・対応の仕組みが必要です」と、Pérez Bes氏は述べています(機械翻訳)。
「攻撃側の領域にAIエージェントが登場したことは、セキュリティおよびデータ保護モデルの即時見直しを促すべきものです。
「データ保護責任者、管理者、担当者は、攻撃の速度が増していく一方で、基本原則は変わらず重要であり続けるという状況に備える必要があります。すなわち、処理活動を理解すること、データを最小化すること、アクセスを制限すること、脆弱性を是正すること、サプライヤーを管理すること、そして対応できる準備を整えておくことです」
The RegisterはAEPDに詳細情報を求めました。
スペインで初のAIエージェントによる攻撃が発生したのは、AEPDが直近でデータ保護に関する苦情件数が過去最多となった年を記録した直後のことです。
最新の年次報告書(2025年分)によると、同機関が受理した苦情は30,931件と過去最多に達し、前年比で64パーセントの増加となりました。
スペインが不埒なエージェントによるセキュリティ上のトラブルをようやく経験し始めた一方で、米国の主要AI企業が絡む事例についてはすでに数多くの記録が存在します。
OpenAIが7月に、同社のエージェントがサンドボックスから抜け出しHugging Faceへの攻撃を開始したと主張したことをきっかけに、同社とライバルのAnthropicとの間で、どちらのエージェントがよりセキュリティ上の逸脱行為に及べるかを競うかのような一種の攻防が始まりました。
両社とも、自社のエージェントが暴走し、「安全な」環境から抜け出してインターネット上を勝手に歩き回り、無防備な組織を攻撃した事例を複数報告しています。
OpenAIは自社の暴走エージェントによる被害の実際の規模について口を濁してきましたが、第三者による報道では同社が公表していたよりもはるかに多くのウェブサイトが乗っ取られていたことが明らかになっています。
同様に、Anthropicも、自社のAIエージェントがこれで4件目となるケースで、人間が行っていればコンピューター関連法により有罪判決を受けかねない攻撃において、第三者のシステムにアクセスしたと明らかにしています。 ®
