「モデルの重みもコードと同じ水準で精査すべき」：Microsoftの研究者、AIエージェントが…と実証
研究者が、LLM内部の休眠ニューロンをわずかに書き換えるだけで「スリーパーエージェント」型のAI攻撃を実現できることを実証バックドアは特定のトリガーが現れるまで潜伏し、トリガーが入ると攻撃者が定義した動作を実行防御側には、モデルの完全性の検証、重みの監査、AIエージェントの権限の厳格な制限が求められる『影なき狙撃
研究者が、LLM内部の休眠ニューロンをわずかに書き換えるだけで「スリーパーエージェント」型のAI攻撃を実現できることを実証バックドアは特定のトリガーが現れるまで潜伏し、トリガーが入ると攻撃者が定義した動作を実行防御側には、モデルの完全性の検証、重みの監査、AIエージェントの権限の厳格な制限が求められる『影なき狙撃
Microsoftの研究者らによると、ごく少数のニューロンを書き換えるだけで、モデルはあらゆるテストを通過した上で、攻撃者にエージェントのアクセス権限を明け渡すようになります。この改変を見抜けるかどうかは、多くの企業に欠けているある一点にかかっています。