Microsoft、AIエージェントに隠れたバックドアを仕込む手法を実証
Microsoftの研究者らは、AIモデルにわずかな改変を加えるだけで、隠れたバックドアを埋め込めることを実証しました。特定のトリガーが現れると、エージェントが攻撃者のコマンドを実行してしまいます。「Lazarus」と呼ばれるこの手法はモデルの再学習を必要とせず、標準的な安全性評価の間はエージェントが通常どおりに振る
Microsoftの研究者らは、AIモデルにわずかな改変を加えるだけで、隠れたバックドアを埋め込めることを実証しました。特定のトリガーが現れると、エージェントが攻撃者のコマンドを実行してしまいます。「Lazarus」と呼ばれるこの手法はモデルの再学習を必要とせず、標準的な安全性評価の間はエージェントが通常どおりに振る
10個未満の休眠ニューロンを書き換えるだけで、AIモデルを「スリーパーエージェント」に変えてしまう手法が明らかになりました。改ざんされたモデルは通常の利用では正常に動作しますが、隠されたトリガーが現れると、攻撃者の意図したコマンドを出力します。そのモデルを使うエージェントは、接続されたツールを通じてこのコマンドを実行