タグ: Concentric AI

LLMエージェントのセキュリティにはガードレール以上の対策が必要

Concentric AIのチーフサイエンティストであるMadhu Shashanka氏は、LLMツールやエージェントのセキュリティを左右するのはモデルよりもデータであると説明します。ガードレールやインジェクション検出といったモデルの挙動を対象とする対策は、望ましくない結果の発生率を下げますが、ゼロにはできません。一