Concentric AIのチーフサイエンティストであるMadhu Shashanka氏は、LLMツールやエージェントのセキュリティを左右するのはモデルよりもデータであると説明します。ガードレールやインジェクション検出といったモデルの挙動を対象とする対策は、望ましくない結果の発生率を下げますが、ゼロにはできません。一方、入力側の対策は事情が異なります。エージェントがアクセスできるドキュメントやシステム、認証情報は、利用者自身が管理できるからです。
同氏は、プロンプトインジェクション、コネクタ経由のデータ漏えい、過剰な権限を持つエージェント、シャドーAIについて取り上げます。それぞれのリスクについて、モデル側の対策が何を担い、どこで限界を迎えるかを解説します。エージェントが読み取れないファイルは漏えいしようがないため、アクセスの判断が上限を決めると同氏は述べています。
続いて、入力制御、挙動制御、出力・アクション制御の3層からなる対策を示します。機密性の分類、コパイロットを接続する前のオーバーシェアリングの是正、エージェントへの専用ID付与、すべてのツール呼び出しのログ記録、取り消せないアクションに対する人間の承認の義務付けなどが主なテーマです。
翻訳元: https://www.helpnetsecurity.com/2026/10/27/llm-agent-security-video/
本記事は helpnetsecurity.com の記事を翻訳・要約したものです。
