LLMエージェントのセキュリティにはガードレール以上の対策が必要
Concentric AIのチーフサイエンティストであるMadhu Shashanka氏は、LLMツールやエージェントのセキュリティを左右するのはモデルよりもデータであると説明します。ガードレールやインジェクション検出といったモデルの挙動を対象とする対策は、望ましくない結果の発生率を下げますが、ゼロにはできません。一
Concentric AIのチーフサイエンティストであるMadhu Shashanka氏は、LLMツールやエージェントのセキュリティを左右するのはモデルよりもデータであると説明します。ガードレールやインジェクション検出といったモデルの挙動を対象とする対策は、望ましくない結果の発生率を下げますが、ゼロにはできません。一
Arrakis Securityの『2026 Autonomous Agents Threat Report』によると、最近稼働していないAIエージェントでも、社内システムへの認証情報と接続を保持したままになっています。調査対象の有効なエージェントのうち、約76%は60日間一度も実行されておらず、使わ
従業員がOAuthの同意画面で「許可」をクリックするたびに、2つのアプリ間に継続的な信頼関係が生まれます。AIノートテイカーはカレンダーにアクセスできるようになり、タスク管理ツールはSlackに、新しい開発者向けツールはコードリポジトリにアクセスできるようになります。 こうした判断は数秒で下されますが、適切に審査する
クラスターの定型的な管理作業を自動化するために設計されたKubernetesオペレーターは、サービスアカウントに運用上必要な範囲を大きく超える権限が与えられると、影響の大きいバックドアになりかねません。 Palo Alto NetworksのUnit 42は、オープンソースの分析ツール「OperTraitor」を公開
多くの人がVPNを使う理由はひとつ、プライバシーのためです。認証バッジが付き、特...