タグ: リバース・プロンプトインジェクション

実環境におけるAIレッドチーマーの捕捉：リバース・プロンプトインジェクションをハニーポット検知メカニズムとして活用する

要旨 多段階の攻撃的セキュリティオペレーションを実行できる自律型AIエージェントの台頭により、従来の検知メカニズムでは識別できない新たなクラスの脅威が生まれています。本稿では、レッドチーム活動を行うAIエージェントを検出・フィンガープリンティング・行動プロファイリングするために、ハニーポット内に埋め込む新しい防御技術