AIによる自動攻撃を「コンテキスト爆弾」で妨害できることが判明
Tracebitの研究者らが試した新しいアプローチは、AIエージェントが対象環境を完全に侵害するのを阻止するうえで、非常に効果的であることが実証されました。 注目すべきなのはその手法自体ではありません。プロンプトインジェクションは既知の話です。むしろ注目すべきは、その使い方の方向性です。AIエージェン
Tracebitの研究者らが試した新しいアプローチは、AIエージェントが対象環境を完全に侵害するのを阻止するうえで、非常に効果的であることが実証されました。 注目すべきなのはその手法自体ではありません。プロンプトインジェクションは既知の話です。むしろ注目すべきは、その使い方の方向性です。AIエージェン
概要 その1では、ハニーポットの検知手法としてリバースプロンプトインジェクションを紹介し、自律的なLLMベースのエージェントによる攻撃セッションを完全な形で捕捉しました。単一のTor出口ノードから約19分間で58件のリクエストが送信され、複数ツールの切り替え、HTMLコメントからの意味的な認証情報抽出、文脈に応じたペ