タグ: コンテキスト爆弾

AIによる自動攻撃を「コンテキスト爆弾」で妨害できることが判明

Tracebitの研究者らが試した新しいアプローチは、AIエージェントが対象環境を完全に侵害するのを阻止するうえで、非常に効果的であることが実証されました。 注目すべきなのはその手法自体ではありません。プロンプトインジェクションは既知の話です。むしろ注目すべきは、その使い方の方向性です。AIエージェン