タグ: RAG

cyberpress.org

新たなAIペネトレーションテストフレームワーク、プロンプトインジェクション・データポイズニング・エージェント型ツール悪用をカバー

セキュリティチームは、大規模言語モデル、検索拡張生成(RAG)プラットフォーム、自律型エージェント、AIコパイロットを業務アプリケーション内に導入する動きを加速させています。 しかし多くの組織は、依然としてWebサーバー向けに設計された従来のペネトレーションテスト手法を使い、こうしたAIシステムやAPI、エンドポイン

cyberpress.org

CrowdStrike、AIエージェントを狙う新たなプロンプトインジェクション手法を5種類発見

プロンプトインジェクションは、AI時代を象徴するセキュリティ課題の一つとして浮上しています。組織がシンプルなチャットボットから自律型AIエージェントへと移行する中、攻撃者はこうしたシステムが本質的に信頼してしまう言語、コンテキスト、データを悪用する新たな手口を次々と編み出しています。 CrowdStrikeのAIセキ

helpnetsecurity.com

OWASP Agent Memory Guard:AIエージェント自身のメモリを悪用した攻撃を防御

AIエージェントは、セッションをまたいでメモリを保持します。会話履歴、ベクトルストア、スクラッチパッド、RAGインデックスはいずれも実行間で持続し、そのストアに書き込まれた内容は、後でエージェントが読み返す際に特権的な入力として機能します。攻撃者が不正なフィールドにテキストを埋め込むと、エージェントへ