エージェントメモリのフォレンジック 第1回|5分でわかるエージェントメモリとシリーズ全体マップ

ブログ

公開日:2026年11月17日

エージェント型メモリの種類を概観し、のちに行うフォレンジック分析の土台を整えます。

ブログ

エージェントメモリのフォレンジック 第1回|5分でわかるエージェントメモリとシリーズ全体マップ

公開日:2026年11月17日

エージェント型メモリの種類を概観し、のちに行うフォレンジック分析の土台を整えます。

編集部注:本稿は、Rubrik Zero Labsによるエージェントメモリのフォレンジック調査を扱う全7回シリーズの第1回です。

インド映画Ghajini(2008年)の主人公サンジャイは、15分ごとに記憶を失います。そのため、ポラロイド写真やメモ、タトゥーを頼りに生活しています。メモに書かれていることは何であれ、彼は信じて行動に移します。Ghajiniは、クリストファー・ノーラン監督の映画Mementoに着想を得た作品です。Mementoはこの点をさらに鋭く描いています。主人公のレナードは、物語の結末で、未来の自分を無実の男へと向かわせるメモをあえて書き残します。メモは自分自身の筆跡で書かれているため、未来のレナードがそれを疑うことは決してありません。

この比喩は、エージェント型AIにそのまま当てはまります。エージェントは、セッションのたびに過去について何も知らない状態から始まり、メモリが返してくるメモに基づいて行動します。しかし、メモには誰が書いたのかを証明するものが何もありません。

本シリーズでは、この事実が意味するところをセキュリティの観点から解説します。

ただし、その前に「メモリ」という概念をもう少し掘り下げる必要があります。

4種類のメモリ

エージェントの話題では、「メモリ」という言葉がかなり大雑把に使われています。実際には、メモリには4つの異なる種類があります。この分類は認知科学に由来し、エージェント研究でも使われています(CoALAフレームワーク、参考文献1を参照)。

種類 答える問い 一般的なエージェントでの実体
ワーキングメモリ いま目の前にあるものは何か コンテキストウィンドウ。呼び出しが終わると消えます。
セマンティックメモリ 自分は何を知っているか 入力が知識ベースを形成し、RAGの機能を果たします。
手続き記憶 どう振る舞うか システムプロンプト、コード、モデルの重み。リリース間では不変のメモリです。
エピソード記憶 以前に何があったか エージェント自身が残した過去のやり取りの記録(例:「前回このパターンを見たときはXだったので、Yで対処した」)。

本シリーズが扱うのは、最後のエピソード記憶です。エピソード記憶は、ほかの種類のメモリと2点で異なります。1つ目は、エージェント自身がセッションのたびに書き込むため、絶えず変化することです。2つ目は、将来のあらゆる判断に関わることです。

これが、エピソード記憶を守るのが難しい理由でもあります。システムプロンプトであれば、ハッシュを取っておき、後から変更がないかを確認できます。しかし、セッションごとに変わるはずのメモリのハッシュを取ることはできません。

メモリが攻撃対象となる理由

エージェントはモデルだけではありません。モデル、ツール、他のエージェント、出力をもとに行動する人間、そしてメモリとつながった、計画・実行・観察のループです。こうした接続の一つひとつが、攻撃者がコンテンツを送り込める場所になります。現在の脅威研究の多くは、モデル(プロンプトインジェクション)とツールに注目しています。

メモリが異なるのは、情報が永続する点です。そこに書き込まれた内容は、以後のすべてのセッションに持ち越されます。しかもコンテキストウィンドウの中では、モデルには1つのテキストブロックとしか見えません。システムプロンプト、ユーザー、メモリを区別せず、そのすべてを信頼してしまいます。

これは理論上の話ではありません。2024年、研究者のヨハン・レーベルガー(Johann Rehberger)氏は、Webページやドキュメントを介したプロンプトインジェクションで、ChatGPTに攻撃者が選んだ「記憶」を保存させられることを示しました。さらに、その記憶が以後の会話にも引き継がれることも明らかにしました(参考文献2)。その4カ月後には、これにデータ窃取を組み合わせ、ChatGPTのメモリ内に常駐型のスパイウェアを構築してみせました。同氏はこれを「SpAIware」と名付けています(参考文献3)。OpenAIはデータ窃取の経路を修正しましたが、インジェクションによる偽の記憶の書き込み自体は依然として可能だと、同氏は指摘しています。

エージェントメモリの構造

フレームワークごとの呼び名を取り払えば、ほぼすべてのエージェントメモリは同じ4つのことを行っています。

ステップ 何が起きるか 残る証拠
1. 書き込み セッション終了後、残す価値のある内容を選び出す 多くの場合、台帳
2. 保存 テキスト、一部のメタデータ、類似検索用のベクトルを保持する ディスク上のファイル
3. 取得 新しい質問に対し、最も類似する過去のメモリを探す 通常は何も残らない
利用 システムプロンプトや質問と並べて、コンテキストウィンドウに配置する ログに記録したものだけ

既知のことと、欠けているもの

本シリーズを読み進めるうえで、関連文献をすべて把握しておく必要はありません。要点は次のとおりです。各論文は、arXivの概要(アブストラクト)に基づいて読んでいます。

  • 攻撃についてはよく研究されています。MINJA(参考文献4)は、攻撃者が通常のクエリと出力の観察だけで、エージェントのメモリに悪意のあるレコードを注入できることを示しました。MemoryGraft(参考文献5)は、悪意のある「成功体験」を仕込み、エージェントに後からそれを模倣させます。MemPoison(参考文献6)は、1,227件のケースからなるベンチマークです。整合性チェックなどの書き込み時の防御は、単発の不正レコードをかなり抑え込める一方、複数レコードによる連携型の攻撃やトリガーで発動する攻撃は確実には防げないことがわかりました。MPBench(参考文献7)は、メモリへの書き込み経路を4つに整理し、書き込みや取得に積極的なエージェントほど悪用されやすいことを明らかにしました。FARMA(参考文献8)は、エージェントが記憶している事実ではなく、記憶している推論そのものを汚染します。2026年4月のサーベイ(参考文献9)はライフサイクル全体を整理し、メモリのセキュリティは保存時点の来歴(プロバナンス)とバージョン管理を基盤にすべきだと主張しています。
  • フォレンジックの面はまだ手薄ですが、動きは出てきています。MemAudit(参考文献10)は事後分析のフレームワークです。有害な挙動が確認された後、どの保存済みメモリが原因かを、反事実的な影響度スコアと整合性グラフを組み合わせて特定します。評価はMINJAを対象に行われています。RAGForensics(参考文献11)は、汚染されたRAG知識ベースに対して同様のことを行います。私たちが講演を申し込んだ時点では、このための公開ツールを見つけられませんでした。この2本の論文は、その後、あるいはその時期に近いタイミングで登場しています。つまり、この分野は急速に進展しています。

そのため、私たちの問いは「メモリは汚染できるのか」ではありませんでした。それはすでに実証済みです。私たちが知りたかったのは、メモリ汚染が起きた後に何が残り、それを調査担当者が証明できるのかという点です。

想定した攻撃者

これまでに発表された攻撃の多くは、正面から入ってきます。攻撃者がエージェントに話しかけたり、ドキュメントに指示を隠したりして、エージェント自身に汚染データを自分のメモリへ書き込ませるものです。

私たちが想定したのは別の攻撃者、つまり、すでに内部に入り込んでいる攻撃者です。この攻撃者はメモリストア(侵害されたホスト、共有ボリューム、バックアップ、プラグインなど)への書き込み権限を持ち、レコードを直接書き込めます。エージェントとの会話は一切ありません。プロンプトフィルターが書き込みを目にすることもありません。

これは強い前提であり、その点は率直にお伝えしておきます。それでも、現実的な想定であり、調査担当者にとって有益な手がかりも得られると考えています。直接書き込みはエージェントの通常の書き込み経路を迂回しますが、その経路には証拠が残るからです。第4回では、その証拠がどのようなものか、そして慎重な攻撃者が何を偽造できるかを取り上げます。

Mem0を選んだ理由

私たちは、オープンソースのエージェント向けメモリレイヤーであるMem0を、ベクトルデータベースのChromaDBの上で使用しました。理由は実用的なものです。Mem0は広く使われています。GitHubリポジトリのスター数は約68,000(2026年11月3日時点)で、PyPIパッケージは10月下旬の平日で1日あたり約90,000回ダウンロードされています(自動インストールを含むため、利用者数ではなく規模の目安として見てください)。2025年5月にはAWSとMem0が提携を発表し、Mem0をStrands Agents SDKに組み込むことになりました。strands-mem0パッケージも存在します。ストアはローカルにあって調べやすく、Mem0は自身を通じて行われた変更の記録を別に保持しています。

他の選択肢より脆弱だから選んだわけではありません。ここでの調査結果は、Mem0 2.0.2とChromaDB 1.1.1を既定の設定で使った場合に、調査担当者が何を得られるかを示したものです。その後、Mem0はより新しいアルゴリズムに移行しており、READMEではこれを単一パスの追加専用(add-only)抽出と説明しています。この点が影響する箇所は、第2回で触れます。手法はほかのフレームワークにも応用でき、そのいくつかは後の記事で比較します。

検証環境の概要

被害側は、セキュリティオペレーションのアドバイザーです。アナリストがインシデントを説明すると、アドバイザーはメモリから類似する過去の事例を調べ、そのうえで助言を返します。実装は、OpenAI API(gpt-4o-mini)を呼び出す素のPythonで、メモリにはMem0とChromaDBを使い、取得してから推論する1回のパスのみで、ツールループはありません。こうすることで、メモリだけが変数になります。攻撃の前に、現実的なインシデント15件を処理させ、61件のメモリを蓄積させました。その後、15件の偽の「過去事例」をストアに直接書き込みました。判断が曖昧なインシデントでは、助言が「ワークステーションを隔離する」から「隔離せず、監視を続ける」に変わりました。

ここで扱うものはすべて、ラボ内の架空のデータで動いています。実在する企業のシステムは一切含まれていません。

シリーズの構成

回 内容
1. 5分でわかるエージェントメモリ 4種類のメモリ、メモリが攻撃対象になる理由、シリーズ全体のマップ
2. Mem0とChromaDBの内部 ストアに何が入っているか、メモリがどう書き込まれるか、add()が実際に行っていること
3. Mem0エージェントを汚染した方法 失敗した攻撃バージョン、成功したバージョン、取得が攻撃を成立させた理由
4. インジェクションの発見 来歴、手軽なチェック、慎重な攻撃者が偽造できるもの、統計的検定が見逃した理由
5. 証拠から原因へ どの判断が汚染データを読んだのか、メモリが変化の原因だったことをどう示すか
6. インシデントの前に 有効にすべき設定、調査担当者に必要なタイムライン、自社システムに向けた5つの問い
7. 私たちの誤り 調査の過程で訂正する必要があった主張

持ち帰っていただきたいこと

メモリを備えたエージェントを運用しているなら、次の5つの問いを確認してください。

  1. メモリはどこにあるか 
  2. 何が、いつ、誰によって書き込まれたか 
  3. 判断を下す前に、何を読み込んだか 
  4. 何が変わったか 
  5. そして、メモリは判断を変えたか

これらの問いに今日答えられなければ、明日の調査はできません。

参考文献

  1. Sumers, Yao, Narasimhan, Griffiths. Cognitive Architectures for Language Agents (CoALA). arXiv:2309.02427
  2. Rehberger. ChatGPT: Hacking Memories with Prompt Injection. Embrace The Red、2024年5月22日 リンク
  3. Rehberger. Spyware Injection Into Your ChatGPT’s Long-Term Memory (SpAIware). Embrace The Red、2024年9月20日 リンク
  4. Dong et al. Memory Injection Attacks on LLM Agents via Query-Only Interaction (MINJA). arXiv:2503.03704
  5. Srivastava, He. MemoryGraft: Persistent Compromise of LLM Agents via Poisoned Experience Retrieval. arXiv:2512.16962
  6. Gao et al. MemPoison: Uncovering Persistent Memory Threats and Structural Blind Spots in LLM Agents. arXiv:2607.14651
  7. Dash et al. From Untrusted Input to Trusted Memory: A Systematic Study of Memory Poisoning Attacks in LLM Agents (MPBench). arXiv:2606.04329
  8. Karamchandani et al. Your Agent’s Memories Are Not Its Own: Forged Reasoning Attacks on LLM Agent Memory and Defenses (FARMA). arXiv:2607.05029
  9. Lin et al. A Survey on Long-Term Memory Security in LLM Agents. arXiv:2604.16548
  10. Tan et al. MemAudit: Post-hoc Auditing of Poisoned Agent Memory via Causal Attribution and Structural Anomaly Detection. arXiv:2605.23723
  11. Zhang et al. Traceback of Poisoning Attacks to Retrieval-Augmented Generation (RAGForensics). arXiv:2504.21668
  12. Mem0のリポジトリとREADME: github.com/mem0ai/mem0。AWSとMem0の提携: mem0.aiブログ。Strands連携: docs.mem0.ai

翻訳元: https://zerolabs.rubrik.com/blog/agent-memory-forensics-part-1-agent-memory-five-minutes-series-map

本記事は zerolabs.rubrik.com の記事を翻訳・要約したものです。