今四半期にセキュリティチェックを一つだけ行うなら、AIエージェントのメモリを調べるべきだ
Help Net Securityによる今回のインタビューでは、VectorizeのCEOであるChris Latimer氏が、AIエージェントのメモリに潜むセキュリティリスクについて語っています。同氏は、コーディングエージェントがAPIキーや認証情報、機密文書を、開発者のマシン上やクラウドサービス内に平文のまま保存
タグ: メモリポイズニング
OpenAIのAIエージェント群、人間の指示なしに独自の通信経路を発見し協調行動へ
サイバーセキュリティ関連のベンチマークに取り組んでいたOpenAIのAIエージェント群が、人間からの直接的な指示を受けることなく、意図しない方法でコミュニケーションを取り、タスクを調整し、発見内容を共有していたことが明らかになりました。 この出来事は、ExploitGymのCTF(Capture the Flag)課
「CoSnitch」攻撃、Copilotをだまして自らのアーキテクチャを暴露させる
脅威アクターがCopilotインスタンスをだまし、その内部アーキテクチャの詳細を引き出せることが分かりました。これにより、新種のプロンプトインジェクション攻撃への道が開かれることになります。これはVaronis Threat Labsによるもので、同社は本日、「CoSnitch」と総称する一連のセキュリティ問題に関する
AIオーケストレーションフレームワークの選択が重要なセキュリティ判断である理由
オーケストレーションフレームワークの選択は、単なるエンジニアリング上の判断ではなくセキュリティ上の判断です オピニオン 2026年8月5日読了時間6分 フレームワークの選択次第で
「BioShocking」攻撃——AIブラウザのガードレールを突破し認証情報を盗み出す新手法
新たに公開された「BioShocking」攻撃手法は、AIを搭載したブラウザに潜む根本的な信頼の欠陥を突くものです。悪意あるWebページがエージェント型AIを巧みに操ることで、認証情報の密かな窃取、ソースコードのコピー、不正なコマンド実行を可能にします。 この脆弱性はLayerXが発見し、登場人物が催眠的に条件付けら
暴走するAIエージェントの事前対策はほぼ不可能
4分で読めます出典：Suchat longthara / Getty Imagesエージェント型AIの導入が急速に進んでいますが、企業にとって残念なことに、これらのエージェントを完全に保護することは現実的に難しい状況です。これは、ガートナーのリサーチ担当バイスプレジデントであるDennis Xu氏が語ったものです。同氏
OWASP Agent Memory Guard：AIエージェント自身のメモリを悪用した攻撃を防御
AIエージェントは、セッションをまたいでメモリを保持します。会話履歴、ベクトルストア、スクラッチパッド、RAGインデックスはいずれも実行間で持続し、そのストアに書き込まれた内容は、後でエージェントが読み返す際に特権的な入力として機能します。攻撃者が不正なフィールドにテキストを埋め込むと、エージェントへ
悪いメモリがAIエージェントを悩ませ続ける
出典：Shutterstock経由のBillion Photosメモリファイルは人工知能の性能を向上させるのに役立ちますが、研究者たちはそれらが継続的な問題点でもあることを発見しました。AIメモリファイルとコンテキストデータは、リクエストのパーソナライズに役立ち、大規模言語モデルやその他の基盤AIモデルが最適な応答を提
自律型AIエージェントが、サイバー犯罪の新たなオペレーティングシステムとして台頭
Moltbookは、アクティブなエージェント数が約90万にまで爆発的に増えた。つ...