「BioShocking」攻撃——AIブラウザのガードレールを突破し認証情報を盗み出す新手法
新たに公開された「BioShocking」攻撃手法は、AIを搭載したブラウザに潜む根本的な信頼の欠陥を突くものです。悪意あるWebページがエージェント型AIを巧みに操ることで、認証情報の密かな窃取、ソースコードのコピー、不正なコマンド実行を可能にします。 この脆弱性はLayerXが発見し、登場人物が催眠的に条件付けら
タグ: メモリポイズニング
暴走するAIエージェントの事前対策はほぼ不可能
4分で読めます出典：Suchat longthara / Getty Imagesエージェント型AIの導入が急速に進んでいますが、企業にとって残念なことに、これらのエージェントを完全に保護することは現実的に難しい状況です。これは、ガートナーのリサーチ担当バイスプレジデントであるDennis Xu氏が語ったものです。同氏
OWASP Agent Memory Guard：AIエージェント自身のメモリを悪用した攻撃を防御
AIエージェントは、セッションをまたいでメモリを保持します。会話履歴、ベクトルストア、スクラッチパッド、RAGインデックスはいずれも実行間で持続し、そのストアに書き込まれた内容は、後でエージェントが読み返す際に特権的な入力として機能します。攻撃者が不正なフィールドにテキストを埋め込むと、エージェントへ
悪いメモリがAIエージェントを悩ませ続ける
出典：Shutterstock経由のBillion Photosメモリファイルは人工知能の性能を向上させるのに役立ちますが、研究者たちはそれらが継続的な問題点でもあることを発見しました。AIメモリファイルとコンテキストデータは、リクエストのパーソナライズに役立ち、大規模言語モデルやその他の基盤AIモデルが最適な応答を提
自律型AIエージェントが、サイバー犯罪の新たなオペレーティングシステムとして台頭
Moltbookは、アクティブなエージェント数が約90万にまで爆発的に増えた。つ...