クラウドやAIの請求額が高すぎませんか?あなたのAIエージェントが暴走し、巨額のコストを積み上げているかもしれません
単純な1つのプロンプトが、大量の下流コンピューティング処理を引き起こす可能性があると専門家は警告しています攻撃者が管理の行き届いていないAIを悪用し、コストを積み上げることも可能です可視性の向上とサーキットブレーカーが解決策の2つですデータセキュリティ企業のForcepointが、AIエージェントに関する重大な問
タグ: Forcepoint
AIはあなたとはまったく違う形でメールを「読む」ことがある
研究者らは、目に見えないHTMLを使ってAIメール要約ツールに隠された指示を注入し、ユーザーに提示される要約内容を密かに操作できることを実証しました。 セキュリティ研究者らは、受信トレイに表示されているメールと
隠されたプロンプトがAIを騙し、誤ったメール要約を生成させる
新たな研究により、攻撃者がメールに隠した指示文を使ってAIアシスタントを操り、受信者に対して虚偽の、場合によっては危険な要約を生成させられることが明らかになりました。この研究はForcepoint X-Labsの研究者らによるもので、攻撃者が間接的なプロンプトインジェクションを使ってAIシステムを乗っ取り、外部コンテン
AIエージェントに数か月間も偽の「記憶」を植え付けられる恐れ、専門家が指摘—対策はあるのか?
Forcepoint X-Labsが、記憶を永続的に汚染する手口に関する脅威モデルを公表ウェブページ上に隠されたテキストが、AIエージェントによって「事実」として取得・信頼され、数週間後の無関係なタスクでも使われ続けるChatGPT、Gemini、Claude、Microsoft 365 Copilotなど、すで