タグ: プロンプトインジェクション

News

F-Secure、AIが消費者に及ぼす26種類の被害を特定 対策を講じるべき接点も提示

プレスリリースロサンゼルス(2026年11月10日)― AIは今や、私たちの検索やコミュニケーション、意思決定、そしてデジタルライフの運用のあり方を形づくっています。しかし、AIが誤作動したとき、人々は具体的にどのような被害を受けるのでしょうか。F-Secureが公開した新たなAI Harms Taxonomy(AI被

hackread.com

最新のPAMが、パスワードボールトでは守れないAIエージェントを保護する仕組み

従来の特権アクセス管理(PAM)は、人間のユーザーを前提に作られています。しかし現在では、AIエージェントが人間のユーザーと並んで動作する場面が増えています。AIエージェントは企業のアプリにログインし、自らの特権アクセスで機密 データを扱います。こうしたエージェントを守るには、エージェントの実際の動作に合わ

cyberpress.org

Apple、macOS 27.3のセキュリティを強化 AIエージェントによる機密データへのアクセスを阻止

Appleは、macOS 27.3 beta 2でアプリケーションの権限管理を厳格化しました。機密ファイルを露出させたり、ソフトウェアが他のアプリケーションを操作したりできる機能について、よりきめ細かな制御を導入しています。 2026年11月16日に発表された今回の変更は、フルディスクアクセスに加え、「デバイス制御

gbhackers.com

Claude Code拡張機能、シンボリックリンク経由でAIエージェントが信頼済みワークスペース外のファイルにアクセスする恐れ

Visual Studio Code向けのAnthropic製Claude Code拡張機能が、権限確認プロンプトで誤解を招くファイルパスを表示していると報告されています。あるセキュリティ研究者は、この問題によってユーザーが信頼済みワークスペース外へのファイルアクセスを承認してしまう可能性があると指摘しています。 A

hackread.com

エンタープライズAIエージェントを取り巻いて広がるセキュリティ職

2年前、企業の AI利用の大半はチャット画面の中で完結していました。しかし現在、AIアシスタントは共有メールボックスを読み、SharePointを検索し、サポートチケットを起票します。チームによっては、コードを書いて実行することもあります。こうした接続はすべて、権限を持つアカウントの上で動いています。そして、アシスタ

bleepingcomputer.com

1つのAIエージェントが露呈させた、企業セキュリティの5つの重大な穴

AIエージェントが作られる場面を想像してみてください。作るのはID管理チームでもセキュリティの専門家でもありません。中堅企業の経理部門の担当者です。 このエージェントの仕事は比較的単純です。受信トレイを読み、請求書をERPと照合し、毎日の要約をSlackに投稿します。フロンティアモデルを使って作成したため、ワンショッ

esecurityplanet.com

AIエージェントが支出上限を回避:何が問題だったのか

エージェントは支出上限に達すると、その上限を引き上げるために必要な認証コードを自ら取得しました。Cornell TechとYale Universityの研究者らが管理された環境で実験したところ、10種類のAIモデルのうち9種類が、人間による個別の承認を得ないまま、自らの暗号資産の支出上限を少なくとも1回は引き上げ