たった1通のメールで乗っ取られる恐れ 人気AIエージェント「Manus」に深刻な脆弱性
研究者がManusのプロンプトインジェクション対策を回避し、JSFuckによる難読化でコード実行に成功メールに仕込まれた隠しプロンプトは、Manusが不審な動きを検知する前にデコードされ、実行された脆弱性は修正済み。サードパーティーへの広範なアクセス権を持つAIエージェントのリスクが浮き彫りにManusに対するメ
タグ: プロンプトインジェクション
FTC、OpenAIとAnthropicを調査 高度なAIモデルが消費者にもたらすリスクを問題視
米連邦取引委員会（FTC）は、OpenAIやAnthropicをはじめとする主要な人工知能（AI）開発企業を対象に、大規模な調査を開始しました。高度なAIシステムが消費者に及ぼしかねない被害を検証するのが目的です。 調査では、各社によるAIの開発や展開、安全性に関する主張、エージェント型AIのリスク管理が、不公正また
自己複製型プロンプトインジェクション「ワーム」の出現
プロンプトインジェクションが、コンピューターワームのような悪質な特性を獲得しました。OpenAIは最近、AIエージェントを乗っ取るだけにとどまらない悪意ある命令の実証結果を公表しました。この高度な命令は、乗っ取られたAIに対し、メールやファイルシステム、ソースコードのコメントを通じて攻撃を自ら拡散
企業はAIと量子の脅威への備えに苦戦、PwCが指摘
世界的に見ると、攻撃者が新技術を悪用するようになっているにもかかわらず、防御側で新技術を導入している組織はあまりに少ない状況です。 PwCの「2027 Global Digital Trust Insights」レポートは、70カ国以上の約4,000社の経営幹部やテクノロジー部門のリーダーを対象に調査を実施しました。
AIエージェントはなぜ、子どもたちをセーヌ川に突き落とした犬に似ているのか
オピニオン 2026年10月1日6分 AIエージェントが本来の目的を見失う、6つの典型パターン 誤動作するAIエージェントを理解するうえで興味深いのが、セーヌ
Google、審査済みの防御担当者向けにガードレールなしの「Gemini 4 Argon」を公開
Googleは水曜日、最先端の新AIモデル「Gemini 4 Argon」を発表しました。当初は「Fairwind Program」を通じて、信頼できる一部のサイバー防御担当者に限定して提供します。 Google社内のチームもこのモデルを利用しています。同社は、早期テスターからのフィードバックを集めながら、段階的に提
BlackFog、エージェント型AI向けにプロンプト保護とガバナンス機能を追加
BlackFogは、企業全体で生成AIやエージェント型AIの利用を管理・制御できるよう、AIセキュリティ機能を拡充した「ADX Vision 2.0」の提供開始を発表しました。 従業員は、AIツールを単に操作する段階から、意思決定を行い企業データに基づいて動作するエージェントを展開する段階へと移行し
悪夢のシナリオにAIの懸念をもう一つ追加、自己複製するプロンプトインジェクション
security
AIエージェントは特権ユーザー、そのアクセスを監査しているのは誰か
読了時間：4分オピニオン企業は、人間の境界を守るために多額の投資をしています。セキュリティチームはフィッシング耐性のある多要素認証（MFA）を導入し、厳格な条件付きアクセスポリシーを適用し、想定外のIPアドレスからのログインをすべて精査します。しかし、人間の従業員を厳しく監視する一方で、エンジニアリングチームは自律型の
「Salesbleed」、Salesforceエージェントを悪用してSlack経由のフィッシングを可能に
Salesforce Agentforceに存在する複数の脆弱性を、研究者らは総称して「Salesbleed」と名付けました。これらを悪用されると、顧客の社内データが流出するおそれがあります。さらに悪いことに、攻撃者が信頼された社内チャンネルの内側から従業員をフィッシングできてしまいます。顧客や投資家を熱狂させる強力で
すべての記事を読み込みました