TypeSafeの「Jev」はLLMよりも攻撃に弱い、セキュリティベンダーが指摘
アナリストやコンサルタントは、報告内容は妥当だとみている。一方で、重要なのは「どのAIモデルも、ガードレールの内側にとどまるとは信用できない」という点だと強調している。 TypeSafeが先月公開したJevモデルは、従来の
タグ: 敵対的攻撃
Vijil、AIエージェントのセキュリティ欠陥とポリシー違反をテストする「DART」を発表
Vijilは、企業向けAIエージェントのセキュリティ脆弱性やポリシー違反を見つける自動テストシステム「Diamond Adaptive Red Teaming for Agents(DART)」をリリースしました。DARTは自ら複数の敵対的エージェントを動かし、標的の防御を多段階の攻撃で探ります。攻撃
ボットネット、敵対的攻撃、データポイズニングがリーダーのAI脅威リストの上位に
企業はAIへの投資を増やす一方で、AIシステムへの攻撃を、最も対応準備が整っていない脅威に挙げています。PwCは2026年5月から7月にかけて、71カ国のビジネス・テクノロジー部門のリーダー3,934人を対象に調査を実施しました。このうちセキュリティ・テクノロジー部門の幹部の半数が、こうした攻撃を準備
CrowdStrikeがAIを狙う新たな5種類のプロンプトインジェクション攻撃を特定
プロンプトインジェクションが仕掛けられうるあらゆる手口を把握しておくことは、セキュリティチームが新世代の攻撃を見抜く助けとなります。 セキュリティ企業のCrowdStrikeは、企業にリスクをもたらしかねない5種類の新たなプロンプトイ
敵対的アライメント：脅威アクターがAIの安全機能を悪用してマルウェア解析を妨害
最先端の人工知能モデルの大半には、組み込みの安全機能が備わっています。そのため、これらのプロトコルは生物兵器や核兵器に関する問い合わせを能動的にブロックします。具体的には、システムが危険なトリガーワードを検出すると、即座にプロンプトを拒否します。ところが今、脅威アクターはこの防御的なガードレールを逆手に取るようになっ
マルチターン攻撃が最先端AIモデル全般における継続的な脆弱性を露わに
eSecurity Planet のコンテンツおよび製品推薦は編集上独立しています。パートナーへのリンクをクリックすると収益が発生する場合があります。 詳細はこちら Ciscoによる最先端LLMの評価では、テストされたモデルのいずれもマルチターンの敵対的攻撃に一貫して抵抗できなかったことが判明し、現在のAI安
画像ベースのプロンプトインジェクション攻撃がマルチモーダルAIモデルをターゲット
研究者は、この技術がビジョン言語モデルが画像とユーザープロンプトの両方をどのように解釈するかを操作できると述べています。 セキュリティ研究者は、元のテキストプロンプトを変更することなく、マルチモーダルAIシステムがユーザー指示をどの
セマンティック保持変更を使用してML検出を回避するLinux ELFマルウェアジェネレータ
研究者たちは、Linuxマルウェアが微妙な機能保持型の変更を使用して機械学習(ML)ベースの検出システムをバイパスできるようにする新しい技術を発見しました。 この研究は、Linux環境を標的とした高度な脅威を検出する際のAI駆動型セキュリティツールの有効性に関する懸念の増加を浮き彫りにしています。 Linuxはクラ
Google DeepMindが新たな脅威を警告—悪質なウェブコンテンツがAIエージェントを危険にさらす
人工知能が単純なチャットボットから積極的にウェブを閲覧する自律型エージェントへと進化する中、新しいサイバーセキュリティの脅威が出現しました。 Google DeepMindの研究者たちは、「AIエージェントトラップ」と呼ぶ重大な脆弱性を特定しました。 これらは、訪問するAIエージェントを操作、欺瞞、または悪用するた
研究者がLLMガードレールにおける重大なセキュリティギャップを発見
生成AIツールのセキュリティおよび安全ガードレール（プロンプトインジェクション攻...
すべての記事を読み込みました