マルチターン攻撃が最先端AIモデル全般における継続的な脆弱性を露わに
eSecurity Planet のコンテンツおよび製品推薦は編集上独立しています。パートナーへのリンクをクリックすると収益が発生する場合があります。 詳細はこちら Ciscoによる最先端LLMの評価では、テストされたモデルのいずれもマルチターンの敵対的攻撃に一貫して抵抗できなかったことが判明し、現在のAI安
タグ: マルチターン攻撃
AIモデルは反復的な攻撃に直面した際、主張されているよりも脆弱であることが判明
Ciscoの研究者たちが、主要なAIモデルが現実的なマルチターン攻撃に対していかに脆弱であるかを示し、ベンダーのシングルプロンプト安全性ベンチマークの価値に疑問を呈した。 組織のAI利用やモデル選定に関するセキュリティ上の意思決定にお
主要AIモデルはベンダーの主張よりも悪意あるプロンプトに対して脆弱である
概要 ハッカーは開発者が見落としている攻撃によってフロンティアモデルを悪用できると、Ciscoが指摘した。 概要： 主要AIデベロッパーのモデル安全性に関する主張は、ハッカーの行動についての誤った前提に基づいている、とCiscoの研究者が水曜日に公開したレポートで述べた。 AIベンダーは、モ
主要なLLMすべてがマルチターン操作にさらされていると研究者が警告
Ciscoの研究者たちは、ユーザーがLLMを複数の側面を持つ継続的な会話に誘い込むことで、いくつかの著名な大規模言語モデル（LLM）の安全ガードレールを回避できると警告しています。 研究者たちは、OpenAIのChatGPT、AnthropicのClaude、Google Gemini、Amazon Nova、xAIの
シナリオ：自動化されたAIアプリレッドチーミング用のオープンソースフレームワーク
本番環境で顧客サービスボット、データ分析エージェント、その他のAI駆動型アプリケーションを実行している企業は、毎日機密記録を処理し、コアビジネスシステムに接続しています。LangWatchは、敵が実際に運用する方法を反映するマルチターン攻撃技術を使用して、AIエージェントに対して自動化されたレッドチー