Anthropic、Claude Duetの暴走を防ぐ仕組みを解説
Anthropicは、プロアクティブなAIエージェント「Claude Duet」を支えるセキュリティとプライバシー保護の仕組みを明らかにしました。Duetは、連携したアカウントを監視し、ユーザーが不在の間にタスクを完了できるエージェントです。保護策には、承認の要求、機密情報のチェック、認証情報をモデルから隔離するイン
タグ: レッドチーム
レッドチーム報告書：OpenAIはHugging Face攻撃時、自社エージェントをまったく監視できていなかった
ai and ml
AIペンテストプラットフォーム「RedAgents」、4つのハッキングエージェントを統合し企業のセキュリティを検証
ThreatBookは2026年10月16日、「RedAgents」の提供を開始しました。複数のAIペネトレーションテストエージェントを1つの標的に対して並列実行するSaaSプラットフォームで、セキュリティチームは攻撃者に先んじて、外部に露出した侵入口を発見できます。 自らを「エージェンティックセキュリティ企業」と称
Cisco Talos、AIエージェント群によるサイバー攻撃は「数カ月」から「数時間」に短縮され得ると警告
Cisco Talosは、連携して動作するAIエージェント群（スウォーム）によって、高度なサイバー攻撃の実行に必要な時間が大幅に短縮され得ると警告しました。従来はレッドチームによる計画、偵察、インフラ構築などに数カ月を要していた作戦が、数時間に圧縮される可能性があります。 もはや問題は、AIがサイバー攻撃に使われるか
Anthropic、レッドチームと認定サイバー防御担当者にClaudeへのアクセスを開放
Anthropicは、サイバー検証プログラム(CVP)を3つのアクセス階層に拡大しました。審査を通過した防御担当者やレッドチームは、サイバー関連のブロックが緩和された状態で、Claude Opus 5.5、Claude Sonnet 5.5、Claude Mythos 5.1を利用できるようになります。同社は2026
Anthropic、認証済みの防御担当者向けにClaudeのサイバー関連制限を緩和
Anthropicは「Cyber Verification Program（CVP）」を拡大しました。承認されたセキュリティ専門家は、Claudeの高度な機能を、マルウェア分析や脆弱性テストといった業務で自動ブロックを減らした状態で利用できます。 サイバーセキュリティ業務に応じた3つの段階 プログラ
Anthropic、審査済みの防御担当者向けにClaudeのガードレールを緩和
Anthropicは、「Project Glasswing」を既存の「Cyber Verification Program(CVP)」に統合し、階層型の拡張プログラムを新設します。審査を通過したセキュリティ専門家は、段階的に異なる安全対策のもとで、高度なAIのサイバー能力を利用できるようになります。ただし、この安全対策
Vijil、AIエージェントのセキュリティ欠陥とポリシー違反をテストする「DART」を発表
Vijilは、企業向けAIエージェントのセキュリティ脆弱性やポリシー違反を見つける自動テストシステム「Diamond Adaptive Red Teaming for Agents(DART)」をリリースしました。DARTは自ら複数の敵対的エージェントを動かし、標的の防御を多段階の攻撃で探ります。攻撃
RemoteThreat、防御突破後の対応力をテストすべきだと主張
Chris Thompson氏は長年、銀行や原子力発電所、防衛関連企業に侵入し、その報酬を得るキャリアを歩んできました。そして今、レッドチームによるペネトレーションテストが劇的に変化しつつあると見ています。この考えを土台にしたのが、同氏が共同創業者兼CTOのShawn Jones氏と2025年に設立した、統合型の攻撃的
Armadin、AI攻撃型セキュリティプラットフォーム拡大に向け2億5,550万ドルを調達
Armadinは、Andreessen Horowitz（a16z）とAccelが共同でリードしたシリーズBラウンドで、2億5,550万ドルを調達しました。これにより同社の企業価値は25億ドルを超えました。今回のラウンドには、新規投資家としてBain Capital Ventures（BCV）とRed
すべての記事を読み込みました