ウォルマートが実践する「トラステッドエージェント」方式のパープルチーミング
多くの組織はレッドチームとブルーチームの間に生じる本質的な緊張関係に苦慮しています。攻撃側のセキュリティテスターと防御側のオペレーターがそれぞれ孤立して活動したり、時には敵対的な関係に陥ったりすることも珍しくありません。しかしウォルマートは、この力学を根本から作り直しました。同社でセキュリティオペレーション部門のグロー
タグ: ブルーチーム
レッドエージェント対ブルーエージェント：AIの防御力を高めるには
5分で読めますAIベースのセキュリティシステムのテストは容易ではありません。エージェントが不正行為を働いたり、幻覚を起こしたり、封じ込めを脱出したりするのではないかという懸念が広がる中、ある研究者グループがエージェント型防御システムの有効性をより正確に測定する方法を見つけたと主張しています。今年に入って、AI攻撃型セキ
「イエローチーム」がAIセキュリティの未来を定義する
少数のエンジニアリングチームが、組織が今後直面する高度なAI攻撃に対する防御策を開発しています。同時に、彼らは攻撃者がそうした攻撃を実行するために利用するフレームワークも構築しています。4月、Anthropicは50社を超える組織をProject Glasswingイニシアチブに招待し、当時同社が「最も高度なサイバーセ