ASAPPがエンタープライズAIシステム向けの敵対的テストを拡大
ASAPPは「継続的レッドチーミング」という新機能をローンチしました。これは敵対的AIテストをASAPPのモデル評価フレームワークに直接統合します。この新機能はPromptfooの上に構築されており、Promptfooは企業がAIシステムの開発段階で脆弱性を検出し対処するのに役立つAIセキュリティプラ
ASAPPは「継続的レッドチーミング」という新機能をローンチしました。これは敵対的AIテストをASAPPのモデル評価フレームワークに直接統合します。この新機能はPromptfooの上に構築されており、Promptfooは企業がAIシステムの開発段階で脆弱性を検出し対処するのに役立つAIセキュリティプラ
水曜日、Microsoftは2つの新しいレッドチーミングツール—RampartとClarity—をリリースしました。これらは開発者がより安全なエージェントソフトウェアを設計し、継続的な違反に直面する事象対応者を支援することを目的としています。 RampartはPyRITの上に構築されており、PyRITはMicroso