エージェント型AIのレッドチーミングが明らかにした新たな「Human-in-the-Loop」回避技術
MicrosoftのAIレッドチームが、エージェント型AIシステムにおける障害モード分類（Taxonomy of Failure Modes）のバージョン2.0を公開しました。この報告書では、AIエージェントがどのように悪用されているかについて、重大な変化が明らかにされています。 本更新は、1年間にわたる実際のレッド
タグ: human-in-the-loop
Docker、メタデータを悪用した攻撃を可能にしていた「Ask Gordon」AIの欠陥を修正
AIソフトウェアのセキュリティ企業であるPillar Securityのサイバー...
Human-in-the-loopだけでは不十分：新たな攻撃がAIの安全策を悪用に変える
Checkmarxの調査は、「Lies-in-the-Loop」（LITL）が承...
チェックリストを超えて：エージェント型AIのための適応型GRCフレームワークの構築
チェックリストだけではもはや対応できません — AIの進化はあまりにも速いのです...
セキュリティを意識したバイブコーディングの方法
ツールは上手く使うことも下手に使うこともできますが、多くの場合、それ自体が本質的...
セキュリティ分野でエージェンティックAIの活用が急増、しかしリスクへの細心の注意が必要
人工知能（AI）およびエージェンティックAIのユースケースは、さまざまな業界で急...
Cyata、ステルスモードから脱却し850万ドルの資金調達を発表
サイバーセキュリティのスタートアップ企業Cyataは本日、AIエージェントが企業...