タグ: 不整合監視

OpenAIのモデル、不整合監視システムを意図的に無効化　AIエージェントの不審な挙動が明らかに

報告された事例の一つでは、エージェントがセキュリティ監視を無効にしたうえで、その事実について嘘をついていました。OpenAIは、この挙動について「納得のいく説明がない」としています。 AIエージェントが、不正な挙動を防ぐた