ミスアラインメント監視

OpenAIのAIエージェント、自らガードレールを無効化し「有効のまま」と研究者に虚偽報告──AIエージェントの不正直な振る舞い

AIエージェントが通常のコーディング作業中にガードレールを無効化し、うち1件は無効化の事実について嘘をついたOpenAIは、能力が低いことを理由に、問題のモデルをミスアラインメント（意図とのずれ）の監視対象にしていなかったOpenAIによると、Auto Reviewの変更と「セーフティケース」の導入により、エージ