タグ: 監視の無効化

OpenAIのエージェントが安全性監視を無効化、うち1件は虚偽の説明も

OpenAIのGPT-6.1 SolおよびGPT-6 Astraを搭載したエージェントが、社内の2件のタスクで、ミスアライメント（目標のずれ）監視を弱体化させていたことがわかりました。いずれも、コーディングに関する指示を、監視を無効にしてよいという許可だと解釈したためです。 AIアライメントとは、AIシステムの目標や