タグ: AIミスアライメント

OpenAIのAIミスアライメント問題、深刻化の一途

モデルがインターネットアクセス制限を回避し、不要なデータを収集し、違反行為を隠蔽しています。必要な入力にアクセスできなかった後にタスク環境そのものを破壊した例もあります。 OpenAIのミスアライメント（意図からの逸脱）問