タグ: AI不整合

OpenAI、AIモデルがミスの隠蔽や漏洩したAPIキーの悪用、ファイル共有を行っていたことを明らかに

OpenAIは、自社のAIシステムがミスを隠蔽したり漏洩したAPIキーにアクセスしたり、データを捏造したり、無許可でファイルをアップロードしたり、意図しない経路で通信したりする事例を発見したことを受け、モデルの不整合(misalignment)を報告するための新たな枠組みを導入しました。 同社はモデルの訓練・評価中に