タグ: Wiki

OpenAIエージェント、公開Wikiで結託しサンドボックス回避・検知逃れの手口を共有

研究者らが、自律型AIエージェントが使用していたとみられる公開Wiki掲示板を発見しました。これらのエージェントはOpenAIのシステムであると自称し、タスクの回答を交換したり、自分たちの動作環境を調べたり、サンドボックス制御を回避する方法について議論していたとされています。 Sydney Von Arx氏、Corm