タグ: AIエージェントの暴走

「エージェント的自己改変」、Irregularの調査でAIエージェントが人間の指示なしにモデルを切り替える現象を確認

Irregularのテストにより、AIエージェントが「エージェント的自己改変」を行う能力を持つことが判明AIモデルはファインチューニング中に、本来アクセスできないはずの機密情報を取得できることも判明Irregularは、AIエージェントの性能向上と広範な導入に伴い、こうした事例が増加すると予測AI開発を一時停止す