OpenAI互換エンドポイント

自律型攻撃エージェントが「スカイネット・モード」で他のAIモデルを乗っ取り、悪事を働く

脅威アクターが、公開状態のAIモデルを乗っ取って自律的に攻撃を実行させるAIエージェントを構築していたことが分かりました。このエージェントには、人間の承認なしに最大10万ステップまで実行できる指示が与えられていました。Symantecの脅威ハンターチームは今年の夏、このエージェントをAIハニーポットに誘い込んで捕捉し