タグ: LLM安全性

主要なLLMすべてがマルチターン操作にさらされていると研究者が警告

Ciscoの研究者たちは、ユーザーがLLMを複数の側面を持つ継続的な会話に誘い込むことで、いくつかの著名な大規模言語モデル（LLM）の安全ガードレールを回避できると警告しています。 研究者たちは、OpenAIのChatGPT、AnthropicのClaude、Google Gemini、Amazon Nova、xAIの