PuzzleMaskは攻撃を平文の文章の中に隠す
小型モデルがテキストを読み取り、「安全」だと判定します。ところがまさにそのテキストが、より高性能なAIに渡されると、内部に隠されたコマンドを見つけ出して実行してしまいます。Check Point Researchは、大規模言語モデルの手前に置かれた簡易フィルターをすり抜けることができる新たな手法「
小型モデルがテキストを読み取り、「安全」だと判定します。ところがまさにそのテキストが、より高性能なAIに渡されると、内部に隠されたコマンドを見つけ出して実行してしまいます。Check Point Researchは、大規模言語モデルの手前に置かれた簡易フィルターをすり抜けることができる新たな手法「
セキュリティ研究者らは、軽量なAI安全フィルターをすり抜ける悪意ある指示の潜伏を可能にするプロンプト難読化技術「PuzzleMask」を公表しました。 この手法は、ポリシー違反となる指示を、一見ごく普通に見える平易な英文の中に隠すというものです。 従来のプロンプト隠蔽手法とは異なり、PuzzleMaskはBase64