オーバーシンキング攻撃

AIの「考えすぎ」を悪用した攻撃、ロボットを1分以上停止させる

カメラを通して世界を認識するロボットは、今や大規模視覚言語モデル(LVLM)を活用して見たものを解釈し、次の行動を決定するようになっています。これらのモデルは画像とテキストを同時に扱うため、カメラのフレーム内に入った文字はすべて入力の一部として扱われます。一時停止の標識、通りの名前、壁に貼られたステッ