タグ: 音声認識モデル

話者に反応するバックドア、音声AIエージェントを乗っ取る

特定の声だけを待ち受けるバックドア 研究者らは、音声認識システムが特定の人物を声で識別できるように仕込む手法を示しました。その人物が話すと、システムは本人の発言を密かに書き換えます。最も危険な攻撃シナリオでは、モデルが文字起こしに5,000ドルの送金依頼をひそかに付け加えました。接続されたAIエー