タグ: インダイレクト攻撃

悪意のあるAIプロンプトインジェクション攻撃が増加、ただし高度さは依然として低い：Google

Googleが公開ウェブ上のサイトを含むAI間接プロンプトインジェクション試行を分析し、過去数ヶ月間で悪意のある攻撃の増加に気づきました。ただし、大手テック企業の研究者たちは、その高度さは比較的低いと述べています。 ダイレクトプロンプトインジェクションは、ユーザーがAIと対話してそのルールを回避する「ジェイルブレイク