TokyoBlackHatNews

タグ: QRコード攻撃

meterpreter.org

ChatGPhish現象：AI要約機能を悪用した間接プロンプトインジェクション

要約ベクターの仕組み AIアシスタントがWebページの内容を要約する際、そのページが巧みな罠として機能し得ることが新たな研究で明らかになりました。攻撃者はWebサイト内に不正な命令を密かに埋め込むことで、ChatGPTの回答に偽の警告メッセージ、ハイパーリンク、またはQRコードを表示させることができます。 Permi
theregister.com

ChatGPTはブラウザのコンテンツを盲目的に信頼し、ページをペイロードに変える

独占記事 ChatGPTは自身が生成したコンテンツと、外部ソースから取り込んだ攻撃者制御のMarkdownを区別できないと、このプロンプトインジェクション手法を発見しOpenAIに報告した研究者が指摘している。これはつまり、ユーザーが隠し命令を含むWebページの要約をチャットボットに依頼した場合、そのページが