生成AIが日常の政府業務に導入される中、プロンプトインジェクションが懸念に
生成AIの日常的な使用は、州および準州政府環境での日々の業務へ移行し、共通のワークフロー内に新しいセキュリティリスクをもたらしています。 インターネットセキュリティセンター（CIS）のレポート「プロンプトインジェクション：生成AIへの本質的な脅威」は、プロンプトインジェクションがその導入に関連した継
タグ: プロンプト攻撃
Check Point研究チームがChatGPTのデータ流出フローを暴露
ChatGPTのコード実行環境のフローにより、単一の悪意のあるプロンプトが警告やユーザーの承認なしに機密ユーザーデータを静かに流出させることができる方法が示されています。 「ChatGPT会話で共有された機密データは、ユーザーの知識や承認なしに静かに流出する可能性があります」と述べたCheck Point研究チーム。
単一のプロンプトで主要な言語モデル15種のAI安全性が破られる
GRP‑Obliteration手法は、穏やかなプロンプトでさえ内部の安全メカニ...
詩的なプロンプトでAIのガードレールが突破される
25の最先端プロプライエタリおよびオープンウェイトモデルで詩的なプロンプトを用い...
エコーチェンバー、GPT-5を24時間でジェイルブレイクしたプロンプト
セキュリティ研究者たちは、GPT-5のリリースからわずか24時間で大規模言語モデ...