AIガードレール – TokyoBlackHatNews

schneier.com 2026年7月8日 20:21

サイバーセキュリティにおける「技能」と「能力」のギャップ

先週、ファイブ・アイズ——つまり裕福な英語圏諸国のクラブ——の国家安全保障機関が、AIモデルによるサイバーリスクの高まりについて警告する共同声明を発表しました。特に懸念されているのは、システムやネットワークに自律的に侵入するAIの能力です。この声明は、それを取り上げた扇情的な見出しの一部よりも抑制の効いた内

helpnetsecurity.com 2026年6月10日 17:42

どんなAIガードレールも、適切なプロンプトで突破できる

AIシステムを構築する企業は、ディープフェイクやマルウェア、生物兵器・違法薬物の製造方法といった有害なコンテンツを遮断するためのガードレールを設けています。ユーザーがそうしたコンテンツを要求するプロンプトを入力した場合、ガードレールはそのリクエストを検知して拒否するよう設計されています。そして今回、こ

helpnetsecurity.com 2026年5月28日 14:41

フロンティアAIモデルはマルチターンAI攻撃で崩壊する、Ciscoが発見

大規模言語モデルを探索する攻撃者は、一度拒否されてもめったに諦めない。文脈を組み替え、複数のターンをまたいで文脈を積み上げ、ペルソナを採用し、徐々にエスカレートさせる。CiscoのAI脅威インテリジェンスチームの新たな研究により、業界全体で使用されている安全性ベンチマークがこうした挙動のほぼすべてを見

zerolabs.rubrik.com 2026年4月16日 01:15

抽象から成果物へ：LLMトラストバウンダリのエンジニアリングブループリント | CXO変革

AI セキュリティの状態：理論で溺れている、ブループリントに飢えている今日のサイバーセキュリティフィードをスクロールすると、AI セキュリティに関するコンテンツが大量に見られます。脅威モデリングフレームワーク、概念的なリスク報告書、「エージェント型 AI」の危険性に関する思想的指導記事で溺れています。しかし、よく見る

infosecurity-magazine.com 2026年4月8日 10:58

GrafanaGhostエクスプロイトがAIガードレールをバイパスしサイレントデータ流出を実現

新たに特定された重大な脆弱性「GrafanaGhost」は、攻撃者がGrafana環境から機密のエンタープライズデータをサイレントに抽出するために使用されています。 Nomaの脅威研究チームの研究者によると、このエクスプロイトはクライアント側の保護とAIガードレールをバイパスし、ユーザーインタラクションやログイン認証を