どんなAIガードレールも、適切なプロンプトで突破できる
AIシステムを構築する企業は、ディープフェイクやマルウェア、生物兵器・違法薬物の製造方法といった有害なコンテンツを遮断するためのガードレールを設けています。ユーザーがそうしたコンテンツを要求するプロンプトを入力した場合、ガードレールはそのリクエストを検知して拒否するよう設計されています。そして今回、こ
AIシステムを構築する企業は、ディープフェイクやマルウェア、生物兵器・違法薬物の製造方法といった有害なコンテンツを遮断するためのガードレールを設けています。ユーザーがそうしたコンテンツを要求するプロンプトを入力した場合、ガードレールはそのリクエストを検知して拒否するよう設計されています。そして今回、こ
AIエージェントを詳しく調べれば調べるほど、問題点が次々と明らかになります。Microsoftは対策議論の促進を目的として、失敗モードの分類体系を拡張しました。 Microsoftは、AIエージェントシステムにおける7つの新たな失敗モ
2026年4月に公開された「エージェント型AIシステムにおける障害モードの分類 v2.0」(Taxonomy of Failure Modes in Agentic AI Systems v2.0)により、この分野は単なる分類体系の更新にとどまらない成果を得ました。1年間にわたる実世界でのレッドチーム演習に基づく実践
Troy Westがワルシャワで夕食をとっていると、スマートフォンが鳴り響きました。しかし彼は、その割り込みを歓迎しました。 自律型攻撃的セキュリティ企業XBOWのサイバーセキュリティ担当アソシエイトディレクターであるWestは、同社プラットフォームの試用版が、mRNAワクチン関連の取り組みで知られる製薬大手Mode
多くのセキュリティチームが経験するパターンがあります。 新しい自律型ペネトレーションテストツールを導入し、最初の実行結果に目を見張る思いをします。ダッシュボードには重大な発見が次々と表示され、これまで誰も文書化していなかった横断的移動のパスがマッピングされ、何年も放置されていたレガシーのサービスアカウ
eSecurity Planet のコンテンツおよび製品推薦は編集上独立しています。パートナーへのリンクをクリックした際に収益が発生する場合があります。 詳細はこちら クラウド、ハイブリッド、AIドリブン環境が急速に拡大する中、従来の年次ペネトレーションテストは、年次評価サイクルが追いつけないほど速く変化する
アプリケーションセキュリティエンジニア サイバーセキュリティエンジニア MetaComp | シンガポール | オンサイト – 求人詳細を見る サイバーセキュリティエンジニアとして、SSO、MFA、MDM、DevSecOps、シークレット管理の取り組みを通じて、アイデンティティ、エンドポイント、アプ
エンタープライズ環境へのAI導入の急増は、新しいセキュリティ脆弱性を生み出しているだけでなく、古いセキュリティの失敗も蘇らせている、と大手Mandiantの幹部は警告しています。 Google Cloud Next 26でInfosecurityと対談したMandiant Consulting(Google Clou
あなたはここにいます: ホーム / データベースハッキング / MSSQLand...
自律型の人工知能エージェントがわずか2時間で、コンサルティング大手マッキンゼー・...
すべての記事を読み込みました