TokyoBlackHatNews

タグ: データポイズニング

helpnetsecurity.com

AIアシスタントのバックドア入りコード補完を暴くフォレンジックツール

開発者は日々の業務のますます多くの部分をAIコーディングアシスタントに頼るようになっており、これらのツールが次の数行を予測すると、ちらっと見ただけで多くの提案を受け入れてしまいます。こうしたツールは大量のコード集積から学習しますが、そのコードの一部は学習が始まる前に改ざんされている可能性があります。汚
cyberpress.org

新たなAIペネトレーションテストフレームワーク、プロンプトインジェクション・データポイズニング・エージェント型ツール悪用をカバー

セキュリティチームは、大規模言語モデル、検索拡張生成(RAG)プラットフォーム、自律型エージェント、AIコパイロットを業務アプリケーション内に導入する動きを加速させています。 しかし多くの組織は、依然としてWebサーバー向けに設計された従来のペネトレーションテスト手法を使い、こうしたAIシステムやAPI、エンドポイン
cyberscoop.com

AIの絶え間ないパッチ対応がセキュリティ問題に

ワシントンD.C.がAnthropicのClaude Fable 5の潜在的な影響を懸念する一方、セキュリティ研究者たちは、最先端AIツールの統合が攻撃者と防御者の双方にとってデジタルセキュリティの状況をどのように変容させているかを追い続けています。 モデルのリリースペースの凄まじい速さが、パフォーマンスとセキュリテ
helpnetsecurity.com

AI主権がデータセンターをサイバー作戦の戦略的標的にする

フロンティアAI向けに建設されたデータセンターは、所在地が判明している固定地点から数百メガワットの電力と大量の冷却水を消費します。各施設は、単一の建物内に数万基のGPU、液体冷却システム、高密度電力設備を集中させています。こうした物理的な集積によって、一国のAI能力は、敵対勢力が位置を特定し、規模を測
securityweek.com

次のサイバーセキュリティの危機は侵害ではなく、信頼できないデータである

組織全体でリスクの見方に認識できるシフトが生じています。データの完全性はもはやデータを安全に保つことだけではなく、データの信頼性についても重要です。組織は自問しています。「私たちのデータを信頼できるだろうか？」 AI駆動の決定によって形作られた新しい時代では、その質問に答えるのは難しく、ますます運用上の重要性を持つよ