TokyoBlackHatNews

タグ: LLMセキュリティ

techradar.com

OpenClawやGithub Copilotなど主要AIツールが乗っ取られ、大規模ボットネット構築に悪用される恐れ

AIの「幻覚(ハルシネーション)」が兵器化される可能性を新報告書が警告HalluSquattingは「敵対的ハルシネーション・スクワッティング」の略称GitHub Copilot、Gemini CLI、OpenClawなどが影響を受けるお気に入りのAIサービスが悪用され、スマートフォンやPCをボットネットに変える
zerolabs.rubrik.com

実行レール:自律型AIエージェントセキュリティのためのエンジニアリング指針 | CXO Transformation

編集部注:本稿は、実践的なAIセキュリティエンジニアリングに関するシリーズの第2回です。第1回では、Llama-Guardを用いたNeMoの入出力レールによるLLMファイアウォールの構築を取り上げました。「頭脳」は守られていても「手」は自由なままという問題本シリーズ第1回では、専用の安全性モデルと決定論的なColang
cyberpress.org

Citrix NetScaler、エージェント型AIトラフィックを統合的に保護する「MCPゲートウェイ」を追加

Cloud Software Group傘下のCitrixは、Model Context Protocol(MCP)ゲートウェイ機能をNetScalerに導入しました。これにより、同社のアプリケーション配信・セキュリティプラットフォームの対象範囲が広がり、企業内のエージェント型AIトラフィックを管理できるようになりま
gbhackers.com

NetScaler MCP GatewayがLLMとエージェントAIのトラフィックを単一プラットフォームで保護

Cloud Software Group傘下のCitrixは2026年7月9日、NetScaler®プラットフォームの大型アップデートを発表しました。今回導入されたMCP Gateway機能は、企業環境全体でAIエージェントのトラフィックが爆発的に増加する中、それらを保護し統制することを目的としています。 この新機能
securityweek.com

「HalluSquatting」――AIのハルシネーションをボットネット配布の手口に変える新手法

テルアビブ大学、テクニオン、Intuitの研究者らは、AIアシスタントがハルシネーション(幻覚)を起こしやすい性質を悪用し、大規模な感染ベクターへと転換する新たな攻撃手法「HalluSquatting」の詳細を明らかにしました。 サイバーセキュリティ業界ではこれまでにも、メールやログ、コメント、メッセージ通知といった
helpnetsecurity.com

NetSPIがAIによるペネトレーションテストと専門家による検証済みセキュリティ所見を組み合わせ

NetSPIは、AIを活用した継続的ペネトレーションテストプラットフォームの拡張を発表しました。これにより、組織が重要な資産を常に保護するために利用できるサービス群がさらに充実することになります。新たに追加されたサービスは、継続的Webアプリケーションペネトレーションテスト、継続的AIペネトレーション
cyberpress.org

GitHub Copilotのバックエンド、ワークフロー型ジェイルブレイクで安全でないコード出力を生成

新たに公表されたジェイルブレイクの一種は、単一の悪意あるプロンプトを作成する代わりに、通常のソフトウェア開発ワークフローを悪用することでGitHub Copilotの安全ガードレールを回避します。 Arxivが文書化し「ワークフローレベルのジェイルブレイク構築」と名付けたこの手法は、単一の直接的な敵対的リクエストで攻
techradar.com

「エージェント型コーディングツールは、必要なものすべてにアクセスできてしまう」——セキュリティ専門家、Claude Codeが悪用される危険性を警告

Claude Codeは危険なコマンドを、通常の復旧作業として扱いながら実行していました一つの偽のエラーメッセージが、隠された攻撃連鎖全体の引き金となっていました静的スキャナーやファイアウォールには、通常のDNS解決にしか見えませんでしたMozillaのセキュリティチームであるOdinチームの研究者たちは、開発者のデ