Copilot「SearchLeak」攻撃——ワンクリックでデータ窃取を可能にする新手口
研究者が「SearchLeak」と命名した新たなMicrosoft Copilot攻撃により、攻撃者はメール、会議メモ、OneDriveファイル、SharePointドキュメント、その他ユーザーがアクセス可能な業務ファイルを含む各種データを、ユーザーに気づかれることなく窃取できる可能性があります。 Varon
タグ: LLM脆弱性
AI赤チームエージェントがLLMテスト方法を変える
LLMの敵対的プロービングは過去3年間で広範なツールキットを蓄積してきました。Tree of Attacks with Pruning、Crescendo、Skeleton Keyなどの名前を持つ攻撃技術は、MicrosoftのPyRIT、NVIDIAのGarak、Promptfooを含むオープンソースフレームワーク
野生のAI脅威：ウェブ上のプロンプトインジェクションの現状
投稿者：Thomas Brunner、Yu-Han Liu、Moni PandeGoogleでは、脅威インテリジェンスチームが現実世界の敵対的活動に先手を打つために献身し、ユーザーに影響を与える可能性のある新興の脅威を積極的に監視しています。現在、間接プロンプトイ
研究者がAIエージェントを狙う10個の実運用環境でのプロンプトインジェクションペイロードを発見
セキュリティ研究者が、AIエージェントを狙う10個の新しい間接プロンプトインジェクション（IPI）ペイロードを発見しました。これらは詐欺、データ破壊、APIキー盗難など、悪意のある目的で設計された指示を含んでいます。 脅威者は、ウェブコンテンツを改ざんすることでIPIを実現します。エージェントがそのコンテンツをクロー
Agentic LLMブラウザがプロンプトインジェクションとデータ盗難の新たな脅威を展開
Agentic LLMブラウザは日常的なブラウジングを自動化されたAI駆動のワークフローに変えていますが、プロンプトインジェクションとデータ盗難のための強力な新しい攻撃面も露出しています。 AIに完全なセッション、クッキー、権限でブラウザを「操作」させることで、XSSのような古いバグが今や完全なエージェント乗っ取り
1行のコードで11のAIモデル（ChatGPT、Claude、Geminiを含む）をジェイルブレイク可能
「ソックパペッティング」と呼ばれる新たに発見されたジェイルブレイク技法が、ChatGPT、Claude、Geminiを含む11の主要な大規模言語モデル（LLM）のセーフティガードレールを1行のコードで回避できることを研究者が実証した後、AI セキュリティ分野全体で新たな懸念を引き起こしています。 この攻撃は、Tren
セキュリティ研究者がApple Intelligenceをユーザーに罵詈雑言を吐かせるようにトリックした。もっと悪くなる可能性があった
新型Mac、iPhone、その他のiThingsに統合されたパーソナルAIシステムであるApple Intelligenceは、プロンプトインジェクション攻撃を使用してハイジャックでき、モデルに攻撃者が制御する結果を生成させ、数百万ユーザーをリスクにさらすことができるとセキュリティ研究者が示しました。 Apple I
AI安全措置が防御者をより制約する時代
AI安全ガイドラインは正当なセキュリティ業務をますます遮断する一方で、攻撃者は簡...
Langflow CSVエージェントの脆弱性により、攻撃者が任意のコードを実行できる可能性
LLM（大規模言語モデル）を使用したアプリケーション構築に使用される人気のロー・...
AI生成パスワードはセキュリティリスク
人工知能（AI）を使ってパスワードを生成することは良いアイデアではありません。生...
すべての記事を読み込みました