Langflowを悪用したエージェント型AIによるランサムウェア攻撃
脅威アクターがLangflowの脆弱性を悪用して組織のインスタンスに侵入し、エージェント型ランサムウェア攻撃に悪用していたことが、クラウドセキュリティ企業Sysdigの報告で明らかになりました。 Langflowは、LLM駆動のアプリケーションやエージェントワークフローの構築に使われる、PythonベースでLLMに依
タグ: LLM脆弱性
ChatGPTの機密情報漏洩の欠陥、ファイルダウンロード機構を悪用
ChatGPTにはすでに修正済みの脆弱性が存在し、ガードレールのバイパスとパストラバーサルの欠陥を組み合わせることで、OpenAIのサンドボックス実行環境内でローカルファイルインクルージョン(LFI)を実現できる状態にありました。 zer0dacというハンドルネームで活動する研究者は、この問題をOWASP LLM02
企業は製品へのAI搭載を続けているが、そのセキュリティのツケが回ってきた
企業はAIやLLM機能を製品に組み込み続けており、そのセキュリティ面での影響がパターンとして見え始めています。こうした機能が生み出す脆弱性は、他のあらゆる種類と比べてはるかに高い頻度で高リスクと評価されており、修正にかかる時間も最も長くなっています。この数字はCobaltのAI and Pentest
Copilot「SearchLeak」攻撃——ワンクリックでデータ窃取を可能にする新手口
研究者が「SearchLeak」と命名した新たなMicrosoft Copilot攻撃により、攻撃者はメール、会議メモ、OneDriveファイル、SharePointドキュメント、その他ユーザーがアクセス可能な業務ファイルを含む各種データを、ユーザーに気づかれることなく窃取できる可能性があります。 Varon
AI赤チームエージェントがLLMテスト方法を変える
LLMの敵対的プロービングは過去3年間で広範なツールキットを蓄積してきました。Tree of Attacks with Pruning、Crescendo、Skeleton Keyなどの名前を持つ攻撃技術は、MicrosoftのPyRIT、NVIDIAのGarak、Promptfooを含むオープンソースフレームワーク
野生のAI脅威：ウェブ上のプロンプトインジェクションの現状
投稿者：Thomas Brunner、Yu-Han Liu、Moni PandeGoogleでは、脅威インテリジェンスチームが現実世界の敵対的活動に先手を打つために献身し、ユーザーに影響を与える可能性のある新興の脅威を積極的に監視しています。現在、間接プロンプトイ
研究者がAIエージェントを狙う10個の実運用環境でのプロンプトインジェクションペイロードを発見
セキュリティ研究者が、AIエージェントを狙う10個の新しい間接プロンプトインジェクション（IPI）ペイロードを発見しました。これらは詐欺、データ破壊、APIキー盗難など、悪意のある目的で設計された指示を含んでいます。 脅威者は、ウェブコンテンツを改ざんすることでIPIを実現します。エージェントがそのコンテンツをクロー
Agentic LLMブラウザがプロンプトインジェクションとデータ盗難の新たな脅威を展開
Agentic LLMブラウザは日常的なブラウジングを自動化されたAI駆動のワークフローに変えていますが、プロンプトインジェクションとデータ盗難のための強力な新しい攻撃面も露出しています。 AIに完全なセッション、クッキー、権限でブラウザを「操作」させることで、XSSのような古いバグが今や完全なエージェント乗っ取り
1行のコードで11のAIモデル（ChatGPT、Claude、Geminiを含む）をジェイルブレイク可能
「ソックパペッティング」と呼ばれる新たに発見されたジェイルブレイク技法が、ChatGPT、Claude、Geminiを含む11の主要な大規模言語モデル（LLM）のセーフティガードレールを1行のコードで回避できることを研究者が実証した後、AI セキュリティ分野全体で新たな懸念を引き起こしています。 この攻撃は、Tren
セキュリティ研究者がApple Intelligenceをユーザーに罵詈雑言を吐かせるようにトリックした。もっと悪くなる可能性があった
新型Mac、iPhone、その他のiThingsに統合されたパーソナルAIシステムであるApple Intelligenceは、プロンプトインジェクション攻撃を使用してハイジャックでき、モデルに攻撃者が制御する結果を生成させ、数百万ユーザーをリスクにさらすことができるとセキュリティ研究者が示しました。 Apple I
すべての記事を読み込みました