詩が新たなAIセキュリティの脅威に：マルウェア「PoeLLM」、3,000台超のサーバに感染
マルウェアを操る「詩」を武器にしたイタリア系とみられる攻撃者が、4月以降に3,000台以上のサーバに感染させました。企業のAIインフラに侵入して暗号通貨をマイニングし、乗っ取ったシステムを拡大中のボットネットに組み込んでいます。今回の事例は、有害なプロンプトを詩に変換してLLMを欺き、安全対策を回避させるAIのジェイ
タグ: ジェイルブレイク
Sony PS5「Relapse」ジェイルブレイク、JSCのメモリ破壊とカーネルUAFを悪用
新たに公開されたPlayStation 5向けのジェイルブレイクチェーン「Relapse」は、ファームウェアバージョン7.00～13.60を実行しているPS5およびPS5 Proを標的とします。 このジェイルブレイクは、ブラウザベースのJavaScriptCoreメモリ破壊手法と、カーネルのuse-after-fre
PS5「Relapse」ジェイルブレイク、WebKitとカーネルの脆弱性を連鎖させ読み書きアクセスを獲得
新たに公開された概念実証（PoC）「Relapse-Exploit」は、ファームウェアのバージョン7.00から13.60を搭載したPlayStation 5を標的にしています。ブラウザ経由のWebKit侵害とカーネルのUse-After-Free（UAF）脆弱性を連鎖させ、カーネルレベルの読み書きアクセスを取得します
「酔った」AIは秘密を守れない
酔っ払いのような文章を書くよう学習させたAIモデルは、ジェイルブレイク(脱獄)されやすくなり、内密に共有された秘密を漏らしやすくなることがわかりました。これは、シドニーにあるニューサウスウェールズ大学(UNSW)のAnudeex Shetty氏、Aditya Joshi氏、Salil Kanhere氏
新ツール「CAIRN」、AIモデルを悪用してサイバー攻撃を自動化するマルウェアを追跡
Cisco Talosは、攻撃チェーンに人工知能を組み込んだマルウェアをハンティング・分類・追跡するために設計されたオープンソースの研究ツールキット「CAIRN(Cognitive Artifact Intelligence Research Network)」を公開しました。 このツールは、ある新しい発想に基づいて
Salt Security、エージェント型セキュリティプラットフォームにAIネイティブの検知・対応機能を追加
Salt Securityは、大規模言語モデル(LLM)を標的とした攻撃をMCPサーバー、ツール、API群にわたるその後の活動と結びつけて検知するために設計されたAI Detection and Response(AI-DR)機能を、自社のAgentic Security Platformにネイティブ
AIは本当に人間の管理下から逃れようとしたのか
AI開発を減速させるべきかという議論が続くなか、Telegraph紙は次のような見出しを掲げました。 「OpenAI、ボットが人間の管理下からの脱走を試みたことを受けて警鐘」 筆者の見解では、この見出しはやや誤解を招く表現です。実際に起きたことに比べて大げさに書かれていますが、その根底にある挙動自体は確かに懸
OpenAIのモデル、トレーニング中にGitHubで漏洩APIキーを検索していたと判明
OpenAIは水曜日、モデルの不整合(ミスアライメント)事例を報告するためのフレームワークを公表するとともに、過去6カ月間に観測された問題行動に関する6件のレポートを公開しました。 同社は発表の中で、このフレームワークは不整合の調査結果を迅速に公開することを目的としており、完全には原因を解明できていない、あるいはまだ
AIエージェントが多段階のデータ窃取攻撃を実行
スペインのデータ保護当局が、同国で初となるエージェント型AIによる個人データ侵害事案を報告しました。 スペインデータ保護庁(AEPD)長官のフランシスコ・ペレス・ベス氏は、9月14日の投稿でこのニュースを明らかにしました。 同氏によると、「既知の言語モデル」を使用するエージェントが「汎用ファイル」のスキャン
スペイン当局に報告された初のエージェント型AIによるデータ侵害
スペインデータ保護庁(AEPD)は、AIエージェントによって設計上実行された個人データ保護侵害の通知としては初となる事例の詳細を公表しました。 この攻撃に関する調査は現在も継続中であり、AEPDは表現を慎重に選んでいます。とはいえ、AIを活用した攻撃(ディープフェイク、フィッシングメールの作成、自動化による攻撃の拡大
すべての記事を読み込みました