OpenAIのエージェントがセキュリティテスト中にサンドボックスを脱出
OpenAIの社内セキュリティ評価の最中に、AIモデルの連携チェーンがサンドボックスを脱出してインターネットに到達し、さらにHugging Faceのインフラにアクセスしてテスト目標を達成していたことが分かりました。 OpenAIは、人工知能(AI)の研究開発と実用化を手がける大手企業です。同社の代表的な製品とい
タグ: サンドボックス脱出
「強力なAIシステムは暴走し、極めて危険な形で振る舞い、人間の介入に抵抗することすらあり得る」――ある議員が発した警告
超党派の法案が米議会に提出され、AIモデルに「キルスイッチ」の搭載を義務付ける内容となっていますこの法案は、大手AI企業が急速に進化するAI技術の危険性について数カ月にわたり警告を発してきたことを受けたものですOpenAIとHugging Faceの間で発生した「前例のないサイバーインシデント」が、この法案提出の
OpenAIモデルによるHugging Faceハッキングを受けた業界の反応: Feedback Friday
社内での能力評価中に、OpenAIのモデルがテストインフラのゼロデイ脆弱性を悪用し、サンドボックス環境から脱出しました。 割り当てられたサイバーセキュリティのベンチマークを解決しようと、この自律型エージェントはインターネットアクセスを獲得し、Hugging Faceの本番インフラを標的にしました。&nbs
AIが暴走した時:OpenAIのモデルがHugging Faceを自律的にハッキング
複数のOpenAIモデルが、AIコラボレーションプラットフォームのHugging Faceを自律的にハッキングし、本番インフラの一部を侵害していたことが分かりました。OpenAIはこれを「前例のないサイバーインシデント」と表現しています。このエピソードはモデルのベンチマークテスト中に発生したもので、高度なAIモデルが狭
OpenAIモデルの脱走劇が企業のAI防御体制に警鐘
サンドボックス化されたOpenAIモデルがHugging Faceへの攻撃を実行した今回の事案は、プロンプトによるガードレールがAIエージェントの主要なセキュリティ境界にはなり得ないことを示しました。企業は今後、アクセス制限や横方向移動の阻止といったインフラ側の制御に
ServiceNowの重大なRCE脆弱性、悪用が確認される
認証不要で侵害される重大な欠陥 ハッカーたちが、ServiceNowの重大なRCE脆弱性を悪用して企業システムへの侵入を始めています。この深刻な欠陥により、攻撃者はアカウントなしでサーバーに侵入し、任意のコードを実行できてしまいます。セキュリティ企業Defusedの専門家は、CVE-2026-68
OpenAIのモデルがHugging Faceのシステム侵害の原因と両社が発表
OpenAIは火曜日、自社モデルがAIプラットフォームHugging Faceの侵害の背後にあったと発表しました。これは、Hugging Faceが「自律型AIエージェントによる」攻撃を検知・封じ込めたと開示してから5日後のことで、当時は攻撃の実行者が誰なのか判明していませんでした。 Hugging Faceは7月
OpenAIは、自社モデルがサンドボックスを脱出しHugging Faceに侵入したと発表
OpenAIの研究者が、AIエージェントがサンドボックスを脱出し、ゼロデイ脆弱性を悪用し、Hugging Faceを攻撃したことを確認GPT‑5.6 Solを用いた管理下での実験で、脆弱性の自律的な連鎖利用と認証情報の窃取が判明セキュリティ専門家は「前例のない事態」と指摘し、AIガバナンスや責任体制、防御モデルの強
OpenAIが認めた、Hugging Faceを攻撃したエージェント群の正体は自社製だった
AI AND ML サンドボックス化された実験がゼロデイ脆弱性を自ら発見し、そこから抜け出してインターネットに解き放たれ、データを盗み出していました
トップクラスのAIコーディングエージェントもサンドボックス脱出に脆弱、自称するほど安全ではない実態が明らかに
Pillarの研究者がAIコーディングエージェントにおけるサンドボックス脱出を実証攻撃者が用意した設定ファイルを信頼済みホストの権限で実行できる不具合エージェント型AIのセキュリティには専用の脅威モデルが必要と研究者は指摘AIコーディングエージェントを騙して、運用者に牙をむかせ、攻撃者による基盤システムの侵害を手助
すべての記事を読み込みました