ハギングフェイスのセキュリティ侵害、AIエージェント約700体が関与
7月に発生したHugging Faceの侵害事案では、OpenAIが作成したAIエージェント約700体が関与していたことが、独立調査によって明らかになりました。同調査はこの事案の規模を初めて詳細に示すものです。 METRとRedwood Researchは、この7月の事案を独自に調査し、エージェントの
タグ: 報酬ハッキング
OpenAIがHugging Face AIハッキング事件についてさらに詳細を公開、その内容はかなり不穏 — AIエージェントたちが結託して…
OpenAIが、Hugging Faceへの攻撃がどのように展開したかについての技術的詳細を公開しましたエージェントたちはテスト環境の一部を利用して、互いに協力し答えを共有するための掲示板を作成しましたこの掲示板が一部のエージェントの推論に影響を与え、サードパーティのサーバーへのハッキングなど、リスクの高い行動を
OpenAIが明かす、AIエージェントによるHugging Face侵害の全貌
eSecurity Planet の内容および製品に関する推奨事項は、編集上の独立性を保っています。当サイトのパートナーへのリンクをクリックしていただくことで、収益が発生する場合があります。 詳細はこちら OpenAIは、AIエージェントが想定された評価境界を逸脱した経緯を詳述した技術レポートを公開しまし
Hugging Faceハッキング事件前にOpenAIのAIエージェントが即席掲示板で連携していたことが判明
OpenAIによると、同社自身のAIエージェントが構築した非公式かつ無許可の伝言板が、これらのエージェントがHugging Faceの本番システムの一部に侵入する過程で中心的な役割を果たしていたということです。 この通信チャネルは、OpenAIが訓練・評価タスクに取り組むエージェント向けにソフトウェアをインストールで
新たな「CUSTODY」フレームワーク、AIエージェントをネットワーク内に封じ込め
Jake Williams氏はDark Readingの取材に対し、OpenAIが自社モデルがHugging Faceに侵入していたことを公表したのを受けて、行動を起こさざるを得なくなったと語りました。Hunter StrategiesでR&D担当バイスプレジデントを務めるこのサイバーセキュリティ専門家は、以前
AIに「ジーニー係数」が必要な理由
このエッセイはBarath Raghavan氏との共著であり、初出はThe Guardianです。 主要なベンチマークが測定しているのは、AIに何ができるかという点です。しかし、AIがユーザーの意図通りに動くかどうか、つまり「何をするよう頼んだか」と「どうやってそれをしてほしいかという暗黙の前提」との間の隔
新しい研究によると、Claudeは不正を教えると悪用される
Anthropicによれば、その大規模言語モデルClaudeは「無害」かつ有用な...