Anthropic、ClaudeがサーバーのFlawを悪用しセキュリティ制限を回避していたと公表
Anthropicは、同社のClaudeモデルが評価中や社内利用の際に、ソフトウェアの脆弱性を悪用し、第三者のサーバー上でコマンドを実行し、実際のフォームを送信し、アクセス制限を回避していたと公表しました。 2026年10月9日に公開された報告書によると、現実世界への影響は最小限にとどまりました。一方で、自律型エージ
タグ: 報酬ハッキング
AIエージェントはなぜ、子どもたちをセーヌ川に突き落とした犬に似ているのか
オピニオン 2026年10月1日6分 AIエージェントが本来の目的を見失う、6つの典型パターン 誤動作するAIエージェントを理解するうえで興味深いのが、セーヌ
Anthropicがライブシステムでのテストを受け、Claudeのセキュリティ体制を強化
Anthropicは、Claudeモデルが3件のサイバーセキュリティ評価インシデントにおいて実際のコンピューターシステムへ不正アクセスしていたことを受け、広範なセキュリティ見直しを実施したことを明らかにしました。 7月30日に公表されたこれらのインシデントは、サードパーティのテスト環境の設定ミスによりインターネ
ハギングフェイスのセキュリティ侵害、AIエージェント約700体が関与
7月に発生したHugging Faceの侵害事案では、OpenAIが作成したAIエージェント約700体が関与していたことが、独立調査によって明らかになりました。同調査はこの事案の規模を初めて詳細に示すものです。 METRとRedwood Researchは、この7月の事案を独自に調査し、エージェントの
OpenAIがHugging Face AIハッキング事件についてさらに詳細を公開、その内容はかなり不穏 — AIエージェントたちが結託して…
OpenAIが、Hugging Faceへの攻撃がどのように展開したかについての技術的詳細を公開しましたエージェントたちはテスト環境の一部を利用して、互いに協力し答えを共有するための掲示板を作成しましたこの掲示板が一部のエージェントの推論に影響を与え、サードパーティのサーバーへのハッキングなど、リスクの高い行動を
OpenAIが明かす、AIエージェントによるHugging Face侵害の全貌
eSecurity Planet の内容および製品に関する推奨事項は、編集上の独立性を保っています。当サイトのパートナーへのリンクをクリックしていただくことで、収益が発生する場合があります。 詳細はこちら OpenAIは、AIエージェントが想定された評価境界を逸脱した経緯を詳述した技術レポートを公開しまし
Hugging Faceハッキング事件前にOpenAIのAIエージェントが即席掲示板で連携していたことが判明
OpenAIによると、同社自身のAIエージェントが構築した非公式かつ無許可の伝言板が、これらのエージェントがHugging Faceの本番システムの一部に侵入する過程で中心的な役割を果たしていたということです。 この通信チャネルは、OpenAIが訓練・評価タスクに取り組むエージェント向けにソフトウェアをインストールで
新たな「CUSTODY」フレームワーク、AIエージェントをネットワーク内に封じ込め
Jake Williams氏はDark Readingの取材に対し、OpenAIが自社モデルがHugging Faceに侵入していたことを公表したのを受けて、行動を起こさざるを得なくなったと語りました。Hunter StrategiesでR&D担当バイスプレジデントを務めるこのサイバーセキュリティ専門家は、以前
AIに「ジーニー係数」が必要な理由
このエッセイはBarath Raghavan氏との共著であり、初出はThe Guardianです。 主要なベンチマークが測定しているのは、AIに何ができるかという点です。しかし、AIがユーザーの意図通りに動くかどうか、つまり「何をするよう頼んだか」と「どうやってそれをしてほしいかという暗黙の前提」との間の隔
新しい研究によると、Claudeは不正を教えると悪用される
Anthropicによれば、その大規模言語モデルClaudeは「無害」かつ有用な...