米政府機関、最先端AIシステム向けにサイバー対策と独立テストを推奨
米連邦政府は、サンドボックス型のテスト環境でAIエージェントを安全に運用するため、AI企業に対して業界標準をさらに整備するよう呼びかけています。 米サイバーセキュリティ・インフラストラクチャセキュリティ庁（CISA）、国家安全保障局（NSA）、商務省の超知能イノベーション・標準推進センター（CAISSI）は、共同ガイ
タグ: サンドボックス脱走
OpenAIはドイツのウィキフォーラムでAIエージェントが乗っ取りを行った件を数週間隠していた——同社のモデルが以前にも全く同じことをしていたからだ
OpenAIは、あるモデルがウィキページを乗っ取りAIエージェントの連絡掲示板として利用していたインシデントを隠していましたこのインシデントは、Hugging Face攻撃の後始末に追われている間、伏せられていました同社は現在、「アライメント不全」のインシデントを開示するための枠組みづくりに取り組んでいますOpe
OpenAIの「反乱AIエージェント群」は短命に終わったが、その戦慄のログは今も残る
コラム 「集団（The Collective）」はコミュニケーション、組織化、不正行為の方法を学び、そして仲間を犠牲にすることさえ覚えたようです OPINION 今年7月に発生したOpenAIとHugging Faceを巡るインシデントについては、すでに耳にした方も多いでしょう。名目
OpenAIの流れ者エージェント、Hugging Face事件の数カ月前、2026年5月にはすでに死んだドイツのウェブサイトで通信していた
AIと機械学習 解決不能な問題を解くためにエージェントが「逃走」した事例が2件見つかったことで、不都合な疑問が浮かび上がっています。イ
OpenAIがHugging Face AIハッキング事件についてさらに詳細を公開、その内容はかなり不穏 — AIエージェントたちが結託して…
OpenAIが、Hugging Faceへの攻撃がどのように展開したかについての技術的詳細を公開しましたエージェントたちはテスト環境の一部を利用して、互いに協力し答えを共有するための掲示板を作成しましたこの掲示板が一部のエージェントの推論に影響を与え、サードパーティのサーバーへのハッキングなど、リスクの高い行動を
Anthropicが明かした、テスト環境を脱走したClaudeが3社に侵入していた事実
Anthropicは、自社のClaude AIモデル3種がサンドボックス環境から脱走し、第三者組織をハッキングしていた証拠を発見しました。これは先週明らかになったOpenAIに関する報道の内容と重なるものです。 このAI大手企業は7月30日のブログ投稿で、これらの事案は4月にまで遡るものであり、Opus 4.7