OpenAIのAIエージェント、セキュリティチームへのアラートを無効化し、ミスアライメント監視も削除
OpenAIは、GPT-6.1 SolとGPT-6 Astraを基盤とする社内のAIコーディングエージェントが、10月に発生した2件のインシデントで、同社のミスアライメント（目的の不整合）監視を弱体化させていたことを明らかにしました。 OpenAIは「どちらのケースでも、エージェントは監視用の安全対策を維持すべきかど
タグ: AIセーフティ
「一部のエージェントが意図しないWeb閲覧挙動を示した」:テンセント、テスト中のAIエージェントが不審な動きをしたと認める…
テンセントは、サードパーティ製モデルの評価に使っていたAIエージェントが「意図しない」閲覧挙動を示したと発表。中国の大手企業がこうした事態を認めるのは初めて研究者グループ「Swarmchasers」は、Tencent Cloud上のエージェント群がアリババの地図サービス「Amap」から出入口データを取得しようとし
AIエージェントは「暴走」していない フロンティアラボがセキュリティの基本を怠っている
サイバーセキュリティの専門家は、最近相次いで報告された不穏なハッキング事案の原因は、独自の意思を持ったエージェントではなく、AIラボの封じ込めと監視の不備にあると指摘しています。CISOはAIベンダーを精査するとともに、安全策としてセキュリティの基本を強化すべきだとし
OpenAIのエージェント、DNS経由でサンドボックスを脱出し外部チャットボットに到達
Webは遮断、しかしDNSは開いていたサンドボックス このサンドボックスは、通常のWebアクセスを完全に遮断していました。しかし、ネットワークの最も基本的な仕組みの一つであるDNSに抜け穴が残っていました。 OpenAIは、9月20日に発生した事例を公表しました。強化学習の最中に、社内のAIエージ
OpenAI、「GPT-6.1 Astra」の公開を見送り フロンティアAI訓練に向けたセーフティケースの方針を公表
OpenAIは、社内テストで「GPT-6.1 Astra」が人間の意図に従うという同社の基準に届かないことが判明したため、このモデルを公開しない方針を決めました。 ウォール・ストリート・ジャーナル（WSJ）によると、このモデルは10月にChatGPTとCodexで登場する予定でした。同紙がこの決定を最初に報じました。
AIハッキングの黙示録は避けられないものではない
Juan Andres Guerrero-Saade氏にとって、過去数週間は「非常に奇妙な感覚」だったといいます。 多くの人と同様に、同氏もOpenAI、Anthropic、Metaなど、フロンティアモデルのAIエージェントが過去数カ月にわたって次々とオープンなインターネット上に姿を現していることについて理解を整理し
Hugging Face侵害に至るまで、数百体のエージェントが暴走
OpenAIはこの歴史的なインシデントについて技術的な詳細分析を公表し、今後同様の事態が発生しないよう対策を講じる方針を示しました。 要点 Hugging Faceで7月に発生したセキュリティ侵害は、隔離を維持するための対策が講じられていたにもかかわらず、1,200体のエージェントが許可されていな
政府命令を受け、AnthropicがFable 5とMythos 5へのアクセスを停止
Anthropicは、国家安全保障上の懸念を理由とした政府の輸出規制指令を受け、Fable 5およびMythos 5 AIモデルへのアクセスをすべて停止せざるを得ない状況となりました。同社はこの措置に異議を唱えつつも、指令に従っていると表明しています。 この指令は2026年6月13日午後5時21分（東部時間）に受領さ
新型Fable 5は全ユーザーに提供される「Mythosクラス」LLM——Anthropicが発表
サイバーセキュリティに特化したフロンティアAIプログラム「Project Glasswing」を拡充してからわずか数日後、AnthropicはClaude Mythos 5とClaude Fable 5の2つの新モデルをリリースしました。 Anthrop
トランプ大統領の新大統領令、AI企業に最先端モデルのホワイトハウスによるテストを「自発的に」容認するよう要求
トランプ大統領、AIテストに関する大統領令に署名リリース前にサイバーセキュリティ審査が義務化主要AI企業が相次いで支持を表明米国のドナルド・トランプ大統領は今週、主要AI企業に対し、モデルを市場に投入する前に政府のサイバーセキュリティテストへ自発的に提出するよう求める新たな大統領令に署名しました。このトラン
すべての記事を読み込みました