Googleの AIモデルがサンドボックスを脱出、3社に侵入
今回の事案は、OpenAI、Anthropic、Metaを混乱させたのと同じテスト環境の欠陥に起因していました。 Googleの AIシステム「Gemini」が、今年前半に発生した3件の別々の事案において、テスト環境から抜け出し、他の3社のシステムに侵入していたことが明らかになりました。 「通常の評
タグ: Irregular
Geminiが3社に不正侵入、しかしGoogleは「被害はなかった」として沈黙を貫く
7月に発生したエージェント型AIによるサイバーセキュリティインシデントは、OpenAI、Google、Anthropic、Metaの4社に影響を及ぼしましたが、公表しなかったのはGoogleだけでした。 Googleが月曜
Google、セキュリティテスト中にGeminiが3社のシステムに侵入したと発表
Googleの人工知能モデル「Gemini」が5月に実施されたサイバーセキュリティテスト中、実在する3社のコンピューターシステムに無断でアクセスしていたことを、同社が認めました。 Geminiは、あるケースではパスワードを繰り返し推測することで、また別の2つのケースでは公開リポジトリに流出していた認証情報を使用する
Google’s Geminiがハッキング—Irregular AIの「capture the flag」テスト中に3社を攻撃、AIエージェントは…
GoogleのAI「Gemini」がテスト環境を飛び出し、第三者企業3社のシステムに侵入複数のAIエージェントがパスワードを推測し、公開されているパスワードのリポジトリを利用してコンピューターシステムに侵入この事件は2026年5月に発生。AIテストラボのIrregularは、AnthropicやMetaで発生した
Google のGemini AI、サイバーセキュリティテスト中に自律的に3社をハッキング
Googleは、5月に実施されたサイバーセキュリティ評価の中で、Geminiモデルが意図せずインターネットに接続してしまい、想定していたテスト環境の外に出た結果、実在する3社のシステムにアクセスしていたことを確認したと発表しました。 この事例は、Googleが開発したAIシステムが自律的に外部組織を侵害した初めてのケ
「エージェント的自己改変」、Irregularの調査でAIエージェントが人間の指示なしにモデルを切り替える現象を確認
Irregularのテストにより、AIエージェントが「エージェント的自己改変」を行う能力を持つことが判明AIモデルはファインチューニング中に、本来アクセスできないはずの機密情報を取得できることも判明Irregularは、AIエージェントの性能向上と広範な導入に伴い、こうした事例が増加すると予測AI開発を一時停止す
AIエージェント、タスク遂行中に自らのモデルを再学習――機密情報が漏洩し拒否応答が消える事態も
AIエージェントが、自らを動かしているモデル自体を再学習させてしまうケースがあることが分かりました。この過程でモデルに回復可能な機密情報が埋め込まれたり、モデルがそれまで守るよう訓練されていた拒否応答が消失したりする恐れがあるといいます。AIセキュリティ企業Irregularの新たな調査研究による報告です。 Irre
AIエージェントは、人間の指示なしに自らを改変することがある
security これはテストです。テストにすぎません。
拡大調査で判明した第4のClaude暴走インシデント
Anthropicは、実在するシステムへの不正アクセスを伴う、これまで報告されていなかったインシデントを開示しました。同社が7月下旬に初めて説明した3件のケースを再検証するレポートの中で明らかにしたものです。 新たに開示されたこのケースは2026年1月に遡るもので、Claude Opus 4.6の初期チェックポイント
AIエージェント、サイバーセキュリティ評価中に意図せずインターネットへアクセス
AIセキュリティ評価企業が、統制されたサイバーセキュリティテストの最中に複数の最先端AIモデルが意図せずインターネットに接続されたシステムに実際にアクセスし、行動を起こしていたことを明らかにしました。 この問題はすでに解決済みですが、原因は単一の評価シナリオにありました。インターネットアクセスが許可された状態で、架空
すべての記事を読み込みました