- GoogleのAI「Gemini」がテスト環境を飛び出し、第三者企業3社のシステムに侵入
- 複数のAIエージェントがパスワードを推測し、公開されているパスワードのリポジトリを利用してコンピューターシステムに侵入
- この事件は2026年5月に発生。AIテストラボのIrregularは、AnthropicやMetaで発生した事件と「同一の問題」が原因だったと説明
Googleの「Gemini」が、MetaやAnthropic、OpenAIと並んで、テストが不正な侵入行為に発展した事例を起こしたAIモデルの一つに加わりました。
AIラボのIrregularが実施したcapture-the-flagテストの最中、Googleのモデルはパスワードを推測し、公開されているパスワードリポジトリをオンラインで利用することで、第三者企業3社のコンピューターシステムに自律的にアクセスしていました。
Googleによると、この事件が発生したのは2026年5月とのことです。これは、7月初旬に発生した他の事件よりも早い時期に、AIモデルがテスト環境から逸脱した事例となる可能性があります。
先走ったGoogleのGemini
Googleのセキュリティエンジニアリング担当バイスプレジデントであるHeather Adkins氏は、声明の中で次のように述べています。「標準的な評価の中で、このモデルはオンライン上の公開情報を発見し、テストの一部だと判断したウェブサイトにアクセスするために認証情報を推測しました。今回の3件のケースはいずれも、モデル自身がその時点で行動を停止しています」
Googleはまた、テスト環境に存在したバグが原因で、エージェントがインターネットにアクセスできる状態になっていたと指摘しています。他のAI開発企業が公表した事例とは対照的に、Googleのエージェントはテスト環境の外にある企業システムにアクセスしたと判断した時点で、侵入行為を自ら停止しました。
今回のテストを実施していたのは、イスラエルのAIラボであるIrregularです。同社は7月に発生したAIテストの逸脱事件においても、MetaとAnthropicのモデルのテストを担当していました。
「これはすでに報告済みの問題と同一のものであり、実質的に別個のインシデントというわけではありません」と、Irregularの広報担当者はCNBCを通じた声明で述べています。「関係する各AIラボには7月下旬に通知が行われ、調査の一環として影響を受けた企業にも連絡を取りました」
Googleは、Irregularからこの事件について通知を受けたのは7月下旬だったとしています。
AIの安全性を巡る議論が過熱
AIテストの逸脱事件が最初に公表され、その後も直近の複数の事件が明らかになったことは、AIへの反対論の高まりや、AIが争点の一つとなっているアメリカの中間選挙を控えた時期と重なっています。
現在繰り広げられている議論の焦点は、AI開発のペースを誰が制御すべきかという点です。Nvidiaの最高経営責任者(CEO)であるJensen Huang氏をはじめとする大手テック企業の一部の指導者は、トランプ大統領の見解に足並みを揃えています。トランプ氏は最近、AI開発のペースを緩めることは許されないとして、「AI競争を制する者がすべてを制する!」と述べています。
Huang氏の見解もこれに近いものです。同氏は、AI企業は外部からの監督に従うのではなく、自らのペースを保つべきだと主張しています。Dreamforce 2026では、「できる限り速く突き進んでほしい……ただし、もし会社が制御不能になっていると感じたり、製品の安全性に疑問を持ったりする瞬間があれば、いったん立ち止まり、きちんと対処してほしい」と語りました。
一方、AnthropicのDario Amodei氏やOpenAIのSam Altman氏といった他のAI企業のトップは、より慎重な姿勢を示しています。Anthropicのある研究者が退職したことを受け、Amodei氏は「フロンティアのペース配分」を支持するエッセイを発表しました。これは、AI企業が開発速度を落としてアラインメントや規制への対応を進めるべきだという主張です。
多くの政治活動委員会(PAC)がAI推進派の候補者に数百万ドル規模の資金を投じています。Nvidiaも独自のPACを設立し、自社に有利な形で米国の政策を動かそうとしています。
これまでAI推進派だったデータセンター誘致の候補者の中にも、有権者の姿勢の変化を受けて態度を軟化させる動きが出ています。有権者のAI技術への反発は強まる一方です。また、多くの州が数十億ドル規模の税収減を目の当たりにし、AIデータセンター向けの税制優遇措置を撤回する動きも出ています。
物価が上昇し、イラン戦争の影響で燃料価格も上昇を続ける中、労働者階級のコミュニティもAIデータセンターへの反対で結束を強めています。データセンターは、既存の供給能力に制約がある地域で新たな送電網接続とかつてない電力需要をもたらし、エネルギーコストや電気料金を押し上げてきました。
