Google Chrome「ミラーディメンション」、AIエージェントを安全にテスト

AIブラウザエージェントは、人々のウェブの使い方を大きく変えつつあります。ユーザーの安全を守るため、Chrome AI Securityは、エージェントを安全にテストするための「Google Chromeミラーディメンション」を構築しました。この模擬的なウェブ空間では、現実世界のリスクを一切負うことなく、Chromeの自動ブラウズツールをテストできます。さらに、実際のウェブ上の脅威に対して、組み込みの防御機能がどこまで有効に機能するかも検証できます。

実際のウェブでAIエージェントをテストするには、大きなリスクが伴います。公開ウェブは刻一刻と変化するため、クリーンな条件でのテスト実行が成り立ちません。しかも、AIツールにオープンなウェブアクセスを与えれば、現実の被害を招きかねません。Chrome AI Securityは次のように説明しています。「こうした保護機能を検証し強化するため、Chromeは、エージェントを安全にテストするためのウェブの合成版『ミラーディメンション』を作成しました」

サンドボックスとプロキシでブラウザを欺く仕組み

高性能なAIモデルは、自分が偽のテスト環境にいることを見抜くことがあります。偽のウェブ名を見つけると、行動を変える可能性があるのです。そこでChromeのミラーディメンションでは、エージェントがYouTubeなど本物のウェブリンクにアクセスできるようにしています。裏側では、ヘッドレスブラウザが隔離されたgVisorサンドボックス内で動作しています。

このサンドボックスは、すべてのウェブトラフィックを公開インターネットに出る前に捕捉します。代わりに、ローカルプロキシがそれらのリクエストを、オンサイトに保管された偽サイトへ振り向けます。ただし、Chromeは通常、攻撃を防ぐためにこの種のトラフィックのすり替えをブロックします。有効な信頼チェーンがなければ、ブラウザは致命的なTLSエラーを表示してしまいます。

カスタム証明書をその場で発行

この仕組みを成立させるため、ローカルプロキシはTLSリーフ証明書をその場で生成します。これらの証明書は、サンドボックス内に保管されたカスタムルートCAにひもづいています。gVisor環境はGoogleが運用しているため、起動時にこのルート鍵を安全に追加できます。その結果、Chromeは偽のページをどれも、信頼性の警告なしで読み込みます。

大規模な合成ウェブの構築

偽のウェブは、サイトが本物らしく内容も豊富でなければ機能しません。平板なページでは、長時間のタスクの中で高性能なモデルに見破られてしまいます。そこでChromeは、AIサブエージェントのチームを構築し、数百もの充実したウェブアプリをコーディングさせました。人間が短いプロンプトを書くだけで、エージェントがサイト全体を作り上げます。

この構築ループは、作業を3つのAIの役割に分担します。まずリサーチエージェントが、カートやクーポンといったサイトの機能を計画します。次にビルダーエージェントが、HTML、CSS、JavaScriptのコードを書きます。最後にクリティックエージェントが、Chrome DevTools for Agentsを使って稼働中のサイトをテストします。ボタンをクリックし、ログを確認し、スクリーンショットを見ることで、バグを素早く見つけ出します。このループは、速度よりもサイトの品質を優先しています。

プロンプトインジェクションに対する動的なレッドチーミング

Chromeミラーディメンションのあらゆる層を自社で掌握していることが、ウェブ攻撃への対策に役立っています。大きな脅威の一つがプロンプトインジェクションで、攻撃者がウェブページに罠を仕掛けます。エージェントはテキスト、画像、コードを読み取るため、罠はさまざまな場所に潜めます。そのためChromeのサンドボックスサーバーは、テキスト、画像、ARIAラベル、WebMCPツールの応答にテスト用ペイロードを埋め込みます。

当初、チームはテスト用ペイロードのキーを通常のURL文字列の中に含めて渡していました。しかし、高性能なモデルはその不自然なURLタグに気づき、テスト中であることを見抜いてしまいました。現在、サンドボックスはX-Sandbox-Injection-Keyなどの隠しHTTPヘッダーを使って攻撃を発動させています。これにより、ウェブリンクはエージェントにとって自然で本物のままに保たれます。

エージェントの安全性研究に大きな効果

この巧みな仕組みにより、セキュリティ作業は大幅に加速しました。チームは次のように述べています。「当社の自動化されたレッドチーミングパイプラインは『ミラーディメンション』を用いて、最も優秀なエンジニアたちのアイデアを多様なサイトでテストし、改良しています。セキュリティエンジニア1人あたり、毎日1,000件を超えるテスト候補を着実に生み出しています」。この生産量は、手作業によるテストの30倍以上の速さです。

今後Chromeは、この仕組みをコーディングエージェントにも活用する計画です。AIツールの普及に伴い、安全なテスト環境は安全性対策の標準になっていくでしょう。Google Chromeのミラーディメンションは、AI防御の新たな基準を打ち立てたといえます。実際の脅威が襲来する前にブラウザを堅牢化するための、安全な空間をチームに提供します。

翻訳元: https://meterpreter.org/google-chrome-mirror-dimension/

本記事は meterpreter.org の記事を翻訳・要約したものです。