当面の間、すべてのAIブラウザをブロックすべき：ガートナー

アナリスト企業ガートナーによると、エージェント型ブラウザはほとんどの組織にとって利用するにはリスクが高すぎる。

同社は先週、「当面、サイバーセキュリティはAIブラウザをブロックしなければならない（Cybersecurity Must Block AI Browsers for Now）」と題した新たなアドバイザリを発表し、その中でリサーチVPのDennis Xu氏、シニアディレクターアナリストのEvgeny Mirolyubov氏、VPアナリストのJohn Watts氏は「AIブラウザのデフォルト設定は、セキュリティよりもユーザー体験を優先している」と指摘している。

アナリストらによるAIブラウザの定義には、PerplexityのCometやOpenAIのChatGPT Atlasのような、次の2つの要素を備えたツールが含まれる：

• ブラウザ開発元が提供するAIサービスを用いて、ユーザーがウェブコンテンツの要約、検索、翻訳、対話を行える「AIサイドバー」
• 特に認証済みウェブセッション内で、ブラウザが自律的にウェブサイトをナビゲートし、対話し、タスクを完了できるエージェント型トランザクション機能。

• ガートナーの文書は、AIサイドバーについて「アクティブなウェブコンテンツ、閲覧履歴、開いているタブなどの機密ユーザーデータが、クラウドベースのAIバックエンドに送信されることが多く、セキュリティおよびプライバシー設定を意図的に強化し集中管理しない限り、データ露出のリスクが高まる」と警告している。

  同文書は、AIブラウザを支えるバックエンドAIサービスを評価し、そのセキュリティ対策が自組織にとって許容可能なリスク水準かどうかを理解することで、これらのリスクを軽減することは可能だと示唆している。

  そのプロセスの結果、ブラウザのバックエンドAIの利用が承認されたとしても、ガートナーは組織に対し、「ユーザーが閲覧しているあらゆるものがAIサービスのバックエンドに送信され得ることを理解させ、AIブラウザのサイドバーを使って要約やその他の自律的な処理を行っている間は、ブラウザタブ上で極めて機密性の高いデータをアクティブにしないよう教育する」べきだと助言している。

  しかし、バックエンドAIがリスクが高すぎると判断した場合、ガートナーはユーザーによるAIブラウザのダウンロードやインストールをブロックすることを推奨している。

  ガートナーがAIブラウザのエージェント機能を懸念する理由は、それらが「間接的なプロンプトインジェクションによって引き起こされる不正エージェント行動、不正確な推論に起因する誤ったエージェント行動、そしてAIブラウザがフィッシングサイトへ自律的に誘導されることで発生する、さらなる認証情報の損失と悪用」に対して脆弱であるためだ。

  著者らはまた、従業員が「必須だが反復的で退屈なタスクを自動化するためにAIブラウザを使いたくなる」可能性を示唆し、中にはAIブラウザに対し、自身の必須サイバーセキュリティトレーニングの受講を完了するよう指示するケースも想像している。

  さらに彼らは、エージェント型ブラウザを社内の調達ツールに接続し、その結果としてLLMがミスを犯し、組織が望まない、あるいは必要としないものを購入してしまうシナリオも検討している。

  「フォームに誤った情報が入力されるかもしれないし、間違ったオフィス用品が注文されるかもしれない……あるいは誤ったフライトが予約されるかもしれない」と彼らは想定する。

  ここでもアナリストらは、エージェントがメールを利用できないようにするなど、いくつかの緩和策を推奨している。そうすることで、エージェントが実行可能なアクションの範囲を制限できるからだ。また、AIブラウザがデータを保持できないようにする設定を用いることも提案している。

  しかし総じて、この3人のアナリストは、リスクアセスメントを実施することなくAIブラウザを利用するのは危険すぎると考えており、その作業を経たとしても、おそらくは長大な禁止ユースケースのリストと、それに基づくポリシーを順守させるためのAIブラウザ群の監視という仕事が残るだろうと示唆している。®

関連記事