Google、新たなAIバグ報奨金プログラムで最大2万ドルを提供

Googleは今週、2023年に拡張されたAbuse VRPを基盤とし、自社のAIシステムに関する問題や脆弱性を対象とした新しい専用のAI脆弱性報奨金プログラム（VRP）を発表しました。

これまでに、バグハンターはAI製品関連の脆弱性に対して43万ドル以上の報奨金を獲得しており、新しいVRPはその勢いを受けて、参加研究者からのフィードバックをもとに形作られています。

新しいAIバグ報奨金プログラムの最も重要な側面の一つは、プロンプトインジェクション、ジェイルブレイク、アライメント問題が対象外であることです。しかし、Googleは研究者にこれらのコンテンツ関連の問題も報告するよう推奨しています。

「私たちは、脆弱性報奨金プログラムがコンテンツ関連の問題に対処するための適切な形式だとは考えていません。VRPの主な目的は、研究者がセキュリティ脆弱性や悪用の問題をGoogleに直接報告し、その報告を促すためにタイムリーで価値ある報奨金を提供することです」とGoogleは説明しています。

Googleによれば、すべてのGoogle AI製品には、コンテンツベースの問題を報告するための機能が組み込まれています。こうした報告には、使用したモデル、コンテキスト、その他のメタデータに関する情報を含める必要があります。

ただし、AI VRPの範囲内では、被害者のアカウントやデータの改ざん、ユーザーの承認なしに機密情報が漏洩する攻撃、モデルパラメータの流出、被害者のAI環境の持続的な操作、データの流出、認可なしにサーバーサイド機能を有効化する攻撃、または持続的なサービス拒否（DoS）を引き起こす攻撃が含まれています。

また、「ユーザー生成コンテンツ」の警告なしにGoogleブランドのサイトでHTMLコードを持続的かつクロスユーザーで注入し、フィッシングを可能にする攻撃も、説得力のある攻撃ベクトルとみなされる場合は対象となります。

プログラムの一環として、GoogleのAI製品は3つの階層に分けられています。フラッグシップ（Google検索、Workspaceコアアプリ、Gemini AppsのAI機能を含む）、スタンダード（AI Studio、Jules、Google Workspace非コアアプリのAI機能）、その他（特定の例外を除くGoogle製品内のその他のAI統合）です。

新しいVRPで提供される最高額の報奨金は、フラッグシップ製品において被害者のアカウントやデータの改ざんにつながる攻撃に対して2万ドルです。スタンダード製品で同様の攻撃があった場合、研究者は最大1万5,000ドルの報奨金を得ることができます。

フラッグシップおよびスタンダード製品からの機密データ流出に対する最高報奨金は1万5,000ドルです。「その他」階層の製品でこれらの問題を発見した研究者は、最大1万ドルの報奨金を得ることができます。

「今後は、統一された報奨金審査パネルがすべての報奨金を審査し、悪用およびセキュリティテーブル全体で可能な限り最高額の報奨金を支給します」とGoogleは述べています。

AI VRPの追加情報は、プログラムのルールページで確認できます。