AIオーバービューの虚偽情報、Googleに責任あり——ドイツ裁判所が判決

ドイツの裁判所が、GoogleはAIオーバービューが生成した名誉毀損的な主張に対して直接責任を負うとの判決を下しました。要するに、AIの検索結果を必ず再確認するよう利用者に促しても、その内容に対する責任を免れるには不十分だと、裁判所は判断したのです。

ミュンヘン地方裁判所がGoogleに対して仮差し止め命令を発令したのは、2つのドイツの出版社が、AIオーバービューによって自社が詐欺や「疑わしいビジネス慣行」に関与しているかのように虚偽の内容で描写されていたことを発見したためです。リンク先の記事はそのような主張を裏付けるものではありませんでした。

この判決はドイツ国外にも大きな影響を与える可能性があります。裁判所はAIオーバービューが生成した名誉毀損的なコンテンツについて、Googleに直接の責任があると実質的に認定しました。また「あくまでAIなので、過信しないように」という従来の言い訳を退け、一点を明確にしています。自信ありげな形で個人や企業を中傷するシステムを構築した場合、その内容がAIによる「幻覚（ハルシネーション）」であったとしても、開発者は責任を問われる可能性があるということです。

AIオーバービューは無害な提案ではありません。今回の裁判では、裁判所はAIオーバービューをGoogleの「自己の発言」として扱い、それに伴う一切の法的責任をGoogleが負うとみなしました。

出版社が停止要求書を送付した後も、Googleは同様の主張が表示されないよう迅速に対応しませんでした。この点が判決において決定的な役割を果たしました。裁判所は、単にサードパーティのコンテンツを一覧表示するにすぎない従来の検索結果とは異なり、AIオーバービューは「独立した、新たな、実質的な主張」を生成すると指摘しました。

そして、これらの主張を生成するモデルとロジックを調整できるのはGoogleだけである以上、同一または類似の虚偽情報がシステムで繰り返されないよう確実に防止できるのもGoogleだけです。今回の裁判所はこの点を踏まえ、Googleに責任があると認定しました。

長年にわたり、検索エンジンはインターネット上の膨大なコンテンツをインデックス化する際、一部の有害なコンテンツは避けられないという論理のもとで広範な法的保護を享受してきました。検索結果を表示することは、その内容を支持することとは異なります。検索エンジンはあくまで情報の「仲介者」であり、「発行者」ではないというわけです。

しかし、AIオーバービューが事実を要約・言い換え、時には捏造した上で検索結果の最上部に表示するとなると、話は変わってきます。

AIオーバービューは検索機能の本質ではなく、あくまでオプション機能です。しかし、AIによる要約の魅力は素早く自信に満ちた回答を提示することにあり、それこそが危険な理由でもあります。その回答が誤っていても、多くのユーザーはソースをクリックして確認しないかもしれません。

この判決は仮のものであり、上訴される可能性もありますが、示されたシグナルは明確です。AI検索の出力結果は、法的責任を消し去る「魔法の粉」ではありません。大規模に展開され、新たなコンテンツを生成し、信頼されることを前提に設計されたシステムに対して、「誤りがある場合があります」という免責事項だけでは不十分かもしれません。

数字で見る実態

GoogleのAIオーバービューはGoogleのAIモデルであるGeminiによって動作しています。他のAIシステムと同様に、誤った情報や裏付けの乏しい情報を自信を持って回答することがあります。

ピュー・リサーチ・センターが数百人のユーザーの閲覧データを調査したところ、Google検索結果ページにAIオーバービューが表示されると、従来の検索結果へのクリック率が約15%から約8%に低下することがわかりました。

ニューヨーク・タイムズによるAIオーバービューの分析では、その正確さは約10回中9回程度であることが示されました。しかしGoogleが年間5兆件以上の検索を処理していることを考えると、わずかなエラー率でも数百万件の誤った回答につながる可能性があります。

しかも、こうした誤りは必ずしも情報源の問題に起因するわけではありません。Googleが正確な情報を含むページにリンクを貼っていても、AIが誤った回答を生成することがあるのです。正確とされた回答の半数以上は「根拠不十分（ungrounded）」に分類されており、AIオーバービューが引用したウェブサイトが、提供された情報を十分に裏付けていなかったことを意味します。

ここからの主な教訓は、AIの検索回答を必ず再確認することです。自信ありげに提示されリンクが付いているからといって、その回答を鵜呑みにしてはいけません。

AIシステムが検索ページで説得力があるように見えるだけで、ユーザーは実際の脅威へと誘導されたり、有効な防御策から遠ざけられたりする可能性があります。

自分自身や自社に関する虚偽または名誉毀損的なAI要約を発見した場合は、徹底的に記録してください。スクリーンショットを撮り、検索キーワードを保存し、修正依頼を申請し、プラットフォームの対応——あるいは無対応——の記録を残しましょう。

詐欺師はあなたをハッキングする必要はありません。一度クリックさせるだけでいいのです。

Malwarebytes Identity Theft Protectionは、問題になる前に不審なアクティビティを検知します。