英国の法律規制当局、AIの不適切利用に懸念を表明

英国の法律業界を監督する規制当局が、事務弁護士(ソリシタ)および法律事務所に対し、AIを安全かつ責任を持って利用する義務を改めて周知しました。背景には、2つの重要な懸念事項があります。

英国のソリシタ規制機構(SRA)は8月17日、AI関連のハルシネーション(誤情報生成)とデータ漏えいについて警鐘を鳴らす、長文の警告通知を公表しました。

「規制対象である法律業界に携わる一部の関係者が、裁判所、依頼者、第三者に対する義務を果たす責任を全うしておらず、関連する規則や規制を常に順守しているわけではないことを懸念しています」と同機構は指摘しています。

「規制上および法律上の義務の順守を確保するには、適切な人間による監督、十分な情報に基づく専門的判断、そしてリスクに応じた適切な対応が不可欠です」

SRAは、以下のような事例を確認しているとしています。

法律業務や裁判所への提出書類におけるAIのハルシネーション――事務弁護士自身による自己申告に加え、司法界の上級関係者から行動規範(Code of Conduct)違反の可能性が報告されたケースを含む
依頼者の機密情報が公開型AIツールに入力された事例で、データ保護および守秘義務に関する懸念を提起

こうした事案は依頼者にとって望ましくない結果をもたらし、案件の進行を遅らせ、法曹界に対する社会的信頼を損なうことにつながるとSRAは警告しています。

法律業界への助言

SRAは成果重視型の規制アプローチを採用しており、業界に求める基準を定める一方で、その基準をどのように満たすべきかについては具体的な手法を規定していません。

SRAが公表した警告通知には、法律業界向けの「留意事項」が数多く盛り込まれています。主な内容は以下の通りです。

事務弁護士/規制対象者は、AIの出力結果について引き続き説明責任を負う
法律事務所は、AIに関するリスクを管理するため「実効性のあるガバナンス体制、システム、統制」を整備しなければならない
裁判所に誤った情報を提示した事務弁護士は「重大な結果」を招くリスクがあり、引用する判例法の典拠がすべて真正かつ関連性があり、検証可能な出典を伴うことを確保しなければならない
AIがハルシネーションによって生成した「虚偽の資料」を裁判所に提出することは、法廷侮辱罪とみなされる可能性がある
「若手または権限を持たない同僚」を監督する立場の者は、その部下が虚偽の引用を裁判所に提出した場合、責任を問われる可能性がある
依頼者情報を公開型AIツールに入力することは、依頼者の守秘義務違反となる可能性が高く、無料・有料を問わずAIシステム全般にリスクが存在する
依頼者情報は、「機密性を保護するための適切な契約上、技術上、組織上の保護措置が講じられている」AIシステムに限り入力すべきである
依頼者データは常に安全な環境内にとどめておかなければならない

イングランド・ウェールズ法曹協会(Law Society)の副会長を務めるブレット・ディクソン(Brett Dixon)氏は、事務弁護士には依頼者の最善の利益のために行動する上で、AIをはじめとするテクノロジーを責任を持って利用する義務があると付け加えています。

同氏は次のように述べています。「法律業務やサービス提供におけるテクノロジーの革新は、急速に進んでいます。AIの活用が急速に進化する中、SRAは今後も業界に対し、事務弁護士が自らの義務に沿って自信を持ってAIを活用できるよう、迅速かつ明確な指針を提供し続ける必要があります」