AIは法曹界でさまざまな問題を引き起こしている

米国弁護士協会（ABA）は、法曹分野における人工知能の利用が、裁判制度において事実を確定するために依拠されてきた重要な手続、文書記録、そして証拠を損なっていると考えている。

今月公表された報告書で、法曹倫理基準を定め、米国の約40万人の弁護士の認定を監督するABAは、AIが法制度全体に浸透している実態を詳述した。報告書によれば、弁護士は時間短縮のため、調査の実施、要約、主要な裁判書面の作成にAIをますます利用しており、裁判官も同様の機能の多くにAIを用いているという。

しかし、人工知能—とりわけ生成AIツール—が法制度全体に組み込まれるにつれ、正確性と法廷での真実の表現に依存する職業にとって重大な疑問が生じている。 

「法廷で証拠として提出されたディープフェイク、あるいは正当な証拠がディープフェイクだという主張に直面し、裁判官はAI生成証拠の真正性、妥当性、信頼性をめぐる問題に取り組んでいる」とABAは述べた。

 裁判制度が直面する最も差し迫った課題の一つは、実物そっくりのディープフェイク媒体の出現にどう対処するかを見極めることだ。偽の画像、音声、動画は、裁判所が数十年にわたり、事件で実際に何が起きたのかを判断するために依拠してきた種類の証拠を、説得力をもって模倣し得る。

音声クローンやディープフェイクのツールにより、悪意ある者は、裁判官、弁護士、証人、その他裁判に関わる人物が、実際には言ってもいないことを言ったり、してもいないことをしたりしたかのように見せる、もっともらしい媒体を作成することもできる。ABAの報告書は、FBI、サイバーセキュリティ・インフラストラクチャ安全保障庁（CISA）などの機関や、世界経済フォーラムのような組織が、この1年にわたり、ディープフェイクが重大かつ長期的な国家安全保障上の脅威であると警告してきた報道を引用している。

「いまやコンテンツを作成して共有することが容易になり、さらにエンゲージメントに最適化されたアルゴリズムが用いられているため、誤情報は広範かつ迅速に拡散し得る」とABA報告書は述べた。

これらの所見は、法曹界にAI技術を取り入れることのリスクと利点の双方を概説する、より広範な報告書の一部である。また、世界各地の裁判所がこの技術に関する問題を報告している中でのことでもある。たとえば、幻覚による判例やその他の誤りを引用したAI生成の準備書面や、刑事手続において死亡した被害者のディープフェイク証言を提示することの倫理をめぐる問題などがある。

一方でABA報告書には、この技術に関する会員や弁護士からの数多くの肯定的な見解も含まれており、文書作成、法的調査、大量の資料・文書・証拠のレビューといった「中核的な法務機能の自動化におけるAIの役割」を「一貫して強調してきた」会員の声が引用されている。

「多くの人が、生成AI—とりわけ大規模言語モデル—を、契約分析や訴訟準備といった定型業務を加速させるうえでのゲームチェンジャーとして挙げ、さらに、事務所が初稿を作成し、大規模データセットを要約し、コミュニケーションを大規模にカスタマイズする助けになると強調した」と報告書は述べた。

法曹界におけるAI利用の増加は、コミュニティの一部の構成員が、業務量の増加によりストレス、燃え尽き、離職が増えたと報告している状況の中で起きている。企業内弁護士協会（Association of Corporate Counsel）が先週公表した報告書は、企業内法務担当者にとって、仕事に起因するストレスと長時間労働が「蔓延する危機」であるとし、法務部門のリーダーや需要の高い分野で業務を担う人々が最も大きな負担を抱えているとした。

司法の最高レベルの当局者は、裁判所の健全性が常に脅威にさらされていることに警鐘を鳴らしてきた。昨年の年末報告書で、連邦最高裁長官ジョン・ロバーツは警告し、外国政府を含む悪意ある者が、デジタル空間において法制度への信頼を損なおうとしており、その手段には、ハッキングやボット主導の偽情報キャンペーンなどが含まれると述べた。専門家によれば、こうしたキャンペーンは、大規模言語モデルの拡大、速度、そして自動化によって大幅に増強されているという。

これらの当事者の多くの目的は、「私たちの手続と結果に対する国民の信頼を損なう」こと、あるいはそれに対する国民の認識に悪影響を与えることだ。ロバーツは、司法部門はこの種のキャンペーンと戦ううえで「とりわけ不向きだ」と述べた。というのも、裁判官は主として判決理由を通じて発言し、他の公職者のように記者会見を開いたり反論声明を出したりすることが一般的ではないからだ。

一方、ABAの「テクノロジーに精通した裁判官」で構成されるAIタスクフォースは現在、生成AIを職業としてどのように利用すべきか、そして「法廷での証拠としてのディープフェイクという解決困難な問題」にどう対処するかについて、公的な指針を策定する作業を進めている。同組織はまた、AIが法的リスクや責任をめぐる問題にどのような影響を与えるかも検討している。