法制度をハッキングするAI

私は2021年のエッセイでも、2022年の著書A Hacker’s Mindでも、AIが法制度の脆弱性やエクスプロイトを見つけ出す、つまり法制度を「ハッキング」する可能性について論じました。

ドイツでの実証例がこちらで紹介されています。

法制度は、社会秩序の基盤を自然言語で成文化したものです。コンピュータシステムと同様に、成文法にも悪用を招く脆弱性が含まれることがあります。1 裁判所は解釈によってほとんどのエクスプロイトを吸収しており、そもそもこうした脆弱性が表面化することはまれです。しかし、高度な能力を持つAIシステムによって、かつてない規模で脆弱性を発見できるようになれば、状況は変わり得ると私たちは考えています。

この仮説を検証するため、私たちはLLMを用いてドイツの法制度に存在する相当数の脆弱性を特定しました。私たちの知る限り、いずれもこれまで記録されたことのないものです。以下にその一部を紹介し、それぞれについて想定されるエクスプロイトを示します。公開するのは、悪用しても深刻な被害を招かないと判断した脆弱性だけです。

法的推論が安価に普及すれば、AIシステムが現行の法制度の機能を脅かす恐れがあると私たちは考えています。そのような世界では、立法者は立法プロセスを大幅に強化する必要があります。たとえば、立法者自身が高度なAIを活用する方法が考えられます。

まだ初期段階ですが、これが確実に訪れる未来であることは間違いありません。