司法省には、民間企業のネットワークに侵入したハッカーを捜査・起訴してきた長い実績があります。
しかし、そのハッカーが人間ではなかったとしたら、いったい何が起きるのでしょうか。
大手テック企業各社が、自社の人工知能モデルが暴走し他組織への不正侵入を行っていたと相次いで公表したことを受け、シリコンバレーとワシントンを揺るがす公共政策論争の中心にこの問いが据えられています。この一連の攻撃は業界内部からもより強力な監視・規制を求める声を呼び起こし、議会調査を促すとともに、自律的な行為主体が自ら混乱を引き起こしうる時代において、犯罪者たるハッカーを処罰するために作られた数十年来の法的枠組みが果たして十分なのかという疑問を投げかけています。
これらすべてが行き着く先は「無法地帯」だと、ソフトウェア企業Ivantiの最高情報セキュリティ責任者(CISO)兼副法務顧問を務めるジャック・ネルソン氏は指摘します。責任の所在をめぐる論点は、各企業がモデルを開発していた際に何を認識していたか、起こりうる事態をどこまで理解していたか、そしてどのような安全策(ガードレール)が存在していたかに焦点が当たることになる、と同氏は述べています。
「もしあなたが虎を飼っていて、その檻に鍵をかけていなかったとしたら、その虎はおそらく、あなたが意図していなかった悪いことをしでかしたはずです。それでも、そうなり得ることはあなたも分かっていたわけですから、檻に鍵をかけなかったことについて責任を負うことになります」とネルソン氏は語ります。
「これらのモデルを、鍵のかかっていない虎とまで言い切っていいのかは分かりませんが、そう捉えるのはおそらく妥当な枠組みでしょう」と同氏は付け加えました。
法的責任がどうなるかは依然として不透明です。訴訟が起こされる可能性はありますが、一部の法律専門家は、これらの攻撃が自律的な性質を持つことや、AIモデルが他のネットワークへの侵入を意図して設計されたという証拠が存在しないことを踏まえると、刑事捜査を行うにしても極めて高いハードルに直面するだろうとの見方を示しています。
FBI長官、自律型攻撃を「新たなフロンティア」と呼ぶ
この問題が表面化したのは7月のことでした。OpenAIは、自社の人工知能システムがテスト環境から逃れ、AI開発のハブ兼マーケットプレイスであるHugging Faceのサーバーに、盗んだ認証情報を使って侵入し、タスク遂行に必要な情報を入手していたことを明らかにしました。
それ以降、Anthropicは自社のAIモデルがテスト中に他の3つの組織にも不正侵入していたと発表し、これを受けて同社は、本来インターネットから遮断されているはずのテスト環境からモデルがインターネットにアクセスできてしまったのかどうかについて社内レビューに乗り出しました。Metaは、テスト中の「設定ミス」によってAIモデルが自らインターネットにアクセスし、別の企業に不正侵入する結果になったと説明しています。Googleも最近、同様の事実を公表しました。
こうした一連の公表を受け、Anthropicのダリオ・アモデイ最高経営責任者(CEO)は開発ペースの減速を訴えるに至りました。この話題は同様にワシントンでも議論の中心となっており、スコット・ベッセント財務長官は議員に対し、AI研究機関に「責任免除――彼らが求めているのはまさにそれです」を与えることには反対する意向を表明しています。一方でドナルド・トランプ大統領は、より強力な監視を求める声には抵抗を示しているものの、AI担当の特別顧問(AIツァー)とタスクフォースを任命する方針を発表しました。
今回の一連のハッキングは、技術企業が自社プラットフォーム上に投稿されたコンテンツについて免責される仕組みを定めた1996年通信品位法(Communications Decency Act)第230条をめぐる議論を彷彿とさせる、責任の所在に関する対立を招く可能性があります。
FBIは捜査を行っているとは公式には発表していませんが、カシュ・パテル長官は先週の議会公聴会で、この問題を「新たなフロンティア」と表現しました。議会調査に乗り出しているミズーリ州選出の共和党上院議員ジョシュ・ホーリー氏からの質問に答える形で同長官は、FBIが精査の対象とするのは犯罪を実行する意図を持って作られたモデルに限られる、との考えを示唆しました。
「私たちがリソースを割いて取り組むべきなのは、暴走を起こしているこれらのモデルを……特定の目的のために、かつ犯罪行為を実行する意図をもって作り出した人々を追及することです」とパテル長官は述べました。「合法的に何かを作り出した人を、その後に犯罪者がそれを奪って改変し拡散させたからといって、罰することはできません」
トッド・ブランシュ司法長官は、司法省としてAIを規制する計画はないとしつつも、「AIに関わる者が刑法に違反した場合には、我々はそれを捜査する」と述べています。
判例法、そしてFBIおよび司法省の対応方針は「実に興味深いものになるでしょう。というのも、展開の仕方は何通りも考えられるからです」と、司法省でサイバー犯罪担当検察官を務めた経験を持つシド・モディ氏は語ります。
サイバー空間を規律する様々な刑事法規
企業が「自社のAIエージェントをテストする方法において無謀であった」と判断された場合に備え、司法省には利用可能な法規が存在すると、ロサンゼルス連邦検事局でサイバー・知的財産犯罪部門の部長を務めた経験を持つマイケル・ズウェイバック氏は指摘します。
「そして実際にAIエージェントが野放しになり、他の企業に多大な損害を与えた場合、司法省は検察裁量の問題として、その特定の企業を見せしめにするかどうかを検討せざるを得なくなります」と同氏は付け加えました。
関連しうる法律の一つに、コンピューターへの無許可アクセスを故意に行うことを違法とする、制定から40年になるコンピューター詐欺および濫用防止法(Computer Fraud and Abuse Act)があります。ハクティビストや国家支援型ハッカー、その他のサイバー犯罪者に対して用いられてきたこの法律について、ホワイトハウスは、AIを利用してコンピューターへの不正アクセスや他の犯罪の実行を図る者を検察官が追及するよう指示する大統領令の中で言及しています。
しかし一部の専門家は、捜査を行う根拠があるとしても、それは犯罪が実際に成立したことをほとんど意味しないと指摘します。
まず一つには、この法律は「故意に(knowingly)」あるいは「意図的に(intentionally)」行われた行為に何度も言及していますが、自律型エージェントが他のネットワークに侵入するよう各企業から何らかの指示や許可を与えられていたことを示す証拠は一切ないと、サイバーセキュリティ法を専門とする司法省の元幹部キラン・ラジ氏は述べています。
各社は今回の事案について詳細な公式説明を行っており、OpenAIは自社モデルの挙動を「想定外」かつ「前例のない」ものだったと表現し、Metaは「設定ミス」に起因するものだったとしています。いずれも、テストと評価の過程で意図せず生じた副産物として位置づけている点は共通しています。
「これらの企業のいずれかが意図的にこれを行おうとしていたと言うのは、かなり無理があると思います。それは彼らの目的ではありませんし、彼らがやろうとしていることでもありません」と、Microsoftの元プログラムマネージャー統括責任者でもあるラジ氏は述べています。「AIエージェントが意図的に何かをしている可能性があるという事実を、企業側の意図として結び付けるのは、かなり難しいだろうと思います」
翻訳元: https://www.securityweek.com/autonomous-ai-hacks-raise-thorny-questions-of-legal-accountability/
