サイバーセキュリティ業界の幹部や専門家らのグループが、外国人によるAnthropicの最新AIモデルの使用を禁じるトランプ政権の指令を撤回するよう求めています。この措置は米国を守るよりも、むしろ敵対勢力を利するおそれがあると彼らは主張しています。
Anthropicは金曜日、政府の指令に従うため、「Fable 5」および「Mythos 5」として知られる最新AIモデルをオフラインにしたと発表しました。同社は、政府が懸念として指摘したセキュリティ上の潜在的リスクが、今回の措置を正当化するとは考えていないと述べています。
Anthropicはすでに、コンピューターの脆弱性を発見・悪用する能力においてAIが人間のサイバーセキュリティ専門家を上回るとして、最新技術の一部を一部の選ばれた顧客のみに限定提供すると表明していました。サンフランシスコに本社を置く同社は、最新モデルの性能についてホワイトハウスと協議を重ねてきました。
日曜日付けの公開書簡では、AdobeやNvidiaを含む企業から100名以上のサイバーセキュリティ専門家やリーダーらが、AnthropicモデルへのAI輸出規制指令の撤廃と、「今後のAIリスク評価の取り扱いに関して、オープンで科学的かつ透明性のあるプロセスへのコミット」を米国政府に求めました。
書簡では、AnthropicのMythosモデルがソフトウェアの欠陥発見やエクスプロイトの武器化において「かなり優れている」としながらも、「これらの作業において突出して優れているわけではない」と指摘しています。署名者の多くは、セキュリティ監査やトレーニングに他のファウンデーションモデルやオープンソースモデルを日常的に活用しているといいます。
米国の敵対勢力が急速に能力を高めている状況で、「正当な理由もなく」最善のサイバー防衛能力を奪うことは危険だと、書簡は警告しています。
中国のモデルは「最先端の米国モデルからわずか数カ月遅れているに過ぎない」と書簡は述べており、中国政府が公開されている以上の非公開の能力を保有している可能性も十分あると指摘しています。
今回の輸出規制は、最先端AIモデルへのアクセスを制限する米国政府の措置として、これまでで最も重大なものです。Anthropicは先週、Fableを広く一般公開しました。このモデルは、サイバーセキュリティ上の懸念から同社が厳しくアクセスを制限しているより高度なMythosの限定版です。
商務省は月曜日時点でコメントの求めに応じていません。
今回の指令は、ドナルド・トランプ大統領が最先端AIシステムの国家安全保障上のリスクを公開前に最大1カ月かけて政府が審査するためのフレームワーク確立を目的とした大統領令に署名してから10日後に発出されました。AI開発企業の参加は任意とされています。
トランプ政権と、安全性を重視するAnthropicとの間の緊張は高まり続けています。Anthropicはこれまで、潜在リスクを最小化しつつ経済的・国家安全保障上の恩恵を米国にもたらすことを目的として、AI開発にガードレールを設ける取り組みを続けてきました。
国防総省との契約紛争の後、ピート・ヘグセス国防長官はAnthropicをサプライチェーンリスクとして指定しようとしました。これは米国企業に対して前例のない動きであり、Anthropicは2つの連邦裁判所でこれを争っています。同社は、国防総省が自社技術を完全自律型兵器や米国市民の監視に使用しないという保証を求めました。これに対しヘグセス長官は、国防総省が合法と判断するいかなる用途にも同社は対応しなければならないと主張しました。
