米政府の指令でサイバーセキュリティ向けAIモデルを無効化——Anthropicが明らかに

Anthropicは金曜日、同社が持つ最先端のサイバーセキュリティ特化型AIモデル2つを無効化しました。外国籍の人物によるアクセスを一切禁じる輸出規制指令を米国政府が発令したことを受けた措置です。

この指令は、米国内外を問わずすべての外国籍の人物を対象としており、Anthropic自身の従業員も例外ではありませんでした。同社は声明の中で、「この命令の実質的な効果として、コンプライアンスを確保するためにすべての顧客に対してFable 5とMythos 5を突然無効化しなければならない状況となった」と述べています。

指令の内容は公開されていません。同社によると、指令は国家安全保障に関する法的権限を根拠としており、チップやハードウェアではなくAIモデルの輸出規制にこうした権限が行使されたのは初めてとみられます。

Anthropicによると、「政府はFable 5を回避・『ジェイルブレイク』する手法を把握したと考えているようだ」とのことですが、政府が提示したのは口頭による説明のみだったとしています。

Anthropicはその根拠となる報告書とみられる文書を精査しましたが、指摘された脆弱性はいずれも軽微であり、すでに知られているもので、OpenAIのGPT-5.5を含む他の公開モデルでも再現可能なものだったと述べています。

Anthropicは指令には従いつつも、その根拠には異議を唱えています。「限定的なジェイルブレイクの可能性が発見されたことが、数億人に展開されている商用モデルを回収する理由になるとは考えていない」と同社は述べています。

「この基準が業界全体に適用されれば、すべてのフロンティアモデルプロバイダーによる新規モデルの展開が事実上停止することになると考える」と同社は記しています。

この指令は、AnthropicのCEOであるDario Amodeiが、安全でないAIの展開を阻止する法的権限を政府が持つべきだと訴える政策論文を公開した2日後に発令されました。

同社は金曜日、安全でないAIの展開を阻止する権限を政府に付与することは支持するものの、それは「透明性があり、公正で明確な、技術的事実に基づく法定プロセスを通じて行われるべきだ。今回の措置はそうした原則に沿っていない」と述べました。

今回の指令は、Anthropicとトランプ政権の間で緊張が高まる中で発令されました。2月には、ClaudeをAIの軍事利用に活用するための契約交渉が決裂した後、ピート・ヘグセス国防長官がAnthropicを「サプライチェーンリスク」に指定しました。これは歴史的にHuaweiなどの企業に対して適用されてきたレッテルです。

今月初め、Anthropicは新規株式公開（IPO）の申請を行いました。フィナンシャル・タイムズの報道によると、投資家は同社の評価額が1兆ドルを超えると見込んでいます。同社は、登録届出書の草案により、市場環境やその他の要因次第で上場する選択肢が生じたと述べています。

Anthropicは顧客への混乱を謝罪するとともに、「これは誤解であると考えており、できる限り早急にアクセスを回復すべく取り組んでいる」と述べています。