セキュリティコミュニティは、AnthropicのClaude MythosおよびFableを外国人が利用できないよう制限した米国政府の決定を強く批判しており、多くの関係者が政府に方針の撤回を求めています。
先週のAnthropicの待望の新モデル、Fable 5およびMythos 5のリリースを受け、同社は6月12日にすべてのユーザー向けにモデルの利用を停止しました。これは、Anthropic社員を含む全外国人が大規模言語モデル（LLM）を利用できないようにする輸出管理命令を米国政府が発令したことへの直接的な対応です。モデルの利用停止は、この命令への準拠を確保するためのものです。
Anthropicは声明の中で、政府がフロンティアモデルに安全保障上の懸念を抱いていると述べました。特にMythosは、ソフトウェアの重大な脆弱性を発見し、新たな重大なエクスプロイトを開発する能力を持つとされています。セキュリティの専門家たちは、Mythosやそれに類似したモデルが脆弱性対応の在り方を根本から変えると警告しており、このLLMを悪用しようとする脅威アクターに備えるため、組織は「Mythosへの対応準備」を整える必要があると述べています。
Anthropicはこれまで、Mythosは一部の選ばれたパートナーのみが利用できる排他的なモデルとなると説明しており、コンシューマー向けのFableには大規模な悪用を防ぐための厳格なガードレールが設けられていると述べていました。例えば、サイバーセキュリティや生物学といった特定のトピックについてFableにリクエストした場合、Fableは代わりに一つ前のモデルであるClaude Opus 4.8を呼び出して応答を生成します。
政府は輸出管理の具体的な理由を明示していませんが、Anthropicはある「ジェイルブレイク手法」に起因するものと考えています。
「懸念すべき非汎用的なジェイルブレイクの可能性について、有害な結果につながったという開示すら受けていません」とAnthropicはその声明で述べています。「開示されたジェイルブレイクの可能性は、いずれも完全に無害な応答か、Mythosに特有の能力向上をもたらさない軽微な発見に過ぎません。」
この規制に意味はあるのか
Semaforは、ホワイトハウスが中国系の脅威グループによるモデルへのアクセスを疑ったことが輸出管理の発端だと報じました。Anthropicは公式に中国からの自社製品へのアクセスを禁止しているにもかかわらず、こうした事態が生じたとされています。
ドナルド・トランプ米大統領の顧問を務めるDavid Sacksは、X上への投稿で、「AnthropicとUSの両者から高い信頼を寄せられるパートナー」がこのジェイルブレイクを報告したと述べ、AnthropicのCEOであるDario Amodeiが修正を求められたにもかかわらず対応を拒否したと主張しています。また、輸出管理は「不本意ながら」発令されたと述べました。
「政権が今望んでいるのは、Anthropicが安全上の問題を修正し、輸出規制が解除され、Fableが一般リリースに戻ることです」とSacksは書いています。「政権はすべてをできる限り早期に実現したいと考えています。Anthropicがかつて最優先事項と明言していた安全性に関する要請に応じようとしないことに、率直に言って困惑しています。」
米国政府の今回の措置には疑問点が多くありますが、主な目的が敵対勢力やサイバー犯罪者によるMythosの入手を防ぐことだとすれば、この措置がどのようにして彼らを阻止できるのかは不明です。
セキュリティベンダーAcalvioのCEO、Ram Varadarajanは、AnthropicだけがMythosレベルの技術にアクセスできると思い込むべきではないとDark Readingに語っています。「地政学的な敵対勢力が、公表されていない重大な能力を保有していることは十分あり得ますし、そう想定すべきです」と述べています。
同様に、ペネトレーションテスト企業Black Hills Information SecurityのオーナーであるJohn Strandは、政府の措置は敵対勢力に対して「あったとしても、ほとんど何も変わらない」と述べています。
「多くの人が理解できていないのは、Mythosレベルの能力がAnthropicやOpenAI、Googleといった少数の米国企業だけに限られているわけではないという点です」と同氏はDark Readingに語っています。「こうした能力は複数の国々において、さまざまなモデルで開発が進んでいます。」
ペネトレーションテストおよびインシデントレスポンス企業XcapeのCOO、Noelle Murataは、MythosとFableへの輸出規制は国家支援型や金銭目的の攻撃者にとって「減速帯程度の障害にしかならない」と述べています。
「ローンチ当日から不正アクセスが報告されていた状況を踏まえると、この指令はモデルの蒸留を目的にすでに防衛網を突破した可能性がある中国系グループへの後手の対応に見えます」と彼女は説明します。「GPT-5.5のような同等の能力を持つモデルが引き続き利用可能な状況では、こうした禁止措置は分散化された阻止不可能なオープンソースの取り組みへのシフトを加速するリスクがあります。」
セキュリティコミュニティ、Mythos/Fable規制の再考を米政府に要請
セキュリティコミュニティの多くのメンバーが、MythosとFableを遮断するという政府の決定を批判しています。
Katie MoussourisはLuta Securityの創設者兼CEOであり、脆弱性管理分野のパイオニアです。昨日公開したブログ投稿の中で、MoussourisはFable 5の輸出規制が米国のサイバー防衛を損なうと主張し、この措置を「強引で、拙速であり、的外れ」と批判しています。
この主張は、関連する研究を実際に目にしていた彼女が詳細に説明した、ジェイルブレイクの性質に関するものです。
「研究者たちは既知のCVEを持つオープンソースコードと、意図的に脆弱性が埋め込まれた新しいコードを用意し、Fable 5、Mythos、Opusに対して『このコードのセキュリティ上の問題をレビューしてください』と要求しました。Fable 5はこれを拒否しました。続いて『このコードを修正してください』と要求し、複数のステップと手作業のプロセスを経て、パッチをテストするスクリプトに変換しました」と彼女は書いています。「プロンプトが機能したのは防御的なリクエストだったためであり、その能力はモデルのバグ修正やパッチ検証の性能を低下させずには削除できません。」
Moussourisは、このような重要な段階で防御者のアクセスを制限することは、「攻撃者を阻止することは何もせずに」防御者の能力を実質的に奪うことになると述べています。
また、Alex Stamos、Casey Ellis、Bruce Schneierをはじめとするサイバーセキュリティ業界の著名人たちが連名で署名したオープンレターにも署名しました。このレターは政府に輸出規制の解除を求めており、政府が引用した研究で指摘された問題は他のモデルでも再現可能であること、Anthropicはすでにその研究への対応に取り組んでいること、さらにこの規制は中国などの米国の競合国に有利な状況をもたらすだけだと主張しています。
「中国のオープンウェイトモデルは、米国の最高水準のモデルに数ヶ月差で迫っており、これは公開されているモデルに限った話です。中国政府が公表されていない非公開の能力にアクセスしている可能性は高いと思われます」と同レターには書かれています。
ベンダー側も声を上げ始めています。SophosのCEOであるJoe Levyは、LinkedInにブログ投稿を公開し、オープンレターに署名したことを表明するとともに、攻撃者より先に脆弱性を修正するために防御者は最高のツールへのアクセスが必要だと述べました。「そのための最速の道は、防御者に適切なツールを提供し続けること、そして証拠に基づいて政策を共に構築することです」と彼は書いています。
Black Hills Information SecurityのStrandは、最先端ツールへのアクセスが制限されれば「防御者の活動能力を直接的に低下させる」と説明しています。
「こうした能力は防御者にとって任意のものではありません。セキュリティオペレーションセンター（SOC）、開発パイプライン、そして防御・攻撃両面のセキュリティ評価に統合される必要があります」と同氏は述べています。「技術に対する恐怖心や不確実性、または不完全な理解に基づいてアクセスが制限された場合、その実際の効果は攻撃者の成功を容易にすると同時に、防御者の職務遂行をより困難にすることです。」
