Anthropicは、敵対勢力による悪用を懸念した米国政府から、最新モデルのClaude Fable 5とMythos 5へのアクセスを遮断するよう命令を受けました。
Reutersの報道によると、Anthropicは米国政府から国家安全保障上の懸念を理由に外国人ユーザーへのモデルアクセス停止を命じられ、最先端のAIモデルを全ユーザーに対して「突然無効化」すると表明しました。
当局はジェイルブレイクによってFable 5とMythos 5が敵対勢力の脆弱性発見ツールに転用される可能性があると懸念しているとされており、Anthropicはすべてのユーザーのアクセスを無効化すると報じられています。ユーザーの国籍を完全に確認することは事実上不可能であるため、国籍によるアクセスフィルタリングは行わない方針です。
Anthropicはウェブサイト上の声明で次のように述べています。
「当該書簡には、国家安全保障上の懸念に関する具体的な詳細は記載されていませんでした。私どもの理解では、政府はFable 5をバイパス（「ジェイルブレイク」）する手法を把握したと考えているようです。私どもはこの特定の手法を使用して、既知の軽微な脆弱性が少数特定される様子のデモを検証しました。これらの脆弱性はいずれも比較的単純なものであり、バイパスを必要とせずとも他の公開済みモデルで同様に発見できることが確認されています。」
Mythos 5は非公開の完全版であり、現在は政府機関および選ばれた企業パートナーがシステムのセキュリティ強化目的のみに使用しています。Fable 5はMythosクラスのモデルながら、一般利用向けに安全性が確保されているとされていました。
Fable 5のジェイルブレイクが容易であるならば、Mythos 5と同様の制限下に置かれるのは理にかなっていると思われます。ただしAnthropicは、一部のトピックに関するクエリに対しては次世代の最上位モデルであるClaude Opus 4.8が代わりに応答するという組み込みのセーフガードを設けていると説明しています。
米国政府とAnthropicの関係は、軍事利用・監視・自律型兵器をめぐる緊張が高まった後、米政府の一部との間で関係改善の兆しを見せていました。3月には、国防長官のピート・ヘグセス氏がこのサンフランシスコ拠点の企業を「国家安全保障上のサプライチェーンリスク」に指定していました。
この問題の本質を理解するうえで重要なのは、Mythos 5が銀行などの重要インフラのような複雑なレガシーシステムに潜む長年のバグを含むソフトウェアの脆弱性発見に特に優れていると、複数の報告書で描写されている点です。これは防御強化には非常に有用である一方、悪用されれば壊滅的な被害をもたらしかねない「デュアルユース（軍民両用）」の側面があるとして、多くの専門家が懸念を示しています。
MicrosoftやGoogleなどの主要ソフトウェアベンダーの最近のアップデートでは、各社が自社ソフトウェアの脆弱性探索にAIを活用し始めて以降、修正された脆弱性の件数が増加傾向にあることが確認されています。またMozillaがAnthropicの新モデルClaude Mythosを活用してFirefoxの脆弱性を270件以上発見したことも明らかになっています。
今後への影響
悪意ある者の手に渡れば、これらの脆弱性が深刻な被害をもたらす可能性は十分にあります。一般消費者や開発者がFable 5やMythos 5に完全にアクセスできるようになるまでには、まだしばらく時間がかかる見通しです。ただし、既存のAnthropicモデル（旧バージョンのClaude）は引き続き利用可能です。
単純な会話や基本的なスクリプト補助にClaudeを利用していた一般ユーザーにとっては、AIサービス全体が停止するわけではなく、「この特定バージョンは現在利用できません」という形で変化が現れる程度にとどまります。
高度な脆弱性発見モデルを広範な流通から排除することで、リソースの限られたサイバー犯罪者が一般向けソフトウェアやサービスの複雑なバグを自動探索するために必要な労力はある程度増加しますが、その抑止効果には限りがあります。同等の効果を持つモデルがブラックマーケットで流通している可能性もあるためです。そしてほとんどのサイバー犯罪者にとって、脆弱性を実際のエクスプロイトとして利用できる手法に変換することの方が、はるかに重要な課題となっています。
