米政府、AnthropicにFable・Mythosへの「外国人」アクセス禁止を要求

Anthropicは、米政府が外国人によるアクセスを遮断するよう命じる輸出規制指令を発令したことを受け、同社の最先端AIモデルであるFable 5とMythos 5へのアクセスを世界中のすべてのユーザー向けに停止しました。

米政府:Fable 5への「外国人」アクセス禁止を指令

この指令は、6月12日の米東部時間午後5時21分にAnthropicが受け取ったと発表しており、「国家安全保障」を根拠として、米国内外を問わず外国人(Anthropicに勤務する外国人従業員を含む)による両モデルへのアクセスを禁止しています。

同社によれば、この命令の実質的な効果として、遵守するためにはすべての顧客向けに両モデルを無効化せざるを得ないとのことです。Claude Opus 4.8を含むそれ以外のAnthropicモデルには影響はありません。

タイミングは非常に悪いものでした。Anthropicは6月9日にFable 5の提供を開始したばかりで、Pro・Max・Enterpriseの全顧客を対象に6月22日まで無料で利用できる予定でした。3日前に数百万人への無償提供が始まったばかりのモデルが、今やすべてのユーザー向けにオフラインとなっています。

Image

Fable 5はMythos 5の安全策を強化した姉妹モデルです。両者は同じ基盤モデルを共有していますが、Fableにはさらなる安全策が追加されています。

Fableはサイバーセキュリティ・生物学・化学に関するセンシティブなクエリをブロックまたは別の処理に転送する一方、制限のないMythos 5は審査を経た政府系サイバー防衛担当者およびライフサイエンス分野のパートナーにのみ提供されています。

Anthropicは開発者向け通知の中で、新規セッションはユーザーのデフォルトモデルまたはOpus 4.8にフォールバックされること、既存のFable 5セッションはエラーで終了すること、プラットフォームからのFable 5へのリクエストも失敗することを説明しました。また、インテグレーターに対しては他のモデルへの移行を求めています。

英国のAI・オンライン安全担当大臣であるKanishka Narayan議員は、この一時停止措置が英米両国の顧客に影響を与えていると述べ、技術的主権の重要性を訴えるとともに、政府による£1.1bnのAIチップ投資の意義を強調しました。

AI・オンライン安全担当英国大臣が見解を表明

Anthropicの見解では、この命令はFable 5のジェイルブレイク手法が報告されたことに起因するとのことです。同社はデモを確認した結果、バイパスなしに他の一般公開モデルでも発見できる、既知の軽微なバグにすぎないと判断しています。

「これまでのところ、政府から提示されたのは、特定のコードベースを読み込んでソフトウェアの欠陥を修正するよう求めるという内容からなる、限定的かつ普遍的でない潜在的ジェイルブレイクの口頭による証拠のみです」とAnthropicは述べています。

「一つの潜在的なジェイルブレイクが政府に共有されたと我々は理解しています。」

「我々は政府の法的指令に従い、すべてのユーザー向けにFable 5とMythos 5へのアクセスを削除します。ただし、限定的な潜在的ジェイルブレイクの発見が、数億人に展開された商用モデルの回収の根拠となるべきであるという判断には同意しません。」

「この基準が業界全体に適用されれば、フロンティアモデルの全プロバイダーによる新規モデルの展開が事実上停止すると考えます。」

同社はこの機能がOpenAIのGPT-5.5を含め他の場所でも広く利用可能であり、防御担当者が日常的に活用していると指摘しています。

Anthropicはこの命令が誤解に基づくものだとの立場を維持しており、アクセスの復旧に向けて取り組んでいるとして、24時間以内に詳細を公表すると約束しています。

攻撃者より先に、すべての層をテスト

セキュリティチームが記録できる攻撃の成功はわずか54%にとどまり、アラートを発するのはさらに14%に過ぎません。残りは検出されることなく環境内を移動しています。

Picusのホワイトペーパーでは、侵害・攻撃シミュレーション(BAS)によってSIEMやEDRのルールをテストし、脅威が検出をすり抜けないようにする方法を解説しています。

ホワイトペーパーを入手する

翻訳元: https://www.bleepingcomputer.com/news/security/us-gov-asks-anthropic-to-ban-foreign-national-access-to-fable-mythos/

ソース: bleepingcomputer.com