特定の企業がまだ新興の人工知能アーキテクチャの評価を開始しているだけであるのに対し、他の企業はすでにそれらを破壊するための秘密の手段を考案しています。Anthropicは、脆弱性の発見のために設計された業界で最も強力なモデルの1つへの不正なアクセスに成功した秘密の集団に直面するという不安な状況に遭遇しました。
Mythosという名称のモデルは、2月下旬に限定されたパートナーの輪に段階的に公開されました。インサイダーによると、外部の関係者がステージング環境に侵入し、デビュー当日にシステムの制御を引き継ぎました。Anthropicは現在、第三者契約業者のインフラを通じた侵害の報告を精査しています。それでも、同社は独自のコアシステムが侵害されていないままであることを主張しており、侵入は周辺環境に限定されていたことを示唆しています。
Mythosはソフトウェアの欠陥を特定するための洗練された手段として考案されましたが、同社は、モデルの能力が非常に深いため、武器化された場合、サイバー攻撃の速度を急速に加速させる可能性があることを認めています。予備的な評価の中で、システムは著名なオペレーティングシステムとブラウザ内の数千の重大な欠陥とゼロデイ脆弱性を掘り起こしました。
現在、このモデルへのアクセスはProject Glasswingの後援下にある組織の厳選されたグループに限定されています。この協力的な取り組みには、Amazon、Google、Microsoft、Apple、Ciscoなどの技術大手が含まれており、彼らは自律的にインフラストラクチャを監査し、脆弱性を特定し、修復を展開することができます。
ソフトウェア
それでも、プライベートDiscordコミュニティの分裂したグループはこれらの厳しい制限を正常に回避しました。情報筋によると、参加者は多面的なアプローチを利用しました。1つのベクトルは契約業者の従業員を侵害してシステムアクセスを得ることを含み、他の人はGitHubを含むオープンソースリポジトリから情報を収集するために高度な偵察ツールを使用しました。
このコミュニティは未発表のモデルに関する詳細を掘り起こすことに特化しており、自動化されたハーベスターを使用してデジタルランドスケープ全体からのリークと状況的なテレメトリーを集約しています。この事件の包括的な規模は未公開のままであり、これらの無許可の当事者がMythosフレームワークを使用して実際の脆弱性を正常に特定または悪用したかどうかはまだ決定されていません。
このエピソードはすでに世界的な規制当局に不安をもたらしました。オーストラリアと韓国の当局は、そのような自律システムが金融部門を不安定にする可能性があるという警告を発表しました。これは以前、欧州連合で反映された感情です。この状況は米国で大きな注目を集めており、トランプ政権はAnthropicのCEOダリオ・アモデイとの高度なサミットを召集し、そのような強力なイノベーションを管理する存在上のリスクと潜在的な規制上の制約について熟考しました。
