認可されていないユーザーがMythosにアクセス、Anthropicが「調査中」とコメント

ソフトウェア内の数百のゼロデイ脆弱性を発見できるAnthropicのMythosモデルが、認可されていないユーザーによってアクセスされました。

ドキュメントと事情に詳しい人物を引用したBloombergレポートによると、このモデルは認可されていないユーザーによって定期的に使用されています。

Mythosの機能は非常に危険であるため、Anthropicはプロジェクト・グラスウィングの一部として、防御を強化するための限定的な企業にのみアクセスを制限しており、亀裂が生じ始める可能性があります。

記事は以下に続きます

プロジェクト・グラスウィングに亀裂が見られている

Anthropicは以前、 Mythosモデルは重大な脆弱性を発見できると述べており、「ユーザーが指示すれば、すべての主要なオペレーティングシステムとすべての主要なWebブラウザで発見できる」と述べています。

状況を見ると、MozillaのCTOであるBobby Holleyは最近、Mythosは最新のFirefoxビルドで271の脆弱性を発見できたことを明らかにしました。

それがMythosが悪い手に渡ると非常に危険である理由です。このソフトウェアは、脅威行為者が最も脆弱な欠陥を即座に特定し、それ自体で悪用するか、他の悪質な行為者に売却することを可能にします。

Bloombergによると、ユーザーは以前に他の未リリースのAnthropicモデルにアクセスしたことがある、未リリースのAIモデルに関心を持つグループに属しています。

特にMythosにアクセスするために、ユーザーはサードパーティ企業に代わって評価目的でAnthropicのモデルとソフトウェアにアクセスする許可を与えられた1人の専門知識に依存しました。

グループはまた、AI採用スタートアップMercorを襲ったデータ漏洩の詳細に依存しました。これらの詳細によって、グループはモデルのオンライン上の位置を推測し、他のAnthropicモデルのフォーマットから収集した専門知識を使用することができました。

グループは明らかにMythosを悪意のある目的で使用することに関心がなく、むしろモデルのテストにのみ関心があると述べていますが、これはMythosのセキュリティについて深刻な疑問を引き起こしています。

「当社の第三者ベンダー環境の1つを通じたClaude Mythos Previewへの不正なアクセスを主張するレポートを調査中です」と、Anthropicのスポークスパーソンは声明で述べ、アクセスが第三者ベンダーの環境を超えて拡張されたという証拠がないと付け加えました。

Anthropicは最近、Mythosモデル内の悪用の試みと隠された評価認識を検出し、それを「戦略的操作」機能と呼んでいます。