サイバーセキュリティ業界は、Anthropicの新しいモデルであるClaude Mythos Previewと、そのサイバーセキュリティへの影響に夢中になっています。Anthropicは、そのサイバー攻撃能力のため、一般向けにリリースしないと述べており、Project Glasswingを開始して、公開ドメインと独自のソフトウェアの多くに対してモデルを実行し、ハッカーがモデルを手に入れて悪用する前に、すべての脆弱性を見つけてパッチを当てることを目的としています。
ここには多くのことがあり、来週、より深く考えた記事を書きたいと思っていますが、いくつかの速い観察をしたいと思います。
1つ目：これはAnthropicによる大がかりなPR作戦です。そして、それは機能しました。多くの記者が、息もつかせずに、繰り返しているAnthropicの主張を批判的に検討することなく。OpenAIは、Anthropicの新しいモデルが多くの肯定的なプレスを取得し、それ自体がスポットライトの一部を獲得したいと思ってイライラして、その独自モデルが同じくらい恐ろしいと発表し、一般向けにもリリースされないと発表しました。
2つ目：これらのモデルは、サイバー攻撃能力における洗練度の向上を実証しています。人間の関与なしに、彼らが見つけた脆弱性をオペレーション化して、効果的なエクスプロイトを書きます。彼らはより複雑な脆弱性を見つけることができます：例えば、複数のメモリ破損バグを一緒にチェーンします。そして、オーケストレーションとエージェント構成インフラストラクチャが必要なく、ワンショット・プロンプティングでより多くを行うことができます。
3つ目：Anthropicは優れたPRチームを持っているかもしれませんが、問題はMythos Previewではありません。セキュリティ会社のAisleは、複製することができました。Anthropicが見つけた脆弱性を、より古い、より安い、公開モデルを使用して。しかし、脆弱性を見つけることと、それを攻撃に変えることの間には違いがあります。これは、防御側の現在の利点を指摘しています。修正を目的とした検出は、AIにとって、検出と悪用を見つけるより簡単です。この利点は、より強力なモデルが一般向けに利用可能になるにつれて、縮小する可能性があります。
4つ目：これの含意について慌てている誰もが、正確なタイムラインを予測することはできませんが、問題について正しいです。大きな変化はちょうど起きたかもしれません、AnthropicとOpenAIからの新しいモデルで。6ヶ月前に起きたかもしれません。6ヶ月以内に起きるかもしれません。それは起きるでしょう。私は疑いの余地がありません。そして、私たちが準備する準備ができるより早く。これらのモデルが一般的にどの程度改善されるかを予測することはできませんが、ソフトウェアはAIにとって最適な特殊言語であるように見えます。
数週間前に、「インスタント・ソフトウェアの時代」のセキュリティについて書きました。そこでは、AIが脆弱性の検出、悪用、パッチ当てにおいて超人的に優れています。私は、そこで書いたすべてのことに立ちます。緊急性は今までかつてないほど高くなっています。
私は、「今何をするか」レポートを作成した大規模なチームの一部でもありました。ガイダンスはおおむね正しいです。ゼロデイエクスプロイトが当たり前の世界に備える必要があり、多くの攻撃者が突然、彼らのスキルをはるかに上回る攻撃能力を持つようになります。
