- NCSC のリチャード・ホーン氏は、ガードレールが配置されている場合、MythosPreviewのようなAIツールをハッキングすることは防御を強化できると述べている
- ProjectGlasswingの一部であるAnthropicのMythosPreviewは、ゼロデイを大規模に発見する
- ホーン氏は、フロンティアAIが弱い基礎をすぐに露出させ、防御者がサイバー犯罪者を決定的に上回ることができる機会を与えると主張している
適切なガードレールと安全規制があれば、MythosPreviewのようなAIツールをハッキングすることはあらゆる場所のサイバーセキュリティ防御にプラスになる可能性があると、国家サイバーセキュリティセンター（NCSC）の長であるリチャード・ホーン氏は述べています。
BBCによると、ホーン氏は水曜日にNCSS年次会議CyberUKでのスピーチでこれらの声明を繰り返しました。
「最近のメディアで見てきたように、フロンティアAIは既存の脆弱性の発見と大規模な悪用を急速に実現しており、サイバーセキュリティの基本がまだ対処される必要がある場所をいかに迅速に露出させるかを示しています」と彼は述べました。
記事は以下に続く
今回は異なる
今月初め、Anthropicは「ProjectGlasswing」という新しいセキュリティイニシアティブを発表し、その中心に最新のAIモデル「MythosPreview」があります。このモデルはゼロデイ脆弱性の発見と悪用に非常に優れていたため、Anthropicはそれをわずかな大規模ソフトウェア企業にのみ提供することに決定しました。このように、これらの企業はモデルが一般向けに（まだ決定されていない）後日公開される前に、悪意のある者に対して有利な状態を得ることができます。
これが単なるPRの策略であることについて、オンラインで多くの議論があります。OpenAIがGPT-2でも同じことをしたと述べている人もいますが、後になってそれははるかに無害であることが判明しました。
しかし、今回は本当に異なるかもしれません。Mozilla Foundationは、Mythosの助けを借りて、有名なブラウザの最新ビルドであるFirefox 150で271個の脆弱性を発見することができたと述べました。以前のモデルOpus 4.6でFirefox 148に対して同様のことを試みたとき、それは「わずか」22個のバグを発見しました。
結果を発表した際、Mozilla CTOのボビー・ホーリー氏は興奮を隠すことができず、サイバー犯罪者とのいたちごっこがついに終わる可能性があることを示唆しました。
「私たちの仕事はまだ終わっていませんが、私たちは転機を迎え、単に遅れを取り戻すだけではなく、はるかに良い未来を垣間見ることができます」と彼は書きました。「防御者はついに決定的に勝つ機会を得ました。」
