Mythos テスト後、AI Security Institute がセキュリティベストプラクティスを推奨

AI Security Institute (AISI) は、Anthropic の最新モデルをテストした後、組織に「サイバーセキュリティの基本」を強化し、AI を活用してシステムを保護することを検討するよう促しています。

Claude Mythos Preview は先週、モデルメーカーが数十年前にさかのぼる数千のゼロデイ脆弱性を発見できたと主張したときに、多くのプレス注目を集めました。

Anthropic はすぐに Project Glasswing の立ち上げを発表しました。このイニシアティブに署名したテック企業が Mythos Preview を使用してこれらのバグを見つけて修正することを許可するものです。

新しいモデルを一般向けにリリースしないと約束していますが、最終的に脅威アクターの手に渡る可能性があるという懸念があります。

現在、英国の AISI が意見を述べ、モデルの評価で、すでにサイバーパフォーマンスが急速に改善されている状況の中で「以前のフロンティアモデルから一段上のステップ」を示していることを明らかにしています。

「Mythos Preview が明示的に指示され、ネットワークアクセスを与えられた管理された評価では、脆弱なネットワークに対する多段階の攻撃を実行でき、自律的に脆弱性を発見および悪用できることを観察しました。これは人間の専門家が数日要する作業です」と AISI は明らかにしました。

ただし、注意点がありました。

研究所は、偵察から完全なネットワーク乗っ取りまでを実行する「32段階の企業ネットワーク攻撃シミュレーション」を構築しました。人間が完了するのに約20時間かかると主張する操作です。

Mythos はこれを 10 回の試行のうち 3 回だけで解決し、すべての試行全体で平均 32 段階中 22 段階を完了しました。ただし、より多くの推論計算により、パフォーマンスが向上する可能性があります。

進行中の作業

ただし、AISI は、テスト環境が実世界に相当する環境と重要な点で異なると付け加えました。

「Mythos Preview の 1 つのサイバー範囲での成功は、ネットワークアクセスが得られている小規模で防御が弱く脆弱なエンタープライズシステムを自律的に攻撃できることを示しています」と述べました。

「ただし、当社の範囲は実世界の環境と重要な違いがあり、より簡単なターゲットになります。アクティブ防御者や防御ツールなど、しばしば存在するセキュリティ機能が欠けています。セキュリティアラートをトリガーするアクションを実行するモデルへのペナルティもありません。」

これらすべてにより、AISI は Mythos Preview が「よく防御されたシステム」に対して正常に攻撃できるかどうかを「確実に言うことができません」。

今後、エンドポイント検出とリアルタイムインシデント対応により、強化および防御された環境をシミュレートしてこれらの理解のギャップを改善することを目指しています。

その間、研究所はセキュリティチームに、Mythos を使用した攻撃を軽減する最良の機会を得るためにベースライン保護を改善するよう促しました。

「当社のテストでは、Mythos Preview は脆弱なセキュリティ体勢を持つシステムを悪用でき、これらの機能を持つより多くのモデルが開発される可能性が高い」と結論づけられました。

「これは、定期的なセキュリティアップデートの適用、堅牢なアクセス制御、セキュリティ構成、包括的なログなど、サイバーセキュリティの基本の重要性を強調しています。」

また、組織は「防御の革新的な改善」をもたらすために AI を利用することを検討することを提案しました。

3月30日に発表された AISI と National Cyber Security Centre（NCSC）による共同ブログは、AI が以下の方法でサポートできることを説明しています：