Anthropic、AI支援によるセキュリティ監査でMythos 5のアクセス範囲を拡大

イーサリアムのFusakaアップグレードをめぐるセキュリティ監査コンテストにおいて、Octane AIは重大な脆弱性を発見し、5万ドルの報奨金を獲得しました。この事例は、AIが人間のセキュリティ研究者と協働し、実際のソフトウェアに存在する欠陥を発見する初期の好例となりました。

Anthropicは、専門的なサイバーセキュリティモデルであるMythos 5について、対象となるClaude Enterprise顧客向けにパブリックベータのアクセスを開放しました。同モデルはClaude Securityプラグイン経由で利用でき、利用量は各組織が既存に保有するトークン割当量から計測されます。対象顧客は、Claudeによる評価を許可するリポジトリにプラグインを接続する必要があります。

防御側へのアクセス拡大

Anthropicは今年4月、「Project Glasswing」と呼ばれるプログラムのもと、MicrosoftやJPMorgan Chase、Linux Foundationといった一部の選ばれた組織に対して、Mythosクラスのモデルを初めて公開していました。当初の展開はごく少数の参加組織に限定されており、大半のエンタープライズ顧客はこの機能を利用できませんでした。

今回の拡大展開により、対象となるClaude Enterpriseユーザーは、認可済みのGitHubリポジトリの評価をモデルに依頼し、潜在的な脆弱性を提示させたうえで、開発者がレビューするための修正パッチの提案を受けられるようになります。

それぞれのセキュリティ上の欠陥について、Claudeは「CWE（Common Weakness Enumeration）分類、確信度と深刻度の評価、そして推奨される修正方法」を返します。

提案された修正が実装される前には、人間による承認が必要です。このhuman-in-the-loop方式は、開発者が制御権を保持し、誤ったパッチや不完全なパッチが適用されるリスクを低減することを目的としています。

さらに、Mythosモデルは、脆弱性やパッチといった特定の出力のみをユーザーに提供します。ユーザーがデータ窃取のような攻撃の実行をモデルに依頼しようとした場合、そのリクエストは拒否されます。

この保護機能により、開発者はMythosを正当な目的のみで利用することが保証されます。

一部のセキュリティ専門家には、セキュリティツールの開発や評価など、攻撃・防御双方の観点でモデルを利用する正当な理由がある場合もあります。Anthropicは、リスクの高いデュアルユース機能へのアクセスを必要とする対象専門家に対し、保護機能を調整するためのCyber Verification Programへの申請を案内しています。

依然として必要な人間の専門家

AI支援によるセキュリティ監査における主要な課題の一つは、どの発見が本物で、実際に悪用可能なものかを見極めることです。報告された脆弱性が誤検知であったり、現実的な条件下では悪用不可能であったり、あるいは直ちに修正するほどのリスクを伴わない場合もあります。

Ethereum FoundationのプロトコルセキュリティエンジニアであるNikos Baxevanis氏はこう述べています。「驚かされたのは、それらを見つけ出す作業そのものにはさほど手間がかからなかった一方で、本物のバグと、本物に見えるだけのものを見分ける作業には多くの労力を要したという点です」

これは、同氏がプロトコルチームとともに、イーサリアムのノードソフトウェアに存在する欠陥を洗い出すために先月実施したAI支援によるセキュリティスキャンに関する発言です。

これら新世代のフロンティアモデルが備える能力は軽視できません。開発者によるゼロデイ攻撃の発見を積極的に後押しするとともに、悪意ある攻撃者に対抗するための最先端ツールを防御側に提供しています。

こうした最先端ツールの提供に加え、AnthropicはAI支援によるセキュリティへのアクセスを希望するオープンソースプロジェクトに対し、3,500万ドル相当のクレジットを提供していることも明らかにしています。

エンタープライズのセキュリティチームにとって、Mythos 5はリポジトリレビューを加速し、潜在的な脆弱性の優先順位付けを助ける存在となり得ますが、その検出結果は最終的な判定ではなく、あくまで手がかりとして扱うべきです。組織は依然として、悪用可能性を検証し、提案されたパッチをレビューし、どの発見が修正に値するかを判断するために、経験豊富なセキュリティ専門家を必要とします。

関連記事： Anthropic’s Project Glasswing signals a potential AI-driven shift in cybersecurityでは、同社が以前実施していたプログラムが、限られたセキュリティパートナーのグループとともにAI支援による脆弱性研究をどのように検証していたかが解説されています。