AIの「ミドルクラス」モデル、ハッキング能力が劇的に向上

ホワイトハウスや連邦政府機関が最先端AIモデルとそのハッキング能力への対応に苦慮する中、研究者たちは長期的にはより小型なモデル群、いわば業界の「ミドルクラス」の方がより大きな脅威になりかねないと警告しています。

XBOWが今週発表した調査によると、独自モデル・オープンソースモデルの双方において、攻撃的セキュリティのエコシステムで戦略的に重要となりつつあるモデル群が拡大しています。Z.aiのオープンウェイトモデルGLM-5.2、xAIのGrok 4.5、AnthropicのOpus 4.7、MetaのMuse Spark 1.1といったモデルは、政策立案者を悩ませる多くのハッキング・エクスプロイト関連タスクにおいて、依然として非常に高い性能を発揮しています。

「オープンソース版や、いわゆる第一線ではないモデルが最先端モデルに『追いついている』というより、むしろあるしきい値を越えつつあるということです。つまり、突然、より安価な価格で正味の価値を提供できるようになっているのです」と、XBOWでAI部門を率いるアルバート・ジーグラー氏は述べています。

半年前の時点では、必ずしもそうではありませんでした。当時、中堅クラスのモデルをテストした結果、「中程度に複雑な」エージェント型タスクの遂行に苦戦する様子が見られました。しかし現在のミドルクラスモデルは、そうしたタスクの大半をこなせるようになっています。比較的安価であるため、ユーザーは同じ課題を解くために何倍ものリソースを費やし、何度も繰り返し実行させることができるのです。

「これらのモデルは安価なので、より多くの時間をかけても構いません。そして後発でありながら、大型の最先端モデルを追い抜いてしまうのです」とジーグラー氏は語ります。「半年前はこれがうまくいきませんでした。というのも……複雑なタスクをエージェント的に、長い時間軸でオープンソースモデルに実行させようとすると、途中で迷子になってしまっていたからです」

現在ほぼ最先端モデルとみなされているGPT 5.5は、XBOWがこれまでに記録したエクスプロイトベンチマークの中でも屈指の好成績を収めました。

OpenAIのGPT 5からGPT 5.5への飛躍は、レポートによれば「自律型ウェブアプリケーションテストにおける2026年最も明確な進歩の一つ」だったといいます。GPT 5.5は「ホワイトボックス」「ブラックボックス」両方のシナリオ、すなわち被害者側のソースコードにアクセスできる場合とできない場合の両方において、従来のミドルクラスモデルを大きく上回る改善を見せました。また見逃す脆弱性も減少し、「見逃し率」(脆弱性を発見できない割合)はGPT 5.5では10%だったのに対し、GPT 5では4倍の40%に達していました。

GPT 5.5の登場は、「攻撃的なワークフローにおいて最先端モデルが何をできるかという、実務上の基準そのものを変えた」とXBOWのレポートは述べています。

ただし、この性能向上はそれだけにとどまりません。GPT 5.5はソースコードにアクセスできない状態でのテストでもより高い性能を発揮した一方、GPT 5はソースコードへの依存度が高いことが分かりました。

「この最後の結果は重要です。実際の攻撃者と同じようにコードを読まずに行動した結果、GPT-5.5はコードを読めた旧バージョンを上回ったのです」とXBOWのレポートは指摘しています。「成果につながったのは、ソースコードのパターンから推測する能力ではなく、稼働中のシステムに対して実際に到達し、脆弱性を証明する能力でした」

XBOWのテストでは、これらのモデルの成功にとってソースコードへのアクセスは、実際に稼働しているウェブサイトやソフトウェアとのライブなやり取りといった他の要因ほど重要ではないことが分かりました。

MythosやGPT 5.6のような最先端モデルは、個々のサイバーセキュリティタスクにおいて確かにより高い能力を持っていますが、その分トークンコストが桁違いに高くなる場合もあります。

Anthropicが今週発表した新たな研究では、Project Glasswingで使用されているMythos Previewと、Opus 4.8という2つのモデルをテストし、複数のエージェントが連携し情報を共有した場合、15件のオープンソースソフトウェアプロジェクトの脆弱性をどれだけ迅速に発見できるかを検証しました。

個別に作業し、それぞれ主要なディレクトリを割り当てられたエージェントのチームが発見した脆弱性は21件だったのに対し、連携するエージェント群(スワーム)は266件を発見しました。しかし、どちらのテストもそこに至るまでに膨大なトークンを消費しており、それぞれ650万トークン、2,700万トークンに達しています。最先端モデルへのアクセス自体の難しさに加え、こうした研究を賄えるだけの予算を持つ個人や組織はごくわずかです。

こうしたシステムの連携の仕方は、人間同士の協働とは大きく異なる場合があります。

別の実験では、ファンタジーをテーマにしたビデオゲームの開発においてエージェントがどれだけ連携できるかがテストされました。Opus 4.6のような初期のモデルは適切に連携できず「粗悪な」結果を生み出しましたが、MythosやOpus 4.8のような後継モデルはより良い結果を達成したものの、それはタスクにおいてほとんど連携をしないことによって実現されたものでした。

「ファンタジーゲームの実験でエージェントが見せた連携の欠如は、それぞれが独自に作業を進め、成果をほとんど統合できなかったという点で、人間が協調に失敗する際のパターンとおおむね似ています」とAnthropicのブログは述べています。

さらに、エージェントは人間よりも均質的であり、「人間であればもっと多様な行動を取るような状況でも、しばしば同じような振る舞いをする」といいます。

XBOWはMythos Previewについてもテストを行い、特にソースコードへのアクセスがある場合において、「卓越した」ソースコード解析能力とリバースエンジニアリング能力を示すことを確認しました。他のモデルと同様、稼働中サイトへのアクセスを失うと性能への影響は大きく、Mythosは脆弱性の発見には非常に優れているものの、その悪用(エクスプロイト)についてはやや効果が劣るとしています。

ジーグラー氏は、OpenAI、AnthropicMetaなど複数の企業で最近発生した、最先端モデルがサンドボックスを脱出しプロジェクト関連のインターネット領域に侵入した事例は、当然ながら議員たちに警鐘を鳴らすべきものであり、大規模言語モデルが持つ上位クラスの能力を如実に示していると述べています。

他の多くの業界と同様、サイバーセキュリティの分野でも、高価なツールより安価かつ高性能なツールが好まれます。広く採用され最も大きな影響力を持つツールは、贅沢品ではなく、手頃で効果的なものである傾向があります。

そして、こうしたモデルを法を遵守する組織が責任を持って活用するには依然として人間による管理が必要である一方、そのコスト面でのトレードオフは、エージェントが引き起こす巻き添え被害を気にかけない悪意あるハッカーにとっては、より魅力的に映る可能性があります。

「純粋に攻撃者の視点から言えば、すでにその段階に達していると思います」とジーグラー氏は述べています。

翻訳元: https://cyberscoop.com/mid-tier-ai-models-hacking-threat/

ソース: cyberscoop.com