アンチウイルスベンダーやセキュリティ系スタートアップは、熟練アナリストさながらにマルウェアを読み解くAI機能を次々と打ち出しています。しかしセキュリティチームの現場から聞こえてくるのは、もっと地味な話です。新たな論文によれば、ディスク上のコンテンツを調べてプログラムが悪意あるものかどうかを判断する静的解析は、生成AIを機能させることが依然として最も難しい領域の一つだといいます。
問題の根深さは、その規模の大きさに由来するところが大きいといえます。他分野の標準的なデータセットは、セキュリティのサンプル1件と比べると小さく見えてしまいます。コンピュータビジョンにおけるディープラーニングの火付け役となったベンチマーク「ImageNet」は、画像をリサイズすれば約17GBに収まり、100万枚以上の画像を含んでいます。ところが日常的な静的解析では、他の研究分野のデータセット全体を上回るサイズの単一ファイルを処理することになります。
データセット全体を上回る1ファイル
問題の発端は、この巨大な入力データにあります。プログラム1つでディスク上40GBを超えることもあり、マルウェアの作者はわざとファイルを水増しして、検査を重く遅くしようとします。言語や画像処理で成果を上げているAIツールは、注目すべき情報が近接して存在するという単純な前提に依拠しています。ところがソフトウェアはまるで違うルールで動いています。プログラムは内部で処理があちこちに飛び回るため、連続して実行される2つのステップが、ファイル内では遠く離れた場所に存在することも珍しくありません。この特性一つだけで、現行モデルのデータ読み取り方式は狂わされてしまい、テキストや画像処理で輝きを放つシステムも足場を失ってしまうのです。
コーディングアシスタントにあって、マルウェア解析にないもの
AIがこの種の作業を克服した証拠として、コーディングアシスタントがよく引き合いに出されます。しかし研究者たちは、この比較を脇に置きました。コーディングアシスタントはコードを実行し、元のソースを保持したまま、誰も欺こうとしない環境で動作します。コードを書くという行為は、人の意図を仕様書へと変換する作業だからです。
一方、静的解析はその逆方向に進みます。コンパイル済みの機械語コードから、そこに埋め込まれた意図や手法を復元しなければなりません。テストスイートであればコードが動作するかどうかを確認できますが、マルウェアの判定を裏付けるには、訓練を積んだアナリストでも数時間から数週間を要することがあります。
初期導入事例からの知見
初期のデモンストレーションは、期待感と謙虚な現実認識の間を揺れ動く結果となっています。CiscoとGoogleはいずれもAIエージェントにマルウェア解析を担わせており、エージェントは実際のタスクを最後までやり遂げることができています。ただし速度は別問題です。あるデモでは、深刻な防御機構を持たず規模も控えめな単一サンプルの解析に、複数のエージェントが46分を費やしました。専門家が同じ作業を行うコストと比較すれば、それでも採算は取れる可能性があります。特に、処理しきれないほどのアラートに埋もれているチームにとってはなおさらです。
より大きな問題は、こうしたツールがそもそも役に立っているのかという点です。ある研究では、生成AIを使用したセキュリティ専門家の成績は、AIなしで作業した初心者と変わらず、しかもツールの誤りを見抜くのに苦労したという結果が出ています。482種のリバースエンジニアリングツールを対象とした調査では、採用が進まない要因として使い勝手の悪さと、アナリストの作業スタイルへのサポート不足が挙げられました。自動化バイアスに関する研究も一つの警鐘を鳴らしています。AIのリスクについて教育を施しても、そのバイアス自体は解消されないというのです。
日々標的を変える攻撃者
セキュリティ分野には、他の多くの分野が抱えずに済む厄介な事情があります。相手側が適応してくるという点です。攻撃者は新たな防御策が登場するたびにそれを研究し、対応を変えてきます。そのため、昨年の脅威をもとに構築されたテストは、すでに過去のものとなった世界を記憶しているモデルを高く評価してしまいかねません。実際の攻撃を食い止める上で最も効果を発揮するのは最新のデータであり、古いベンチマークはシステムの実力を測る指標としては心もとないものになってしまいます。
生データの共有自体も頭の痛い問題です。正規ソフトウェアのライブラリをそのまま配布すれば著作権法上の海賊行為に当たりかねず、各企業は競争上の優位性を守るため、VirusTotalのようなサービスを通じて古い、あるいは部分的な検知ロジックしか公開しません。結果として、外部の研究者は必要な正解データを十分に得られない状況に置かれています。また、マルウェアが実際の侵害試行に関与するのは5件に1件にも満たず、静的解析はもっと広大な分野の中の、扱いやすい一事例にとどまっているのが実情です。
アラート、説明、そしてアナリストの関与
最前線において最も重要なのは「説明可能性」です。セキュリティオペレーションセンター(SOC)のアナリストは、1シフトで数百から数千件のアラートを処理することがあり、その後に襲ってくる疲弊は現実のものです。判断の根拠を示してくれるツールであれば、検知したアラート一つひとつで時間を節約でき、インシデント発生後の後処理――攻撃者を再び締め出す作業からパッチの構築に至るまで――においてもその価値を発揮します。「説明可能性は、あってもなくてもよいものではありません」と論文の著者らは述べています。
翻訳元: https://www.helpnetsecurity.com/2026/07/09/research-ai-in-cybersecurity/
