AIは防御側よりも攻撃側を大きく利するとの見方、英当局者が指摘

攻撃者ほど自由に人工知能を活用できる段階に、防御側はまだ達していない――英国立サイバーセキュリティセンター(NCSC)の高官が月曜日、こう警鐘を鳴らしました。

NCSCでアーキテクチャ担当の最高技術責任者(CTO)を務めるデイブ・チズモン氏は、ブログ投稿の中で、この不均衡によりAIを活用したサイバー攻撃が今後増加する可能性が高いと述べました。自動化された防御策がそのペースに追いつくのに苦労する一方で、攻撃側は先行しやすいためです。

この警告の背景には、AIがサイバーセキュリティの将来をどのような方向に導くのかという懸念があります。今年の夏には、GoogleやAnthropic、OpenAI、Metaの各モデルが、セキュリティ評価の過程で実際の本番システムに侵入する事例が確認されました。これらのケースの大半で、モデルは漏えいした認証情報の再利用など、基本的な手法で侵入に成功していました。

6月には、GCHQも参加するファイブアイズ(Five Eyes)情報同盟が、最先端のAI(フロンティアAI)が攻撃・防御双方のサイバー作戦のあり方を、数年ではなく数カ月という単位で一変させる可能性があると警告していました。NCSCはこのGCHQの傘下機関です。

同様の懸念は他の当局からも表明されています。G20の金融安定理事会議長から、中国共産党の情報機関トップに至るまで指摘は相次いでいますが、その「根本的な変容」の具体的な中身は依然として明らかになっていません。

ファイブアイズの警告以降、ソフトウェアメーカー各社はこれまでにない速いペースでパッチを公開してきましたが、それに見合うサイバー攻撃の増加は今のところ観測されていません。

チズモン氏は、AIが攻撃側に有利に働く理由について、セキュリティ研究者ハルヴァー・フレイク氏の格言を引用して論を切り出しています。「攻撃の問題はすべて技術的な問題であり、防御の問題はすべて政治的な問題である」というものです。

攻撃者の作業は本質的に技術的なものであるため、成功の指標が明確だとチズモン氏は書いています。エクスプロイトが成功したか、マルウェアが「コールホーム(外部との通信)」に成功したか――こうした明確なシグナルは、自動化ツールが得意とする領域です。

一方、防御側の作業にはそうした明確なシグナルがないと同氏は付け加えます。防御は「うまくいったかどうかを自動システムに伝える明確な成功状態を、必ずしも持たない」ためです。

さらに、単に失敗するだけで済む攻撃とは異なり、防御行動は守ろうとしている稼働中のシステムそのものに対して実行されます。誤った一手――例えばVPNを停止させてしまうパッチや、業務機能を壊してしまうファイアウォールのルールなど――は、防御側がまさに防ごうとしていた障害そのものを引き起こしかねません。

チズモン氏によれば、こうした失敗のリスクがこれほど大きく、成功の測定もこれほど難しい以上、一つひとつの行動を人間が判断し、その責任を負う必要があります。同氏はさらに、企業のIT機能を停止させる攻撃と、同じ結果を招いてしまう不手際な防御行動との間に、経営陣の一部はほとんど違いを見出さないだろうと指摘します。「唯一の違いは、取締役会が電話越しに攻撃者を怒鳴りつけることはできない、という点だけだ」というわけです。

このため防御側は「攻撃者と同じようにAIを活用することは到底できない」とチズモン氏は述べ、これを「都合の悪い真実」と呼んでいます。

この発言の背景には、NCSC自身がサイバーシールド(Cyber Shield)と呼ばれるサイバー防御能力の構築を進めている事情があります。これは、政府ネットワークや重要インフラ全体のセキュリティ上の弱点を発見・修正するために、自律型(エージェント型)AIシステムを展開しようという取り組みです。

それでも、「エージェント型サイバー防御の可能性を引き出すために[防御側が]できることは多くある」とチズモン氏は記しています。同氏によれば、組織はまず、脅威インテリジェンスを人間のアナリスト向けに要約させるといった、リスクの低い用途から着手すべきだといいます。NCSCのブログでは、自動化のリーチ(及ぶ範囲)、影響度、重要度、予測可能性、可逆性といった観点からリスクを判断するための枠組みが提供されています。

ただし同氏は、自律的な防御行動を安全に導入できる水準にまで高めることは、依然として未解決の課題であると認めています。サイバーシールドの取り組みの一環として、NCSCは近くこうした課題の解決策を探るための研究アジェンダ「AI for Cyber Defence」を公表する予定です。

チズモン氏は、現時点でエージェント型防御はまだ信頼して任せられる段階になく、その実現には「時間と労力、そして研究が必要になる」と釘を刺しています。その上で、組織は「エージェント型防御が登場して自分たちを守ってくれるのをただ待つというリスクは取れない」のであり、「従来のやり方」でセキュリティ対策の改善を続けるべきだと述べています。