AIがサイバー防御側を追い越す恐れ、議会で証言

新技術が、外国の敵対勢力や犯罪ハッキング集団に新たな優位性を与える構えを見せる中、ネットワーク防御側は追随に苦しんでいる。

人工知能、量子コンピューティング、サイバーセキュリティ分野のリーダーらは水曜日、下院国土安全保障委員会のサイバーおよび監督小委員会に対し、AIによる自動化と高度な新興技術の能力が、脅威環境を再形成する持続的な力になりつつあると証言した。

レガシーシステム、時代遅れの防御、動きの遅いセキュリティプロセスは、新世代の攻撃ベクトルにさらされつつある。Googleでプライバシー・セーフティ・セキュリティエンジニアリング担当副社長を務めるロイヤル・ハンセン氏は、敵対者がすでに、実行中に挙動を動的に変えられるAI駆動型マルウェアを試していると述べ、検知・封じ込めがより難しい、より自律的で適応的な攻撃への移行を示すものだとした。

Googleの脅威インテリジェンスグループは、この1年で敵対者が「実運用の中で新しいAI対応マルウェアを試している」方向へシフトしていることを確認したと、ハンセン氏は合同公聴会で述べた。研究者は「LLMを使って悪意あるスクリプトを生成し、検知回避のために自分のコードを難読化し、マルウェアにハードコードするのではなく、必要に応じて悪意ある機能を作り出すためにAIモデルを用いる」マルウェア・ファミリーを特定したという。

脅威アクターは、研究者が初の「本格的に高度なAI対応攻撃キャンペーン」と呼ぶものを開始しており、自動化システムを用いて、スピアフィッシング、偵察、適応型マルウェアを、従来の人手主導の運用を超える規模へと拡大している。過去1年の業界報告では、クラウドおよびSaaS環境において、IDシステムや盗まれた認証情報をマシンスピードで悪用するAI駆動の攻撃が急増していることが記録されており、攻撃者は従来型の防御を回避し、より一貫して検知を逃れられるようになっている。

Anthropicでフロンティア・レッドチーミング責任者を務めるローガン・グラハム氏は、同社チームが最近、中国の国家支援グループに関連するとみられる、高度に自律的でAIが統率したサイバー諜報キャンペーンの「文書化された初の事例」だと考えるものを妨害した経緯を説明した（参照：AIツールがサイバー攻撃の大半を実行、Anthropicが説明）。

グラハム氏によれば、フロンティアAIモデルが悪用され、数十の標的に対する偵察、脆弱性スキャン、エクスプロイトの大部分が自動化された。これにより、単一の人間オペレーターが、連携したハッキングチームに相当する作業を指揮できる状態になったという（参照：「バイブ・ハッキング」の事象の地平線が近づく、Anthropicが警告）。

「高度で潤沢なリソースを持つ脅威アクター――AIモデルの安全策を回避し、真の意図についてAIモデルを欺くために多大な労力をいとわない者――は、いまやフロンティアAIモデルから意味のある運用上の価値を引き出せる」とグラハム氏は述べた。

このキャンペーンは新規のエクスプロイトではなく既知の手法に依存していたものの、AIの利用によって実行の速度と規模が劇的に増大し、防御側がラテラルムーブメントを検知したり、被害が発生する前にデータ流出を止めたりする機会が少なくなる形でタイムラインが短縮されたと、グラハム氏は述べた。同氏は、この出来事を、安全策があるにもかかわらず、能力の高い脅威アクターがより自律的なモデルを兵器化しようとする可能性を示す初期の兆候として扱うべきだと警告した。

自動化が参入障壁を下げる中、かつては高度な国家主体に限られていた能力が、金銭目的の犯罪集団や思想的動機を持つアクターを含む、はるかに広い敵対者層に利用可能になりつつあると、専門家は議員に伝えた。元最高情報セキュリティ責任者（CISO）で、Seven Hill Venturesの創業パートナーであるマイケル・コーツ氏は、AIの進歩により、複雑なサイバー作戦の実施に通常必要とされるコスト、技能、時間が急速に縮小していると述べた。

コーツ氏は、AI対応の攻撃が数時間から数分で展開される一方で、組織のインシデント対応時間は数日から数週間単位で測られていると警告した。このミスマッチは、大規模なセキュリティチームや高度に自動化された防御を欠く小規模組織や重要サービスに不均衡な影響を与え、潤沢なリソースを持つ攻撃者と、過重負担の防御側との格差を拡大させるという。

パネリストによれば、量子コンピューティングは今後数年で、別の不安定要因をもたらす可能性がある。特に、今後10年で成り立たなくなるかもしれない暗号学的前提に基づいて構築されたシステムにとっては深刻だ。Quantum XChangeのCEOであるエディ・ゼルビゴン氏は、敵対者がすでに、量子能力が成熟した後に復号できることを見越して、現在の暗号化データを収集していると警告した。

「アルゴリズムが破られたときに何が起きるのか――それは『もし』ではなく『いつ』の問題だ」とゼルビゴン氏は述べた。「あらゆる政府機関のCIO、企業のCISO、セキュリティベンダー、ネットワーク機器メーカーは、その問いに答えられなければならない。」

ゼルビゴン氏は議員に対し、量子への備えを、即時のインフラおよびアーキテクチャ上の課題として扱うよう促し、より広範なネットワーク設計に対処せずにアルゴリズムを入れ替えるだけでは、重要システムが露出したままになると主張した。対応を先延ばしにする機関は、機密データが、後から遡って保護できる限界点を超えて蓄積されることを許し、将来の被害を増幅させるリスクがあると同氏は警告した。