AI搭載のサイバー攻撃キットは「時間の問題」だとGoogle幹部が警告

上級のGoogle社員によれば、サイバー犯罪者が大規模にサイバー攻撃を確実に自動化できる「まったく違う世界」に向けて、CISOは備えなければならない。

広告とクラウドの巨大企業でセキュリティエンジニアリング担当副社長を務めるHeather Adkinsは、述べたところによると、それが現実になるのはおそらく数年先だが、サイバー犯罪者はすでにワークフローの小さな部分を強化するためにAIを使っており、完全なエンドツーエンドのツールキットが開発されるまでそう時間はかからないという。

Google Cloud Securityポッドキャストでの対談で、Adkinsは、悪党たちがすでにAIを小さな作業――文法、フィッシング文面のスペルチェック、その他の生産性向上――に使っていると指摘した。

「誰かがこれらすべてをエンドツーエンドでまとめ上げるのは時間の問題です」と彼女は言った。「私が最も恐れているのは、どんな企業でもハックするようモデルにプロンプトできる能力を誰かが開発し、モデルが1週間後にルートプロンプトを持ち帰ってくることです。もしそれが起きるなら、今後6〜18カ月の間にゆっくりと立ち上がっていくと思います。

「防御側も同じツールを手に取り、同じ目的で使い始めているのも見えています。だから、それほど衝撃的には感じないかもしれません。もちろん、状況はまったく違う方向に進む可能性もありますが、こうしたことは誰もが念頭に置くべきで、まったく違う世界に備える必要があります」

Google Threat Intelligence Group（GTIG）は、攻撃者がAIをどう試しているかに関する最新動向の概要を公開し、マルウェアのファミリーがすでにLLMを使って被害者データを盗むためのコマンドを生成していると指摘した。

GTIGのVPであるSandra Joyceは、中国、イラン、北朝鮮はいずれも、それぞれの攻撃の異なる段階を支援するためにAIツールを悪用していると付け加えた。これには、初期のネットワーク偵察やC2開発に加え、前述のフィッシング文面やデータ窃取コマンドも含まれる。

Googleの上級社員たちが恐れているのは、こうした小さな構成要素が連結され、今日のエクスプロイトキットに似た機能を提供するようになることだ。

GoogleのCISOオフィスのセキュリティアドバイザーであるAnton Chuvakinは次のように述べた。「私にとって、より深刻な脅威はAPTではなく、Metasploitの瞬間（20年前にエクスプロイト・フレームワークが容易に入手できるようになった時）です。脅威の民主化が心配です」

MetasploitやCobalt Strikeのようなエクスプロイトキットは、当初は正当なペンテストツールとして始まったが、ほどなくクラック版が攻撃者の手に渡り、侵害後の活動を大幅に容易にした。専門家は、AI搭載ツールキットが誤った人々の手に渡った場合にも同様の結末を懸念している。

Adkinsにとって、AI対応攻撃の最悪のシナリオは、例えば自律的に実行されるランサムウェアのツールキットを拡散し、コンピュータを一斉に暗号化するようなMorrisワーム型の出来事のように見えるかもしれない。

「あるいは、実際には何もしなかったのに、みんながパニックになって何千ページもの政府報告書を書いたConfickerワームのようなものかもしれません」と彼女は付け加えた。

「もしかすると利他的な人が世界に放ち、たくさんのバグを修正するかもしれない。本当に、誰がピースを組み合わせるのか、そしてその動機次第です」

現時点では、LLMはまだ基本的なところで苦戦している。善悪を見分けることから、脆弱性を探す際に奇妙な思考経路から切り替えられないといった、より技術的な問題まで、AIの最良または最悪を目にする前に、いくらかの進歩が必要だ。

しかし、その日がいつか来る、あるいは来たとき、攻撃者は防御側に対してさらに大きな先行者利益を得るかもしれない。犯罪者がAIツールに特定の組織を侵害するようプロンプトでき、被害者に対応の時間がほとんど残されないなら、それは善良な側に、ポストAI時代における成功の定義を見直すことを迫る可能性がある。

ポストAIのサイバーにおける成功は、攻撃者がネットワークに侵入したかどうかではなく、どれだけ長く内部に留まれるか、そしてどれだけ小さな被害しか与えられないかで測られるようになるかもしれない。

Adkinsは、クラウドの文脈では、AI対応の防御は悪意ある活動を検知したら単にインスタンスを停止すべきだが、問題を引き起こさないよう、これらのシステムの実装は慎重に行わなければならないと述べた。

「これらの知的推論システムをリアルタイムの意思決定の背後に置き、信頼性の問題を起こさずに現場の意思決定を妨害しなければなりません」と彼女は言った。「人間の承認が必要かもしれない。あるいは、1つのインスタンスを停止して別のインスタンスを立ち上げる。

「オン／オフのスイッチ以外にも選択肢はありますが、リアルタイムの妨害能力や劣化について考え始め、情報作戦のプレイブック全体を使って戦場を変え、AI攻撃者を混乱させる必要があります。特に、彼らは少し暗闇の中で手探りしていて、人間の攻撃者よりも回復力が低い可能性があるからです」®