ForescoutのVedere Labsによる新たな研究により、人工知能が産業システムを標的とした高度なサイバー攻撃の開発における障壁を下げ始める可能性があることが示されました。
この研究は、運用技術(OT)セキュリティにとって重要な意味を持ちうる疑問への答えを探るものでした。AIは、あるプログラマブルロジックコントローラー(PLC)向けに開発されたリモートコード実行(RCE)エクスプロイトを、別のPLCでも動作するように適応させることができるのでしょうか。
研究者らは、既存のRCEエクスプロイトを2種類のWAGO製PLCモデル間で移植する作業にAIを活用し、この問いを検証しました。実験は最終的に成功し、AIが組み込み環境における高度に専門的なエクスプロイト開発を支援できることが示されました。
しかし、その結果はAIが単独ではまだこれを実行できないことも明らかにしました。
依然として人間による大幅な支援が必要
実験を通じて、研究者らはAIが誤った手がかりや誤った前提、技術的な行き詰まりに陥るたびに、これを導かなければなりませんでした。
最終的なエクスプロイトの開発には8時間32分を要し、APIトークン代として535.74ドルを消費しており、依然として大きなコストと人手が必要であることが浮き彫りになりました。
ただし、信頼できるコード実行が達成された後は、プロセスは大幅に加速しました。AIは数分のうちに、動作する複数のネットワークペイロードを生成できたのです。
この違いは重要です。AIはエクスプロイト開発の最も複雑な段階では依然として苦戦する可能性があるものの、初期の技術的な障壁さえ乗り越えれば、その後の段階を急速に自動化できる可能性があるからです。
この実験は、AIに物理的なテクノロジーへの操作を許した場合のリスクも示しました。研究者らがコマンド&コントロール型インプラントの開発を試みたところ、対象のPLCは永久に使用不能(文鎮化)になってしまいました。
AIが進化した場合、何が起こるのか
今回の調査結果は、産業インフラや重要インフラの将来的なセキュリティについて、より広範な疑問を投げかけています。
PLCのエクスプロイト開発には、ハードウェア、ファームウェア、アーキテクチャ、産業用プロトコルに関する専門知識が必要であり、これが攻撃者にとって比較的高い技術的障壁となっています。しかし、AIはその障壁を徐々に下げ始める可能性があります。
モデルの性能が向上するにつれ、関連する産業機器のファミリー全体にわたって既存のエクスプロイトを適応させるために必要な時間、専門知識、コストは大幅に減少する可能性があります。
これは、組織が脆弱性をどう評価するかにも変化をもたらす可能性があります。現在は悪用が困難あるいは高コストとみなされている脆弱性も、AI支援による攻撃能力の向上に伴い、格段に悪用しやすくなるかもしれません。
したがって、重要インフラの運用者にとってより大きな問題は、AIが今日の時点で高度なPLC攻撃を自律的に開発できるかどうかではありません。Forescoutの実験は、現時点ではそれが確実にはできないことを示しています。
むしろ組織は、ますます自律化するエクスプロイト開発が、多数の外部露出した産業機器と組み合わさり、それらを守っていた技術的障壁が消え始めたときに何が起こるかを検討する必要があります。
Forescout Vedere Labsによる調査の全文はこちらからお読みいただけます。
