Forescout社のVedere Labsの研究者たちは、Anthropic社のClaudeを使い、あるWAGO製プログラマブルロジックコントローラー(PLC)向けに開発したリモートコード実行(RCE)エクスプロイトを、別のWAGO製PLCへ移植する実験を行いました。結果としては成功したものの、それは研究者による広範な監督、数時間にわたる集中的な作業、そして数百ドルのAPI利用料を費やしたうえでのことでした。
出発点となったのは、WAGO 750-852 PLC向けにすでに開発されていたエクスプロイトで、CVE-2021-31886を悪用するものです。これはNucleus FTPサーバーに存在する認証前バッファオーバーフローの脆弱性で、認証されていない攻撃者が対象のPLC上で任意のARMシェルコードを実行できるというものです。
今回の実験でForescoutの研究者たちは、このエクスプロイトを関連はあるものの別のモデルであるWAGO 750-831向けに適応させ、さらにAIがその結果をフルのコマンド&コントロール(C2)インプラントにまで発展させられるかどうかを検証しようとしました。この実験は、水道分野のPLCを標的とした最近の攻撃を受けて実施されたものです。
ICSサイバーセキュリティ会議でサイバーフィジカルシステムの実践トレーニングが復活
研究者たちはClaude Codeを使用し、ターミナル、参照ファイル、リバースエンジニアリングツールのGhidra、そして物理的な実機へのアクセス権を与えました。AIはライブでの調査とファームウェアの静的解析を組み合わせてこの脆弱性の存在を確認したうえで、PLCをクラッシュさせるペイロードを生成しました。
このクラッシュによって脆弱性の存在自体は確認できましたが、これは実験のうちの簡単な部分にすぎませんでした。制御されたコード実行にまで持ち込むにははるかに長い時間がかかり、初期の試行ではAIが誤った手がかりを追いかけてしまうことも多く、研究者が解析の方向を修正し、追加の技術的な情報を提供する必要がありました。
作業が行き詰まっていた状況は、チームがClaude Sonnet 4.6からClaude Opus 4.6に切り替え、ファームウェアの詳細について不確かな点があれば必ず助けを求めるようモデルに指示したことで打開されました。突破口が開けたのは、AIが注入したコードが実行前に消去され続けていた原因を突き止め、ペイロードを維持できるようアプローチを調整したときでした。
この障壁を乗り越えると、Claudeは12分以内に2つの独立した動作するペイロードを生成しました。研究者たちは、最初の実行にたどり着くまでは困難で時間のかかる道のりだったのに対し、その後は急速な反復が可能になったというこのパターンこそが、こうした作業を大規模に展開する際のコストとして注視すべき点だと指摘しています。
一方、このRCEをさらに発展させようとした後続の試みは、それほど順調には進みませんでした。コマンド&コントロール用インプラントの開発を目指した新たなセッションで、Claudeはより複雑なペイロードを次々とテストしていきましたが、そのうちの1つがPLCのフラッシュメモリに割り当てられた領域に書き込みを行ってしまい、デバイスを恒久的に使用不能(文鎮化)にしてしまいました。
今回の実験にかかったコストについて、Forescoutは、RCE開発の最終段階だけでも8時間を超える1回のセッションで500ドル以上のAPI利用料がかかったと述べています。
Forescoutはブログ記事の中で、「[AIを誘導する研究者]であれば、AIを使わずともより短時間かつ低コストで、しかもPLCを壊すことなく最初のRCE移植を達成できたはずだ、という見方もあるだろう」と述べたうえで、次のように付け加えています。「現時点ではそれは事実だが、より重要な問いは、必要とされる専門家の介入の量が今後さらに減っていったときに何が起きるかということだ。人間の研究者もこの作業を並行して進めることはできるが、AIには、多くの関連する標的に対して同時にこの作業を行う際の限界費用を引き下げる可能性がある」
