AIがIoTの広範な脆弱性を人間より速く、安価に発見

概要

  • セキュリティ企業のForescoutは木曜日、AIによって、重要インフラで広く使われる組込みソフトウェアの脆弱性発見が大幅にスピードアップしたと発表しました。
  • Forescoutの報告書によると、専用のAIハーネスを使った研究者らは、90時間で99件の脆弱性を発見しました。新技術なしでは9カ月かかる作業量だったと見積もっています。
  • 今回の研究は、重要なテクノロジーの欠陥を見つけるプロセスをAIが一変させつつあることを示す最新の事例です。それは良い面にも悪い面にも作用します。

詳細

Forescoutの研究者らは、人気の高い10種類のTCP/IPスタックにAIハーネスを適用しました。内訳は、同社がこれまでにTCP/IPの脆弱性調査で扱った7種類と、新たに加えた3種類です。対象にはオープンソースのものが多く含まれます。街路灯などの低消費電力IoTデバイスで使われるContiki、イーサネット対応のスマートデバイスで使われるEthernut、同様に軽量なTCP/IPプロトコル実装のlwIP、安全性が重視されるデバイスのリアルタイムOSで使われるwolfIPなどです。

Claudeモデルを用いたこのAIハーネスは、Forescoutが以前にテストしたTCP/IPスタックで33件の脆弱性を再発見しました。加えて、それらのスタックと、これまで未検証だったスタックの双方で66件の新たな脆弱性を見つけています。約半数はメモリ破壊のバグで、27%が整数に関する問題、16%が入力検証の不備、8%が制御フローまたはロジックの欠陥でした。

「この結果は、ハーネスがプロトコル解析コードのメモリ安全性のバグを見つけるのは得意でも、ロジックや設計上のバグは見逃すことを示しています」とForescoutの研究者らは記しています。AIハーネスに作業を指示する際に「汎用的なコードパターンに着目した静的解析ルール」を使ったことを踏まえると、意外な結果ではないとしています。

「メモリ安全性の問題はこうした静的解析ルールになじみやすい一方、ロジックのバグは実装ごとに異なります。誤検知と見逃しのバランスを適切に保ちながら捉えるのは、はるかに困難です」と研究者らは述べています。

報告書によると、ハーネスがロジックのバグを見つけたのは偶然でした。

Forescoutによれば、AIモデルは人間よりはるかに速くバグを見つけただけでなく、コスト面でも圧倒的に経済的でした。同社はトークン代に1,200ドルから2,300ドルを費やしたと見積もっています。これは、上級の脆弱性ハンターが手作業でコードをレビューする場合の人件費の約100分の1にあたるとしています。

Forescoutは、新たに発見した66件の脆弱性のうち54件を、該当製品のメンテナーに報告しました。残りは影響を受ける製品の最新版には存在しないと判断し、報告していません。報告したバグのうち24件は修正済みで、さらに29件についてメンテナーが調査を進めています。残る1件はEthernutプロジェクトに関するもので、開発者は脆弱性の開示に応答していません。

Forescoutは、今回の調査結果はAIの欠陥発見能力の高さと、重要なテクノロジーが依然として脆弱であることの両方を浮き彫りにしていると指摘しています。新たに見つかったバグは、IoT機器や産業用機器のメーカーに人気のソフトウェアに存在するため、報告書によれば「複数の業界にまたがる数百の製品」に影響する可能性があります。

研究者らが最も懸念するのは、すでにサポートが終了したにもかかわらず広く使われ続けている機器で、多くの脆弱性が見つかっていることです。AIハーネスは、サポート対象外の無線アクセスポイントで使われているTCP/IPスタックから、ハードコードされた管理者認証情報を含む7件の脆弱性を発見しました。

「このアクセスポイントのようなサポート切れのレガシー製品は数多く存在します」とForescoutは警告しています。「AIを活用した調査によって、ベンダーがパッチを提供できない危険な脆弱性を、迅速かつ安価に見つけ出せるようになりました」

また、自社の従業員らが、本人や他の専門家がすでに徹底的にレビューしていたプロジェクトで多数の脆弱性を発見したことにも、Forescoutは懸念を示しました。

「再分析した対象の中核的なネットワークプロトコル実装に、基盤となる脆弱性がこれほど多く何年も残り続けていたことには、かなり驚かされました」と研究者らは記しています。「私たち自身も、他の研究者も、ソフトウェアベンダー自身も、見逃していたのです」

翻訳元: https://www.cybersecuritydive.com/news/ai-vulnerabilities-critical-infrastructure-embedded-software/874499/

本記事は cybersecuritydive.com の記事を翻訳・要約したものです。