セキュリティ研究者たちは先ごろ、オープンソースモデルがAI搭載マルウェアの作成を可能にすることを実証しました。具体的には、自律的なネットワーク伝播が可能な実験的なコンピュータワームを作り上げました。ただし、このプロトタイプはあくまで隔離された仮想環境内のみで使用されており、本番ネットワークに対する即座の脅威はゼロです。
自律型マルウェア伝播の定義
コンピュータワームは、自己複製能力という点において従来のマルウェアと本質的に異なります。添付ファイルのダウンロードや不正なソフトウェアの実行といったユーザーの操作を必要とせず、一度侵入に成功すると、ネットワーク内の次の標的を能動的に探索します。従来の旧来型ワームは、開発者があらかじめすべての処理手順を定義した決定論的なスクリプトで動作していました。
機械知性がもたらすパラダイムシフト
しかし、人工知能はこの硬直したパラダイムを根本から覆します。組み込まれたモデルにより、マルウェアは置かれた環境に動的に適応できるようになります。その結果、静的なルーティンを繰り返すのではなく、固有の脆弱性を発見して攻撃の方向性を変化させることが可能です。トロント大学コンピュータサイエンス学科のDavid Lee教授は今回の研究結果を検討し、この実証はサイバーセキュリティの実務者にとって重大な警告であると評しました。
オープンアクセスAIアーキテクチャの活用
注目すべき点として、研究者たちはAnthropicやOpenAIのような企業が提供するプロプライエタリモデルを使用しませんでした。代わりに、インターネット上で無償公開されているオープンソースモデルを利用しました。この選択は重要な現実を浮き彫りにしています。現代のデジタルリスクは、一部のエリート開発者や企業のセーフガードだけで制御できるものではありません。商用サービスが厳格なアライメントフィルターを適用していたとしても、オープンウェイトモデルは悪意ある行為者に引き続き利用可能な状態にあります。
抽象的なサイバー脅威の具現化
この研究はまだ正式な査読を待つプレプリントの段階ですが、その示唆するところは即時的な意味を持っています。著者らは、自律的なAI駆動のサイバー脅威が理論から現実へと移行したと主張しています。この実験的プロトタイプは危険な設計原則を実証することに成功しました。すなわち、インテリジェンスモデルが自己伝播型マルウェアのコアコンポーネントとして機能し得るということです。
重要インフラへの組織的脅威
このシステミックリスクが個々のワークステーションにとどまらないことは明らかです。現代社会は、水処理・下水道・電力網の管理を相互接続されたネットワークに大きく依存しています。さらに、こうしたネットワークは金融機関、医療施設、物流インフラ、自治体行政も支えています。自律型ワームが未知の脆弱性を迅速に悪用する能力を獲得した場合、国家の重要インフラは前例のないリスクにさらされることになります。
自律型シリコンのデュアルユース特性
一方で、この技術的な枠組みは防御面においても大きな有用性を持っています。同一の機械学習モデルを用いてソースコードの監査、ソフトウェアの欠陥検出、パッチ適用の迅速化が可能です。Lee教授は、攻撃的AIと防御的AIを対称的な鏡像プロセスとして巧みに表現しています。人工知能が悪意ある能力を増幅させる一方で、まったく同じ手法を企業の防御強化に活用することもできるのです。
静的シグネチャ防御からの脱却
今回の研究は最終的に、従来のシグネチャや静的な検知ルールが適応型マルウェアに対してまったく無力であることを証明しました。ソフトウェアが伝播中に動作プロファイルを動的に変化させると、従来のツールでは対応できません。そのため、ネットワーク防御者には次世代のテレメトリエンジンが必要です。こうしたシステムは、静的なファイルハッシュに頼るのではなく、攻撃の根本的な意図や進化する攻撃ロジックを意味的に分析できる機能を備えていなければなりません。
翻訳元: https://meterpreter.org/ai-powered-computer-worm/
