小型のAIモデルが、データセンターを使わずに市販のIoT機器間で自己複製できるようになるまで、あと数カ月かもしれません。Anthropicのフロンティア・レッドチームによる研究で明らかになりました。
この研究は、感染した機器上で独自のモデルを直接動かすAIワームを対象としています。こうしたマルウェアは、停止させるための中枢が存在しないため、止めるのが困難です。ただし、拡散の速度は遅いとみられます。
研究チームは、Android搭載のノーブランド製テレビボックス15台を1台あたり約55ドルで購入しました。260億パラメータのオープンウェイトモデルを15台に分割して動かしたところ、処理速度は毎秒0.39トークンでした。
脆弱性の悪用については、これまでの研究ですでに検証されています。そこで今回は、見慣れないハードウェア上でAIの推論を稼働させられるかどうかに焦点を当てました。90億パラメータのモデルは、テストした9種類のハードウェアのうち8種類で推論の稼働に成功しました。
研究チームはさらに、エミュレートしたAndroid機器8台からなる閉じたネットワークで、複製サイクル全体を検証しました。ハッキングの段階は意図的に単純なものにしています。テストしたオープンウェイトモデルのうち、これを完遂したのはGLM-5.2だけで、5回中4回で8台すべてに到達しました。
Anthropicは、この結果を現実世界での成功率の上限とみています。一方で、Miraiなど過去のIoTボットネットは、メーカー出荷時の初期認証情報を試すだけで拡散したと指摘しています。
300億パラメータ以下のモデルは、個々の工程の多くをすでにこなせますが、それらを連結する際にミスを犯します。これまでのペースで改善が続けば、2026年末までにGLM-5.2の水準に達するとAnthropicは予想しています。
「小型の重みベースの複製型マルウェアは、その後まもなく可能になるかもしれません」と、同社は述べています。
Anthropicは、200万台超の機器に感染したKimwolf級の巨大ボットネットについても検討しました。テレビボックス15台ごとに260億パラメータのモデルを1つ動かすと仮定すると、このボットネットは約13万3000個のコピーをホストできる計算です。ただし、全体の計算能力はNvidia H100 GPU約40基分にしかならず、1回の複製には1日以上かかります。
[ 関連記事: AI Turns Familiar Cyberattacks Into a Race Against Time ]
特定の機器向けに作られた従来のボットネットとは異なり、AIワームは見慣れないハードウェアを自力で解析できるとAnthropicは説明しています。しかし、防御側にも優位な点は残っています。
大容量のモデル転送や、通常は通信しない機器同士の持続的なトラフィックは、ISPの監視で目立ちます。加えて、デフォルトパスワードの廃止など、メーカーがより安全な初期設定を採用すれば、攻撃対象となる機器も減ります。
完全な自己複製型の不正AIはまだ存在しないとAnthropicは述べています。ただ、モデルは連鎖する各工程の精度を高めており、学習した内容をコピーに引き継ぐ能力も向上しているとしています。
