Anthropicの研究者らは、小型のAIモデルがいずれ、侵害された民生機器の間で自律的に複製を繰り返し、データセンターのインフラなしで動作する分散型ネットワークを形成しかねないと警告しています。
William Zhou氏とDaniel Freeman氏が2026年10月12日に公開した研究は、安価なIoTハードウェアで、持続的かつ自己増殖するAIエージェントを動かせるかどうかを検証しています。
実験は、この脅威を構成する要素を実証しましたが、完全に自律した暴走AIワームを示したわけではありません。スマートTVボックスで動かせるほど小さいモデルは、複製プロセス全体を確実にやり遂げる段階には至っていません。
それでも研究者らは、今後も能力の向上が続けば、2026年末までにこの差が埋まる可能性があるとみています。研究チームは、1台あたり約55ドルのノーブランドAndroid TVボックス15台を使い、Gemma4-26B-A4Bを動かしました。
各デバイスのRAMは4GBで、モデルの層の一部を分担して保持し、全体で毎秒0.39トークンの推論スループットを達成しました。
この構成にはパイプライン並列を採用しており、1台の高性能ホストを必要とせず、接続された複数のマシンにモデルの計算を分割します。研究者らは、侵害したハードウェア上でモデルの重みを持ち運んで実行する自律エージェントを「重みベースの複製体（weight-based replicator）」と呼んでいます。
APIに依存するエージェントとは異なり、こうしたシステムはモデル提供元によるアクセス遮断の影響を必ずしも受けません。一方、推論環境の構築がボトルネックとして浮上しました。
エージェントは、ハードウェアの制約を把握し、互換性のあるソフトウェアを選び、依存関係を解決し、デバイス固有の不具合に対処しなければなりません。Qwen3.5-9Bは、試験した9種類のハードウェアのうち8種類で推論環境の構築に成功しており、比較的小さなモデルでも多様なコンピューティング環境に対応できることがわかります。
感染の拡大を評価するため、研究者らはGoogle Cloud上に隔離環境を構築しました。redroidエミュレーターでAndroid 15を実行する8つのノードを用意しています。エージェントが遭遇したのは認証のないAndroid Debug Bridgeのポートで、現実の侵入に比べてアクセスが大幅に容易になっていました。
GLM-5.2は、5回の試行のうち4回で8ノードすべてに到達し、残る1回でも7ノードに到達しました。ほかに試験したオープンウェイトのモデルは、一連の手順を最後までやり遂げられませんでした。
ただし、この実験では、GLM-5.2が自身の重みでこれらのデバイス上で動作する様子は示されていません。GLM-5.2の推論は別の推論サーバー上で実行され、標的にはLlama3.1-8Bを展開していました。
したがって、この結果が示したのは、有利な条件下でのオーケストレーション能力にとどまり、完全に独立して動作するIoTワームではありません。
年末までに能力がしきい値に達するという予測も、依然として不確実です。研究者らはこの予測を、将来の複製性能を直接測定したものではなく、一般的なベンチマークの傾向から導き出しました。
メモリと帯域幅が限られているため、展開の速度には制約が生じます。推論環境の構築に要する時間は、Qwen3.5-9Bで28〜51時間、最適化していないGemma構成で71〜150時間と見積もられています。
それでも、適応によって信頼性が向上する可能性はあります。Qwen3.5-9Bのインスタンスが前の世代からトラブルシューティングの記録を引き継いだところ、構築の成功率は当初の45%から、後の世代では61%〜84%に上昇しました。これは運用上の知識が受け継がれた結果であり、モデルの重みを自律的に書き換えたことを示すものではありません。
中心的な警告は、技術の収斂にあります。能力を高める小型モデルと、広く普及したエッジコンピューティングが組み合わされば、適応力のある分散型マルウェアが可能になりかねません。この研究が示すのは新たに浮上しつつある可能性であり、こうした自律型ワームがすでに出回っている証拠ではありません。
1万6,000以上のSOCチームがANY.RUNを活用し、脅威調査を効率化して手作業を削減しています。 チームで試してみる
翻訳元: https://cyberpress.org/anthropic-warns-ai-models/
