Anthropicは、小型AIモデルがまもなく、Android TVボックスからスマートオーブンに至る民生用IoTデバイス間で自己複製できるようになる可能性があると警告しています。そうなれば、データセンターに頼らずにAIワークロードを実行できる分散型ボットネットが生まれかねません。
同社の実験では、モデルが未知のデバイスを特定し、ネットワークに接続したうえで、AIモデルを実行できる状態に整えられることが示されました。
研究チームは、GoogleのDeepMindが開発したGemma4-26B-A4Bモデルを、ノーブランドのAndroid TVボックス15台に分散配置することに成功しました。ただし、実際のIoTハードウェア上で動作する、完全に自律した自己複製型のAIワームを実証したわけではありません。
それでも研究チームは、小型モデルがこれまでのペースで改良を続ければ、年末までに自己複製を実現できる可能性があると見積もっています。
Anthropicは「私たちの実験からは、小型AIモデルが、スマートオーブンやノーブランドのAndroid TVボックスといった市販のモノのインターネット（IoT）デバイス上で自己複製できるほどの能力を備えるまで、あと数か月しかない可能性が示唆されます」と警告しています。
「この種の複製体は、停止させるべき中央の拠点が存在しないため、止めるのが難しくなります。ただし、動作は遅いかもしれません（倍増に要する時間は数日）」
複製実験
Anthropicは、安価なAndroid TVボックスと、Qwen3.5-9B、Gemma4-26B-A4B、Llama3.1-8B、Opus 4.8、GLM-5.2の各AIモデルを使って複製実験を行いました。モデルにはそれぞれ異なる役割が割り当てられています。
Qwen3.5-9BとGLM-5.2は、Llama3.1-8B（推論）のセットアップと拡散を担うエージェントとして動作しました。一方、Gemma4-26B-A4Bは、モデルがAndroid TVボックス15台にまたがって動作しうることを示しました。Opus 4.8は、Qwenのアドバイザーとして別途テストされています。
実験は、標的が認証なしのADBアクセスを公開しているという、単純化した条件で実施されました。
実験の結果、Qwen3.5-9Bは、テストした9種類のハードウェアのうち8種類で、Llama3.1-8Bの実行に必要なソフトウェアのインストールと設定に成功しました。
GLM-5.2は、制御されたエミュレートネットワーク内の8ノードすべてに、5回の試行のうち4回で到達しました。しかし、ほかのモデルは一連の工程を安定して完遂できませんでした。
Anthropicによると、過去の試行で得たデータを保持させると成功率が向上しました。Qwen3.5-9Bの成功率は、初期の45%から後の世代では84%に上昇しています。
より高性能なOpus 4.8モデルを使ってQwenの推論を支援させても、測定可能な改善は見られませんでした。
Anthropicは、これらの結果と過去のデータをもとに、パラメータ数が300億以下のモデルが、2026年末までに必要な能力水準に達する可能性があると予測しています。
検証対象のハードウェアでは、推論環境の構築には時間がかかります。Qwen3.5-9Bで28〜51時間、Gemma4-26B-A4Bで71〜150時間を要するため、防御側には検知と対応に十分な時間があります。
しかし、将来のモデルではこの時間が短縮される可能性があり、IoT向けのより強力なセキュリティ対策の導入が、近く優先課題になるかもしれません。
提案されている防御策には、大規模なモデル転送や異常なデバイス間通信の検知、ハニーポットによるペイロードの検査、感染した加入者の隔離、IoTのセキュリティ初期設定の改善などがあります。
Anthropicの警告は差し迫った脅威に基づくものではありません。セキュリティ設定を緩め、拡散という目標を明示した条件でも、この段階ではワームを端から端まで生成する能力は実証されなかったためです。それでも、IoTセキュリティを強化すべきだというメッセージは変わらず有効です。
