- Anthropicは、自己複製するAIワームが年内にも現実的になり得ると警告
- こうしたAIワームは、IoT機器からデータセンターまで幅広いハードウェアを乗っ取る可能性
- 小型モデルはすでに、未知のハードウェアへの適応と自己複製が可能
Anthropicは、IoT（モノのインターネット）機器上で動作する小型AIモデルの自己複製が、わずか数カ月のうちに現実的になり得ると警告しました。
自己複製するAIモデルには、一括で停止できる集中型のスイッチがありません。ネットワークを渡り歩いて他のIoT機器を見つけ出し、人間の制御を受けずに複製を重ねる恐れがあり、深刻な問題になりかねません。
Anthropicによると、こうしたAIワームは、乗っ取った複数のIoT機器で推論を実行しながら、増殖のたびにモデルの重みも一緒に持ち運ぶ可能性があります。IoT機器は「安価で、たいていは防御が脆弱」であるため、このワームにとって格好の標的になると、同社は指摘しています。
小型AIモデルは急速に拡散する可能性
自己複製AIワームの実現可能性を検証するため、Anthropicの研究者らは、パラメータ数250億のモデル「Gemma4-26B-A4B」を、1台あたり約55ドルの低価格な無名ブランドのAndroid TVボックス15台で動かしました。TVボックスをネットワークでつなぐことで分散推論が可能になり、概念実証が裏付けられました。
これは小型AIモデルに新たな可能性をもたらします。自己複製するAIモデルは、家庭や小規模事業者のIoT機器に存在する脆弱なサイバー防御を突き、モデルを「シャード」に分割して乗っ取ったハードウェアに分散配置し、全体でモデルを動かせる可能性があります。
AIワームはその後、デジタルのフリーランス仲介サービスで自らの推論能力を提供し、トークン費用を自力でまかなうことも考えられます。
さらに、セキュリティカメラやビデオ会議機器など、小型モデルを動かすためのAIチップを内蔵した最新のIoT機器は、AIワームの格好の標的になります。ハッカーはソーシャルエンジニアリングを使って、あるいは近い将来にはAIエージェントを使って、こうした機器に侵入する可能性があります。
Anthropicはまた、堅牢な防御を突破できる高度な複製型AIがデータセンターなどの高性能計算施設を標的にし、そのハードウェアを利用してさらに拡散する恐れがあるとも警告しています。
Anthropicが警告するもう一つの脅威は、API型の複製手法を使うAIワームです。この場合、モデルは自分自身をホストせず、人間の認証情報を盗んで商用AIプロバイダーにアクセスし、そのサービスを使って自らの推論費用を支払います。
AIの自己複製はまだ現実ではない…今のところは
自己複製するAIは差し迫った脅威ではないものの、研究者らは年末までに問題になり得るとみています。
こうしたAIワームにとって最大の障壁の一つは、未知のハードウェア上で動作できるようになることです。特定のIoTの脆弱性を狙うよう作り込む必要がある従来型の「ワーム」マルウェアとは異なり、AIワームは未知の環境やハードウェアに適応できる可能性があります。
Anthropicの試験では、Qwen3.5-9Bなどの小型モデルが、推論を実行するために未知のハードウェアへ適応できることがすでに確認されました。Qwen3.5-9Bは、研究者らが試したJetson Nano、Mac PC、RTX 4090などを含む9種類のハードウェアのうち、8種類に適応しました。
小型モデルは未知のハードウェアへの適応力が高い一方、大型モデルは素早く自己複製する能力に優れています。
実環境でのAIワームへの対策
Anthropicによると、AIワームには大きなトレードオフがあり、これは防御側に有利に働きます。AIワームは、隠密性と複製速度のバランスを取らなければなりません。そのため、新たに感染した機器に数ギガバイト規模のモデルペイロードが送り込まれたり、通常は通信しない機器同士で異常なトラフィックが発生したりするなど、目立つネットワーク上の痕跡が残るといいます。
ネットワークの隔離も、AIワームに対する有効な初期防御になります。研究者らは、Miraiボットネットの対策から得られた教訓を踏まえ、承認済みサイトのホワイトリストを導入し、それ以外へのアクセスはブラウザーから駆除手順の案内に誘導する方法が、AIワームの感染解消に役立つと考えています。
IoT機器のセキュリティ規制も、AIワームに対する防御の強化に寄与します。英国ですでに実施されているように、IoT機器へのデフォルトパスワードの設定をやめれば、AIワームの足がかりを防ぎやすくなります。自動更新や更新サポート期間の延長といった他の基準も、従来型マルウェアとAIワームのどちらに対しても、IoT機器の侵害を防ぐ助けになります。
