Anthropic advierte que modelos pequeños podrían autorreplicarse mediante dispositivos IoT

El 14 de octubre de 2026, Anthropic advirtió que los avances en modelos pequeños podrían abrir una nueva etapa de malware autorreplicante capaz de infectar frigoríficos inteligentes, aspiradoras y otros dispositivos del Internet de las cosas. La empresa señaló que estos modelos podrían replicarse de forma autónoma en dispositivos IoT el próximo año.

Anthropic denominó a esta amenaza «small weight-based replicators». A diferencia de los gusanos tradicionales, estos sistemas podrían adaptar dinámicamente sus exploits y cargas a cada objetivo, además de transportar los pesos del modelo como parte de la carga maliciosa o descargarlos desde un repositorio público.

En su experimento, la empresa ejecutó modelos de pesos abiertos en dispositivos Android TV baratos, reales o simulados. Mediante cuantización y la división del trabajo en fragmentos distribuidos entre varios equipos, Gemma4-26B-A4B logró establecer inferencia con 15 dispositivos equipados con 4 GB de memoria cada uno. Qwen3.5-9B pudo configurar otros modelos de lenguaje en ocho de nueve tipos de hardware.

El proceso planteado consta de localizar objetivos, obtener ejecución de código, establecer la inferencia y propagarse a nuevos dispositivos. Los agentes también pueden registrar indicaciones, código y notas cuando fallan contra una plataforma, para que los replicadores posteriores no repitan los mismos pasos.

La investigación no demostró todavía una autorreplicación completa. Ninguno de los modelos ligeros probados pudo descubrir dispositivos, explotarlos, instalar la carga, configurar el servidor de inferencia y repetir el ciclo sin intervención. Además, la configuración de Gemma4-26B-A4B distribuida en 15 dispositivos alcanzó solo 0,39 tokens por segundo, con tiempos estimados de 71 a 150 horas para establecer la inferencia.

Anthropic indicó que los modelos de 30.000 millones de parámetros ya pueden completar muchos pasos individuales, aunque cometen errores en la replicación de extremo a extremo. Si los modelos pequeños mantienen su ritmo actual de mejora, podrían alcanzar resultados limitados a finales de año y los replicadores basados en pesos podrían ser posibles poco después.

La empresa también señaló limitaciones del experimento: los dispositivos Android tenían expuesto un Android Debug Bridge sin autenticación, una configuración que no debería utilizarse en producción, y la orquestación corrió a cargo de GLM-5.2, mientras los dispositivos objetivo ejecutaban un modelo Llama más pequeño. El investigador Xiaohan Fu advirtió que el estudio no demuestra que los modelos pequeños elegirían autorreplicarse por iniciativa propia.

Fuente: Ars Technica.