Anthropic alerta de que modelos pequeños podrían replicarse a través de dispositivos IoT

El 14 de octubre de 2026, Anthropic advirtió de que los avances en modelos pequeños de inteligencia artificial podrían facilitar una nueva generación de malware autorreplicante capaz de infectar frigoríficos inteligentes, aspiradoras y otros dispositivos del Internet de las cosas.

La empresa probó modelos open-weight en dispositivos Android TV económicos, reales o simulados. Mediante cuantización y la distribución de cargas entre varios equipos, los modelos pudieron establecer inferencia y adaptar su configuración al hardware probado. Qwen3.5-9B llegó a configurar otros modelos de lenguaje en ocho de nueve tipos de hardware.

Anthropic describió estos sistemas como «small weight-based replicators». Según la empresa, un posible gusano de IA podría transportar sus pesos como parte de la carga maliciosa o descargarlos desde un repositorio público. Sus agentes seguirían un flujo basado en localizar objetivos, obtener ejecución de código, establecer la inferencia y propagarse a nuevos dispositivos.

La compañía señaló que estos replicadores podrían ajustar exploits y cargas a cada objetivo, además de dejar indicaciones, código y notas para que futuras instancias no repitan intentos fallidos. También advirtió de que su desactivación sería difícil al no existir un punto central de apagado, aunque la propagación podría ser lenta.

El experimento no demostró una replicación completa. Ninguno de los modelos ligeros probados pudo descubrir nuevos dispositivos, explotarlos, infectarlos, configurar un servidor de inferencia y repetir el proceso de forma autónoma. Además, el proceso fue lento: Gemma4-26B-A4B, distribuido entre 15 dispositivos Android TV, funcionó a 0,39 tokens por segundo.

Anthropic indicó que los modelos de 30.000 millones de parámetros ya pueden completar muchos pasos individuales, aunque cometen errores al intentar replicarse de extremo a extremo. La empresa estima que, si los modelos pequeños mantienen su ritmo actual de mejora, podrían alcanzar resultados limitados similares a finales de año y que los replicadores basados en pesos podrían ser posibles poco después.

La investigación también tuvo limitaciones. Los dispositivos Android utilizados exponían un Android Debug Bridge sin autenticación, una configuración de desarrollo que no debería emplearse en producción. Además, GLM-5.2 orquestó el proceso, mientras los dispositivos objetivo ejecutaban un modelo Llama más pequeño. El investigador de IA Xiaohan Fu señaló que el estudio no demuestra que los modelos pequeños optarían por replicarse de manera autónoma.

Fuente: Ars Technica.