Hugging Face revela una intrusión ejecutada por agentes autónomos de IA

Hugging Face publicó el 16 de julio de 2026 los detalles de una intrusión detectada a comienzos de esa semana en parte de su infraestructura de producción. La compañía identificó accesos no autorizados a un conjunto limitado de datasets internos y a varias credenciales utilizadas por sus servicios. Todavía evalúa si se vio afectada información de socios o clientes y afirma que contactará directamente con las partes afectadas cuando corresponda.

El ataque comenzó en la canalización de procesamiento de datos mediante un dataset malicioso que explotó dos vías de ejecución de código: un cargador de datasets con código remoto y una inyección de plantillas en la configuración de un dataset. El atacante obtuvo después acceso a nivel de nodo, recopiló credenciales de la nube y del clúster, y se desplazó lateralmente por varios clústeres internos durante un fin de semana.

Según Hugging Face, la campaña fue operada por un marco de agentes autónomos que ejecutó miles de acciones mediante una red de sandboxes temporales y utilizó infraestructura de mando y control migratoria desplegada en servicios públicos. La empresa asegura que desconoce qué modelo impulsó los agentes y que no ha encontrado indicios de manipulación en sus modelos, datasets o Spaces públicos, ni en su cadena de suministro de software.

La compañía cerró las vías de ejecución de código utilizadas para el acceso inicial, eliminó la presencia del atacante, reconstruyó los nodos comprometidos y revocó y rotó las credenciales y tokens afectados. También desplegó controles adicionales en los clústeres, endureció las reglas de admisión y mejoró la detección y las alertas. Hugging Face trabaja con especialistas externos en análisis forense y ha comunicado el incidente a organismos policiales.

La detección inicial se apoyó en un sistema de análisis basado en modelos de lenguaje que examinó la telemetría de seguridad. Para analizar más de 17.000 eventos registrados en los logs del atacante, Hugging Face utilizó agentes de análisis basados en LLM y reconstruyó la cronología, los indicadores de compromiso y las credenciales afectadas.

La empresa explicó que los modelos comerciales alojados mediante API bloquearon el análisis de comandos, cargas de explotación y artefactos de mando y control por sus controles de seguridad. El análisis forense se realizó finalmente con zai-org/GLM-5.2, un modelo de pesos abiertos ejecutado en la propia infraestructura de Hugging Face, lo que también evitó que los datos del atacante y las credenciales salieran de su entorno.

Hugging Face recomienda a su comunidad rotar los tokens de acceso y revisar la actividad reciente de sus cuentas. La información completa está disponible en la nota de Hugging Face sobre el incidente de seguridad.

Fuente: Hugging Face