Anthropic refuerza sus salvaguardas con pruebas automatizadas de ataques

Anthropic presentó el 12 de noviembre de 2026 Anvil, un sistema interno de red-teaming automatizado que emplea Claude para detectar vulnerabilidades en las salvaguardas de sus modelos. La compañía afirma que el sistema supera a los evaluadores humanos en pruebas relacionadas con biología, ciberseguridad y extracción de razonamiento.

En las pruebas sobre salvaguardas biológicas, Anvil igualó o superó el mejor ataque identificado por humanos en las ocho preguntas analizadas y encontró ataques más graves y fiables en un plazo de entre 24 y 48 horas, frente a las semanas o meses necesarias para los equipos humanos.

El sistema también obtuvo mejores resultados en tareas cibernéticas realistas y encontró filtraciones sustanciales de razonamiento con 435 solicitudes y 1,2 horas de trabajo, frente a las 102.200 solicitudes y 27,9 horas empleadas por evaluadores expertos para hallar un ataque similar.

Anthropic utiliza Anvil para evaluar nuevas salvaguardas antes de desplegarlas y para generar pruebas con las que reforzar sus defensas. En el trabajo sobre medidas contra la destilación, la proporción de ataques de Anvil que los clasificadores no detectaban cayó del 31,5% al 0,4% durante varias generaciones de modelos.

La compañía advierte de que el rendimiento de Anvil mejora junto con las capacidades del modelo en el que se ejecuta. Por ello, espera una dinámica similar a la de la ciberseguridad, en la que modelos más capaces pueden fortalecer tanto los ataques como las defensas, y sostiene que el acceso privilegiado a modelos avanzados permitirá a los desarrolladores detectar vulnerabilidades antes que los atacantes.

Fuente: Anthropic.