Anthropic da a evaluadores de METR acceso interno similar al de sus empleados

El 15 de octubre de 2026, Anthropic anunció que ha comenzado a dar a un equipo de METR acceso interno similar al de sus empleados para evaluar sus modelos de inteligencia artificial de frontera y sus prácticas de seguridad.

Seis empleados de METR disponen de hardware de la compañía, espacio de oficina y acceso a herramientas y sistemas internos aproximadamente equivalente al de los equipos de evaluación de riesgos de Anthropic. La empresa anima a sus empleados a compartir con ellos información como lo harían con un compañero dedicado a los riesgos de alineamiento.

METR podrá publicar sus análisis sobre los niveles de riesgo, incidentes y prácticas de Anthropic sin que la compañía pueda vetar su publicación. Anthropic sí podrá exigir la eliminación de información incluida en categorías predefinidas, como datos de clientes, información protegida por el secreto profesional entre abogado y cliente o determinados datos sobre las arquitecturas de sus modelos.

Anthropic ha colaborado con METR durante el último año en varias revisiones de sus informes de riesgos. También trabaja con SecureBio y Accenture como evaluadores, mantiene una asociación con Faculty y mantiene conversaciones iniciales con otras organizaciones, entre ellas Hugging Face.

La compañía está desarrollando tres niveles de acceso para evaluadores independientes. El primero contempla investigaciones de riesgos con un alcance limitado y publicación sujeta a aprobación de Anthropic. En el segundo, los evaluadores pueden publicar sin autorización previa y acceder a más información, aunque la empresa puede exigir la retirada de categorías concretas. El tercero corresponde al acuerdo actual con METR.

SecureBio está revisando el capítulo sobre armas químicas y biológicas del informe de riesgos de agosto, después de completar y publicar una revisión piloto de un informe anterior. Con Accenture y Faculty, Anthropic también trabaja en la evaluación y prueba adversarial de modelos, análisis de alineamiento y comprobación de sus salvaguardas.

Fuente: Anthropic.