Anthropic dará a seis investigadores de METR acceso interno para evaluar sus modelos y riesgos

El 15 de octubre de 2026, Anthropic anunció que seis investigadores de METR, una organización sin ánimo de lucro que evalúa modelos de inteligencia artificial avanzados, tendrán acceso interno similar al de sus empleados para analizar sus modelos, prácticas de seguridad y gestión de riesgos.

El equipo dispondrá de ordenadores corporativos de Anthropic, espacio de oficina y acceso a herramientas internas comparable al de los equipos propios de evaluación de riesgos. La empresa también animará a sus empleados a compartir información con los investigadores como si fueran compañeros dedicados a los riesgos de alineamiento.

METR publicará sus propias evaluaciones sobre riesgos, incidentes y prácticas de Anthropic. La compañía no podrá bloquear la publicación, aunque sí exigirá la eliminación de información incluida en categorías limitadas y predefinidas, como datos de clientes, material protegido por el secreto profesional entre abogado y cliente o información sobre las arquitecturas de sus modelos.

Anthropic está construyendo un sistema de evaluación de tres niveles. METR es el primer evaluador situado en el nivel superior, que incorpora acceso similar al de los empleados. El nivel intermedio permite publicar resultados sin aprobación de Anthropic, mientras que el inferior contempla revisiones más acotadas y requiere autorización para publicar.

El acuerdo cumple una propuesta presentada en septiembre por Dario Amodei, CEO de Anthropic, para incorporar evaluadores externos dentro de los laboratorios de inteligencia artificial. OpenAI se comprometió posteriormente a aplicar una fórmula similar, y Anthropic, OpenAI, Google, Meta, Nvidia y xAI firmaron después un acuerdo de la Casa Blanca sobre revisiones independientes.

Fuente: TechCrunch.