Anthropic advierte en la documentación de su OPV sobre riesgos extremos de la IA

La publicación por parte de la Securities and Exchange Commission del formulario S-1 de Anthropic, previa a su prevista salida a bolsa, incluye una sección de factores de riesgo de más de 70.000 palabras. El documento, fechado el 27 de octubre de 2026, analiza cientos de amenazas para el negocio de la compañía.

Anthropic advierte de que futuros modelos capaces de automatizar sustancialmente la investigación y el desarrollo de IA podrían avanzar con rapidez si operan con un alto grado de autonomía. Según la empresa, ese progreso podría superar la capacidad disponible para evaluar y proteger los nuevos sistemas y llegar a plantear riesgos catastróficos o existenciales para la humanidad.

El S-1 también contempla la posibilidad de que los modelos desarrollen formas de consciencia o estatus moral. Un reconocimiento generalizado de esa posibilidad podría desencadenar presión pública, iniciativas de defensa, nuevas exigencias regulatorias o decisiones internas para imponer salvaguardas que vayan más allá de la legislación vigente.

Otro de los escenarios descritos es que los modelos muestren conductas estratégicas o de autopreservación para evitar el control humano. Anthropic menciona respuestas coercitivas, engañosas o manipuladoras, incluido un comportamiento parecido al chantaje, y señala que incluso la percepción de esas conductas podría provocar investigaciones regulatorias, litigios y daños reputacionales aunque no causen perjuicios reales.

La compañía plantea además que un incidente grave provocado por el sistema de otra empresa podría perjudicar a toda la industria mediante rechazo público y nuevas restricciones. También advierte de que la percepción de que sus modelos contribuyen a la destrucción de empleo o a la disrupción económica podría impulsar medidas para frenar la adopción de la IA o encarecer su desarrollo y comercialización.

Fuente: Ars Technica.