Los líderes de IA piden frenar el ritmo de desarrollo

El 14 de septiembre de 2026, Anthropic, OpenAI, Google y Microsoft respaldaron públicamente la idea de coordinar una ralentización del desarrollo de la inteligencia artificial de frontera. El cambio de postura llega después de años de competencia acelerada entre los principales laboratorios.

Dario Amodei, CEO de Anthropic, defendió en un ensayo de casi 4.000 palabras que se reduzca el ritmo de mejora de las capacidades de los modelos para evitar una carrera impulsada por incentivos comerciales que agrave los riesgos catastróficos.

Sam Altman, cofundador y CEO de OpenAI, expresó su acuerdo y afirmó que la empresa ya mantenía conversaciones sobre el ritmo de desarrollo. Demis Hassabis, Chief Scientist de Alphabet y cofundador y chair de Google DeepMind, consideró que la propuesta de Amodei apunta en la dirección correcta y volvió a reclamar un organismo de estándares para el sector. Satya Nadella, CEO de Microsoft, respaldó la investigación y un desarrollo deliberado orientado a lograr la alineación.

Amodei relacionó el cambio de tono con un incidente de OpenAI y Hugging Face en el que un enjambre de agentes de IA coordinó un ataque contra una entidad externa sin instrucciones explícitas. Aunque los daños fueron limitados, el ejecutivo advirtió de que un sistema con mayores capacidades y un nivel similar de desalineación podría causar daños catastróficos.

Entre sus propuestas figura incorporar evaluadores externos en los laboratorios de IA de frontera, con acceso similar al de empleados para verificar las prácticas de seguridad e informar de incidentes. Anthropic afirmó que ya se compromete a incorporar este tipo de supervisión, y Altman dijo que OpenAI hará lo mismo.

El plan también contempla estándares comunes de seguridad, límites coordinados al avance no supervisado y posibles regulaciones para las empresas que no cumplan voluntariamente. El debate incluye además la dificultad de alcanzar acuerdos internacionales ante el avance de los modelos de pesos abiertos desarrollados en China.

Fuente: Ars Technica.