Anthropic propone ralentizar el desarrollo de la IA avanzada

12 de septiembre de 2026. Dario Amodei, CEO de Anthropic, ha pedido ralentizar el ritmo de mejora de las capacidades de los modelos de IA. En una publicación, atribuyó su propuesta a la aceleración reciente del desarrollo y a la creciente capacidad de los sistemas para construir la siguiente generación de IA.

La primera medida planteada consiste en incorporar evaluadores externos de organizaciones como METR dentro de las empresas. Estos especialistas verificarían el cumplimiento de los compromisos de seguridad y de los límites al desarrollo, además de comprobar que los incidentes se comunican. Anthropic se ha comprometido unilateralmente a aplicar este modelo, con acceso para los evaluadores comparable al de los equipos internos de evaluación de riesgos.

Amodei también propuso que las principales empresas de IA de países democráticos coordinen estándares de seguridad y límites al progreso no supervisado. Según el CEO, el Gobierno de Estados Unidos podría facilitar estas conversaciones mediante una exención limitada de las normas antimonopolio.

La tercera estrategia pasa por una coordinación internacional entre Estados Unidos, sus aliados y, en la medida de lo posible, Gobiernos autoritarios. Amodei mencionó la cooperación con China y acuerdos para prohibir usos concretos y peligrosos, como la utilización de IA para producir armas biológicas.

Sam Altman afirmó que comparte la necesidad de acompasar el desarrollo de la frontera tecnológica y dijo que OpenAI adoptará también evaluadores externos. Elon Musk respaldó la propuesta de Amodei.

Fuente: TechCrunch.