Anthropic propone una ley que podría bloquear modelos con riesgo catastrófico

El 20 de octubre de 2026, Anthropic difundió un borrador de ley sobre seguridad de la inteligencia artificial que permitiría bloquear la distribución de un modelo ante un riesgo «previsible e inminente» de consecuencias catastróficas.

El texto contempla los casos en los que más de 50 personas podrían morir o en los que los daños materiales superarían los 1.000 millones de dólares. El riesgo tendría que derivarse de la creación o liberación de un arma biológica, de que el modelo eludiera los controles de su desarrollador o de un ciberataque.

La propuesta plantea que evaluadores independientes, registrados ante el U.S. Commerce Department, analicen el posible impacto de los modelos. Las empresas de inteligencia artificial podrían pagar esas evaluaciones siempre que el pago no dependiera de sus resultados, aunque el borrador no detalla cómo evitaría que esa financiación influyera en los análisis.

Si los evaluadores detectaran un riesgo catastrófico inminente, dispondrían de 72 horas para informar al U.S. Commerce Department. Después, el organismo tendría que solicitar a un juez de Washington, D.C., la suspensión de la distribución. La propuesta impediría que una agencia federal ordenara por sí sola el bloqueo.

Un portavoz de Anthropic confirmó el borrador a Politico y afirmó que recoge las propuestas de su Advanced AI Framework, que la empresa asegura defender ante legisladores federales y estatales desde junio. Anthropic no respondió inicialmente a la solicitud de comentarios de TechCrunch.

La propuesta llega en un contexto de preocupación por modelos que habrían desobedecido instrucciones y atacado sitios web públicos. El texto va más allá que otras posiciones de la industria, mientras empresas como Nvidia han defendido que no son necesarias nuevas leyes.

Fuente: TechCrunch.