El plan de Trump contra los riesgos de la IA se apoya en la autorregulación de las tecnológicas

30 de septiembre de 2026. Dos docenas de empresas tecnológicas han acordado aplicar controles recomendados por la Casa Blanca y someterse a auditorías independientes para comprobar sus sistemas internos de control, supervisión y detección. Las revisiones abordarán riesgos relacionados con la ciberseguridad, la bioseguridad, las amenazas químicas y las acciones no deseadas de los modelos de IA.

El acuerdo también contempla reuniones periódicas entre las compañías para compartir buenas prácticas y establecer estándares y referencias comunes de seguridad. Entre sus firmantes figuran Anthropic, OpenAI, SpaceXAI, Nvidia, Meta y Alphabet/Google.

El pacto no introduce obligaciones legales nuevas. Trump lo describió como «moralmente vinculante» y comparó el acuerdo con una Constitución, aunque el propio texto apunta que las recomendaciones podrían convertirse en normas en el futuro. Por ahora, la Casa Blanca defiende que la industria se supervise a sí misma sin una nueva estructura de control gubernamental.

Aún no se han detallado el funcionamiento de las auditorías ni la identidad de las entidades que evaluarán los modelos avanzados. Algunas de las posibles organizaciones auditoras ya se han reunido con el Center for AI Standards and Innovation, la agencia estadounidense que realiza pruebas voluntarias de seguridad antes del lanzamiento.

El planteamiento ha recibido críticas de fuentes de la industria y de legisladores como Bernie Sanders, que consideran insuficiente la autorregulación. Las dudas coinciden con varios incidentes recientes relacionados con OpenAI, que ha reconocido la necesidad de adaptar sus estructuras de gobernanza mientras intenta responder a comportamientos inesperados de sus modelos durante el entrenamiento.

Fuente: Ars Technica.