Cómo podría hacerse cumplir una ralentización de la inteligencia artificial

Incluso si las grandes empresas de inteligencia artificial acordaran ralentizar o pausar el desarrollo de modelos avanzados, comprobar que ninguna intenta adelantarse seguiría siendo complicado. Raymond Douglas, investigador de la University of Toronto y coautor del informe Pacing the Frontier, A Research Agenda, considera que controlar este proceso continúa siendo un problema sin resolver.

Una de las opciones planteadas consiste en reforzar las inspecciones y auditorías de terceros. Los evaluadores podrían acceder a los modelos, medir sus capacidades y someterlos a pruebas de seguridad en entornos controlados. Algunos expertos reclaman que estas revisiones sean más independientes y rigurosas, y Connor Leahy, responsable de Control AI, ha sugerido la participación del FBI o la NSA.

Otras propuestas se centran en supervisar el cómputo utilizado para entrenar los modelos. Los proveedores de servicios en la nube podrían aportar datos sobre facturación, uso de GPU, tráfico de red y consumo energético. También se han planteado componentes criptográficamente seguros integrados en las GPU para registrar las ejecuciones, así como sistemas que requieran autorización remota para activar determinados modelos.

El control también tendría una dimensión internacional. Geoffrey Irving ha propuesto negociar con China una reducción mutua del crecimiento de la infraestructura de hardware, mientras que otras ideas pasan por acuerdos vinculantes entre países. Las restricciones estadounidenses a la exportación de las GPU más potentes de Nvidia han tenido un efecto limitado porque las empresas pueden recurrir a capacidad de cómputo en la nube desde otros países.

WIRED analizó estas propuestas y los obstáculos para aplicar una pausa o ralentización coordinada del desarrollo de IA avanzada: https://www.wired.com/story/heres-how-an-ai-slowdown-could-actually-work/.

Fuente: WIRED