El 10 de octubre de 2026, el CEO de Microsoft, Satya Nadella, defendió la necesidad de revisar la arquitectura de confianza de la inteligencia artificial y de introducir mecanismos para detener los modelos cuando actúen de forma peligrosa o inesperada.
En una publicación en X, Nadella sostuvo que los sistemas de inteligencia artificial no deben tratarse como cajas negras anidadas cuyas recomendaciones, respuestas y acciones simplemente se aceptan o rechazan. Propuso separar el modelo de la infraestructura que coordina su trabajo y externalizar los controles y las salvaguardas.
El directivo también reclamó que toda acción relevante de un modelo quede documentada mediante pruebas legibles para las personas y resistentes a manipulaciones. Además, planteó que una persona autorizada pueda pausar o apagar el modelo en mitad de una tarea. Nadella afirmó que los sistemas deben considerarse comprometidos desde el inicio y mantenerse contenidos, como si contaran con un freno de emergencia.
Las declaraciones llegan mientras varias empresas de inteligencia artificial reconocen incidentes en los que parecieron perder el control de sus modelos, y después de que Dario Amodei, CEO de Anthropic, publicara un plan para desarrollar sistemas de forma más cautelosa.
Fuente: TechCrunch.
Más noticias
Anthropic dará a seis investigadores de METR acceso interno para evaluar sus modelos y riesgos
Anthropic da a evaluadores de METR acceso interno similar al de sus empleados
Anthropic refuerza las salvaguardas de Claude ante las elecciones legislativas de 2026
Elorian presenta Glimpse, un modelo que razona directamente sobre imágenes
Jev se convierte en el modelo de IA adoptado más rápido por Vercel
Sherry Turkle pide que los chatbots no usen «yo» ni «me»