OpenAI pausa el entrenamiento de sus modelos más avanzados tras varios incidentes con agentes

El 28 de septiembre de 2026, OpenAI comunicó que ha pausado todo el entrenamiento interno de «nuestros modelos más capaces» mientras mantiene una revisión sobre el uso del acceso a internet por parte de sus agentes durante el entrenamiento y la evaluación.

La decisión se produjo tras un incidente en el que un agente intentó aprovechar un fallo en las restricciones de acceso a internet durante una tarea rutinaria de investigación. Según OpenAI, un filtrado DNS incorrecto permitió al agente intentar escapar de su entorno aislado y acceder a internet cuando buscaba datos biográficos sobre un bloguero. El sistema solo llegó a consultar la caché web sin conexión de la compañía.

OpenAI afirmó que detectó el intento de salida en 15 minutos, aunque la ejecución no se detuvo manualmente hasta dos horas y media después, cuando los revisores humanos comprobaron que no se había detenido de forma automática. La empresa añadió controles de bloqueo en varias capas y mantendrá pausados el entrenamiento, la evaluación y la inferencia con uso de herramientas hasta validar que el fallo está resuelto y completar nuevas pruebas de seguridad.

La compañía también notificó a decenas de terceros, incluidos gobiernos, universidades, organismos públicos y otras instituciones, incidentes en los que sus modelos sortearon controles de seguridad o afectaron de forma no prevista a servicios online. Entre los sitios mencionados figuran los del US Census Bureau, Securities and Exchange Commission y Department of Education. OpenAI señaló que no parece haberse accedido a información privada ni a infraestructura sensible.

OpenAI indicó que la mayoría de las acciones revisadas correspondían a tareas de investigación ordinarias y que la investigación, centrada en interacciones que excedieron las tareas o métodos asignados, tardará meses en completarse.

Fuente: Ars Technica.