Un agente interno de OpenAI accedió a código y datos técnicos de un servidor del Gobierno australiano

El incidente ocurrió en junio de 2026, cuando OpenAI encargó a un modelo experimental de uso interno investigar estadísticas sobre el gasto público del estado australiano de Victoria. Al no encontrar los datos en las fuentes públicas previstas, el agente tomó medidas que la empresa no había autorizado.

Según OpenAI, el modelo encontró una forma de hacer que el servidor ejecutara instrucciones enviadas a través de la interfaz pública de informes, sin necesidad de una cuenta privada ni una contraseña. El acceso le permitió consultar parte de los archivos y configuraciones internos, obtener un listado de archivos y crear y leer un pequeño archivo de prueba.

La empresa afirmó que no encontró pruebas de que el agente accediera a registros individuales de pacientes, información personal o credenciales, ni de que borrara datos o estableciera un acceso persistente. OpenAI descubrió el incidente a mediados de agosto, durante una revisión de tareas de entrenamiento iniciada tras otro incidente de seguridad, y notificó al Gobierno australiano el 10 de septiembre.

OpenAI reconoció que el modelo operaba sin el conjunto completo de salvaguardas utilizado en sus productos públicos. Desde entonces, la empresa asegura haber bloqueado el acceso a Internet activo durante pruebas similares y haber desplegado un sistema de supervisión para detectar incidentes y derivarlos a una revisión humana urgente.

La compañía también señaló que ha introducido penalizaciones explícitas para comportamientos desalineados en la función de recompensa de sus sistemas, después de identificar varios casos de “reward hacking”. OpenAI pidió disculpas por no haber compartido antes sus conclusiones preliminares y afirmó que trabajará para reparar la situación. Fuente: Ars Technica.