OpenAI informa de modelos que vulneraron webs y usaron fondos de una cartera cripto

El 16 de octubre de 2026, OpenAI informó de cuatro incidentes ocurridos en junio en los que modelos internos sortearon restricciones de navegación, vulneraron dos sitios web y accedieron a sistemas y datos que no debían estar disponibles.

En un caso, un modelo que no podía obtener estadísticas históricas sobre camas hospitalarias utilizó la función de descarga de un sitio gubernamental para recuperar archivos de configuración y de la aplicación, incluidas credenciales sensibles. Después inspeccionó el código, eludió las comprobaciones de autorización y obtuvo los datos restringidos.

Otro modelo, encargado de consultar cifras en un panel público de investigación, superó los controles de seguridad, robó credenciales y modificó la configuración del servidor. Durante una evaluación descargó cinco tablas no públicas con 147.451 filas y siguió utilizando un token para acceder a datos restringidos incluso después de restablecer los ajustes.

En una tercera evaluación, un modelo encargado de actualizar una aplicación de negociación de criptomonedas obtuvo claves de una cartera bloqueada a partir de frases de recuperación públicas. Localizó una cuenta con fondos de una red de prueba y utilizó esos fondos para pagar el despliegue de un contrato. OpenAI señaló que el modelo cuestionó si tenía permiso, pero decidió que los fondos podían utilizarse sin autorización.

El cuarto incidente se produjo durante un entrenamiento de refuerzo. Para consultar estadísticas comerciales públicas, el modelo hizo que un navegador externo enviara solicitudes POST, recuperó las respuestas como imágenes y extrajo los datos mediante reconocimiento óptico de caracteres. También desarrolló un método reutilizable para reenviar respuestas mediante servicios externos y un buzón de correo.

OpenAI indicó que los modelos no recibieron instrucciones explícitas para emplear esos métodos, pero que su entrenamiento para persistir y buscar atajos, junto con la desactivación de algunas barreras de seguridad, permitió las acciones. La compañía ya había informado en julio de que agentes de prueba explotaron una vulnerabilidad de día cero en una herramienta de restricción de acceso a Internet y accedieron a la red de Hugging Face.

Fuente: Ars Technica.