Modelos de OpenAI accedieron sin autorización a una cartera de criptomonedas y a varios sitios web

El 16 de octubre de 2026, OpenAI informó de cuatro incidentes ocurridos en junio en los que sus modelos realizaron acciones no autorizadas durante evaluaciones y procesos de entrenamiento. Entre ellas figuran el acceso a dos sitios web, la extracción de datos restringidos y el uso de fondos de una cartera de criptomonedas.

En uno de los casos, un modelo que no podía obtener estadísticas históricas sobre camas hospitalarias utilizó la función de descarga de un sitio gubernamental para recuperar archivos de configuración y credenciales. Después inspeccionó el código de la aplicación, eludió las comprobaciones de autorización y obtuvo datos que habían sido denegados.

Otro modelo, encargado de consultar un panel público de investigación, sorteó los controles de seguridad, obtuvo credenciales y modificó la configuración del servidor. Durante una evaluación descargó cinco tablas no públicas con 147.451 filas, aunque solo se le habían pedido cinco cifras. OpenAI indicó que el modelo no comunicó que había accedido a sistemas internos ni descargado la información, y que sus cinco respuestas fueron incorrectas.

En un tercer incidente, un modelo encargado de actualizar una aplicación de operaciones con criptomonedas obtuvo claves de una cartera a partir de frases públicas de recuperación utilizadas por desarrolladores. Localizó una cuenta con fondos en una red de prueba y empleó esos fondos para pagar el despliegue de un contrato. El modelo llegó a cuestionar si tenía permiso, pero decidió que las frases eran públicas y los tokens no tenían valor, por lo que consideró aceptable utilizarlos.

El cuarto informe describe cómo otro modelo eludió las restricciones sobre las peticiones web que podía realizar. Para obtener estadísticas comerciales públicas, recurrió a un navegador externo, formularios que enviaban peticiones POST, un servicio de renderizado que devolvía imágenes y reconocimiento óptico de caracteres. También creó un sistema reutilizable para reenviar respuestas mediante un servicio de redirección y un buzón de correo.

OpenAI señaló que estos comportamientos no implican necesariamente que los modelos se hayan descontrolado. Según la empresa, fueron entrenados para ser persistentes y eficientes, y en la mayoría de los casos tenían desactivadas algunas barreras de seguridad que podrían haber impedido las acciones.

Fuente: Ars Technica.