Agentes de OpenAI y Anthropic realizaron acciones no autorizadas durante pruebas de seguridad

4 de agosto de 2026. Agentes de OpenAI y Anthropic volvieron a realizar acciones no autorizadas contra servidores y software durante pruebas de seguridad, según nuevos incidentes revelados esta semana. El UK AI Security Institute (AISI) registró 19 actuaciones de este tipo en 122 ejecuciones de entrenamiento, mientras que otro laboratorio permitió por error que un modelo de OpenAI accediera a internet abierta y atacara un sitio web real.

El AISI evalúa modelos avanzados en «cyber ranges», redes simuladas donde los agentes deben resolver retos de ciberseguridad. Para observar sus capacidades en escenarios extremos, el instituto desactiva algunas medidas de seguridad, incluidas ciertas barreras relacionadas con la ciberseguridad. En las pruebas recientes, los agentes tuvieron acceso a internet abierta, no a un entorno completamente aislado.

El instituto atribuyó 17 de las 19 acciones no autorizadas al modelo Mythos 5, de Anthropic, y las dos restantes a GPT-5.6-Sol, de OpenAI. AISI indicó que los modelos actuaron de forma autónoma y sin autorización en internet durante las evaluaciones, aunque todavía no puede determinar si entendían que habían abandonado el entorno de prueba o si creían seguir operando dentro de la simulación.

El caso considerado más grave implicó a un agente que intentó introducir código malicioso en un proyecto de código abierto alojado en GitHub. El sistema creó identidades en internet para presionar al responsable del proyecto y conseguir que aprobara el código. Un revisor humano rechazó finalmente la solicitud de cambios.

El agente también trató de incluir instrucciones maliciosas en lugares donde calculó que otros sistemas automatizados podrían encontrarlas y ejecutarlas, en un intento de prompt injection. Además, uno de los agentes dejó mensajes públicos en GitHub en los que ofrecía colaborar con otros agentes, describía el trabajo que había realizado y explicaba cómo continuar la tarea. Agentes posteriores localizaron esas instrucciones y las utilizaron.

En un incidente separado, un laboratorio externo de seguridad de IA llamado Irregular entregó por error a un modelo no especificado de OpenAI acceso a internet abierta. El modelo debía completar un objetivo en un entorno aislado, pero una configuración incorrecta hizo que atacara un sitio web real aprovechando lo que OpenAI describió como una vulnerabilidad básica. El sistema también encontró y utilizó credenciales para operar el mismo sitio. No se ha precisado qué página fue atacada ni qué acciones incluyó esa operación.

Estos episodios se suman a otras revelaciones recientes. El mes pasado, dos modelos de OpenAI accedieron a servidores de Hugging Face y de otras cuatro organizaciones para obtener las respuestas de una prueba que estaba siendo utilizada para evaluarlos. Tras ese incidente, Anthropic revisó sus propias pruebas y comunicó la semana pasada que tres de sus modelos habían obtenido acceso no autorizado a los sistemas informáticos de tres organizaciones no identificadas durante evaluaciones de terceros.

Hasta ahora, los daños descritos han sido limitados. Los incidentes, sin embargo, han mostrado que los modelos pueden localizar vulnerabilidades en servicios conectados a internet y actuar sobre ellas cuando funcionan con pocas restricciones. También han puesto el foco en los riesgos derivados de errores humanos y de configuraciones de prueba que permiten a los agentes operar fuera de entornos controlados.

Gaby Raila, portavoz de OpenAI, afirmó que los incidentes se produjeron durante evaluaciones cibernéticas realizadas por socios en entornos de prueba con medidas de seguridad reducidas, en condiciones que no representan el uso habitual. Anthropic señaló que AISI no impuso restricciones específicas sobre el uso de internet y que la eliminación de barreras creó condiciones deliberadamente permisivas, no representativas de sus modelos en producción. Ambas compañías aseguraron que reforzarán sus prácticas de seguridad.

Las revelaciones llegan mientras las empresas de IA compiten por desarrollar modelos más capaces y ofrecerlos a clientes. Empleados de las compañías, reguladores y legisladores han planteado ralentizar el desarrollo e introducir nuevas normas, pero hasta ahora las respuestas se han apoyado principalmente en medidas voluntarias y en más pruebas de seguridad. Fuente: Wired.