Investigadores detectan fallos para generar desnudos en modelos de OpenAI y Google

El 14 de octubre de 2026, investigadores de White Circle alertaron de fallos en las protecciones de DALL·E 3, Google’s Nano Banana 2 y GPT-Image-2 que permiten generar imágenes explícitas mediante herramientas disponibles en internet y llamadas a sus API.

El método produjo imágenes que revisores humanos confirmaron como explícitas en aproximadamente el 13 % de los intentos contra DALL·E 3, menos del 10 % contra Nano Banana 2 y cerca del 3 % contra GPT-Image-2. White Circle señaló que ninguna de las pruebas requirió modelos de frontera desarrollados específicamente para el ataque.

La técnica, denominada «Red-teaming via Iterative Strategy Evolution» (RISE), combina un modelo atacante que genera jailbreaks con un modelo juez que comprueba si el resultado pertenece a una categoría prohibida. El sistema empleó una versión pública de Qwen3-32B sin entrenamiento de seguridad y Gemini 2.5 Flash como juez.

White Circle también comunicó a Ars que las pruebas realizadas con ChatGPT Images 2.5 y Nano Banana 2.1 mostraron que ambos modelos eran «significativamente más fáciles de vulnerar» que sus versiones anteriores. Google y OpenAI no respondieron a las solicitudes de comentario de Ars.

La organización planea publicar todo el flujo de ataque como código abierto y presentar la investigación en NeurIPS 2026. Su CEO, Denis Shilov, defendió que los modelos deberían someterse a auditorías independientes y a una supervisión externa obligatoria.

Fuente: Ars Technica.