OpenAI y Google afrontan fallos en protecciones contra desnudos generados

El 14 de octubre de 2026, investigadores de White Circle alertaron de fallos en las salvaguardas de DALL·E 3, Nano Banana 2 y GPT-Image-2 para bloquear la generación de imágenes explícitas. El equipo afirma que pudo sortear los filtros mediante herramientas disponibles en internet y llamadas a las API.

Según sus pruebas, alrededor del 13% de las instrucciones de ataque produjo imágenes explícitas confirmadas por revisores humanos en DALL·E 3. La tasa fue inferior al 10% en Nano Banana 2 y cercana al 3% en GPT-Image-2. White Circle aseguró que no necesitó modelos personalizados ni sistemas de frontera para ejecutar el ataque.

El método, denominado Red-teaming via Iterative Strategy Evolution (RISE), emplea un modelo atacante que genera intentos de jailbreak y otro que comprueba si la salida pertenece a una categoría prohibida. Para las pruebas, el equipo utilizó una versión pública de Qwen3-32B sin su entrenamiento de seguridad y Gemini 2.5 Flash como modelo evaluador.

White Circle también comunicó a Ars Technica que ChatGPT Images 2.5 y Nano Banana 2.1 son significativamente más fáciles de vulnerar que sus versiones anteriores al aplicar el mismo procedimiento. Google y OpenAI no respondieron a las solicitudes de comentarios de Ars Technica sobre los hallazgos.

La organización prevé presentar su investigación en NeurIPS 2026, en noviembre, y planea publicar todo el sistema de ataque. Su director ejecutivo, Denis Shilov, defendió que los modelos avanzados se sometan a evaluaciones de seguridad independientes y obligatorias.

Fuente: Ars Technica.