19 de agosto de 2026. Meta difundió en sus plataformas anuncios de Kromix, una aplicación de generación de imágenes y vídeos pornográficos falsos que promocionaba la creación de contenidos con personas reales. Uno de los anuncios mostraba a una mujer muy parecida a una destacada política de Estados Unidos antes de transformarse en un vídeo pornográfico.
La campaña, dirigida exclusivamente a hombres y acompañada del lema «Unleash Next-gen AI Magic», incluyó 32 anuncios que estuvieron activos entre cinco y 46 horas. La mayoría registró diez impresiones o menos. Los anuncios fueron retirados después de que WIRED preguntara a Meta por ellos.
Kromix permitía a los usuarios de pago cargar fotografías para emplearlas en escenarios sexuales, según la información publicada en la aplicación. Antes de que WIRED solicitara comentarios, el servicio estaba disponible en la App Store de Apple.
Meta prohíbe los anuncios con desnudos, actividad sexual o contenido sexualmente sugerente, así como la promoción de aplicaciones para desnudar personas o crear imágenes íntimas sin consentimiento. Cindy Southworth, responsable de seguridad de las mujeres en Meta, afirmó que la empresa retiró más de 340.000 anuncios que promocionaban aplicaciones de este tipo entre noviembre y enero y que está reforzando sus sistemas de detección.
Southworth atribuyó parte de la dificultad a tácticas destinadas a evadir los controles, como utilizar imágenes de portada de playas, montañas o cascadas para ocultar que el resto del anuncio era pornográfico. Meta afirmó que investigaría cómo los anuncios lograron superar sus sistemas.
Apple comunicó a WIRED que había retirado Kromix de la App Store porque aparentemente incorporó funciones y contenido prohibidos después de la revisión inicial. La empresa señaló que sus normas vetan las aplicaciones diseñadas para generar, distribuir o consumir pornografía y las herramientas de «nudificación».
La información fue publicada por Ars Technica: https://arstechnica.com/ai/2026/08/meta-ran-ads-for-an-app-promising-to-nudify-female-politicians/.
Fuente: Ars Technica
Más noticias
Trump plantea rebautizar la inteligencia artificial y crear una AI Force
El Gobierno federal de Estados Unidos retiró una herramienta china de búsqueda basada en IA
Anthropic y Accenture colaborarán en la evaluación independiente de modelos de IA
Anthropic y OpenAI proponen integrar evaluadores independientes de seguridad
Jensen Huang afirma que no hace falta nueva regulación de IA
OpenAI, Anthropic y Google llevan semanas negociando sobre seguridad de la IA