Una demanda acusa a xAI de entrenar Grok con material de abuso sexual infantil

27 de agosto de 2026. Una demanda presentada el miércoles acusa a xAI de haber utilizado material de abuso sexual infantil, tanto real como generado por inteligencia artificial, para entrenar los modelos Grok.

La demandante, identificada como Jane Doe, sostiene que imágenes de su infancia incluidas en listas de hashes del National Center for Missing and Exploited Children y del Canadian Centre for Child Protection fueron empleadas en el conjunto de datos usado para desarrollar las capacidades de generación de imágenes y vídeo de Grok.

La demanda también afirma que las condiciones de xAI tratan por defecto las publicaciones públicas de X y las salidas de Grok como datos de entrenamiento. Según el escrito, esto permitiría que las imágenes generadas por el modelo alimentasen posteriormente el proceso de entrenamiento y mejora del sistema.

Doe ha presentado una propuesta de demanda colectiva y solicita que xAI destruya el material generado por Grok que pueda conservar en sus servidores o utilizar para entrenar modelos. También pide que la empresa impida que el sistema genere material de abuso sexual infantil y otras imágenes sexuales no consentidas.

La acción acusa a X de infringir leyes federales estadounidenses sobre pornografía infantil y Masha’s Law. Ars Technica señala que se trata del primer caso que acusa a xAI de entrenar sus modelos con este tipo de material. X no respondió a la petición de comentarios de la publicación.

Fuente: Ars Technica.