OpenAI prueba un sistema para detectar abusos sin conservar datos de clientes

OpenAI presentó el 19 de agosto de 2026 Private Safety Processing, un sistema de monitorización diseñado para detectar posibles usos abusivos de sus modelos sin conservar los datos de los clientes. La tecnología se encuentra en fase de prueba con un grupo seleccionado de clientes y busca responder a una tensión creciente en el sector: reforzar los controles de seguridad sin comprometer la privacidad de las empresas.

El nuevo servicio amplía el alcance de Zero Data Retention (ZDR), la política que OpenAI ya aplica a determinados usos de su API. Con ZDR, agentes integrados en la API supervisan cada sesión para identificar señales de abuso, pero los datos de los clientes no se almacenan. Private Safety Processing añade una supervisión de mayor alcance, capaz de evaluar las entradas y salidas de varias conversaciones en lugar de limitarse a una sola sesión.

Según explicó un portavoz de OpenAI a TechCrunch, este enfoque pretende detectar usos maliciosos que se desarrollan de forma gradual. Un usuario que intentara, por ejemplo, preparar malware para un ciberataque podría repartir sus solicitudes entre distintas sesiones para evitar que cada interacción aislada active los controles. El sistema analiza esas conversaciones de manera conjunta en busca de indicios de abuso, aunque sin someter las conversaciones a una revisión humana.

Cuando Private Safety Processing identifica una posible infracción, puede enviar a OpenAI una señal definida de forma limitada sobre un tipo concreto de actividad. La compañía afirma que utilizaría esa señal para decidir si es necesario aplicar medidas de cumplimiento. En ese caso, OpenAI podría ponerse en contacto con el cliente para pedir más contexto o abordar el problema conjuntamente. El cliente decidiría entonces, según el portavoz, si comparte datos adicionales con OpenAI.

La propuesta llega después de que Anthropic anunciara en julio una política de conservación de datos para sus modelos cubiertos. La medida permite a la compañía guardar durante 30 días los datos de los usuarios, incluidas sus sesiones y conversaciones, cuando utilizan esos modelos. Anthropic incluye en esa categoría todos los modelos de la clase Mythos y otros modelos futuros con capacidades similares. La empresa justificó la política por motivos de seguridad, para poder examinar y analizar posibles usos indebidos.

La política de Anthropic ha generado preocupación entre algunas empresas que gestionan grandes volúmenes de información sensible y no quieren que esos datos sean almacenados o inspeccionados por el laboratorio. Anthropic también mantiene en gran medida la política ZDR, salvo en el caso de los modelos cubiertos, como Fable. La compañía señala que puede realizar revisiones humanas de datos de clientes mediante una vía de acceso controlado, limitada a un grupo reducido de revisores autorizados. Según Anthropic, cada sesión de revisión queda registrada en un registro protegido contra manipulaciones que los revisores no pueden ocultar ni modificar.

La diferencia entre ambos enfoques se produce en un contexto de fuerte competencia empresarial entre OpenAI y Anthropic. Ambas compañías buscan atraer a clientes corporativos y diferenciar sus políticas de seguridad y privacidad. Un informe reciente señaló que el crecimiento de OpenAI durante el segundo trimestre fue más lento que el de Anthropic. La tasa de ingresos anualizada de Anthropic se sitúa, según informaciones citadas en el artículo, en 65.000 millones de dólares, mientras que sus inversores han afirmado que la empresa podría salir a bolsa con una valoración de 2 billones de dólares. OpenAI también trabaja en una oferta pública inicial.

Fuente: TechCrunch.