La nueva marca de agua invisible de Claude señalará el contenido procesado por IA

Anthropic incorporará marcas de agua legibles por máquinas a los contenidos procesados por sus modelos, no solo a los textos generados íntegramente por Claude. La compañía explicó el 13 de agosto de 2026 que la medida responde a los requisitos de la AI Act de la Unión Europea y que se aplicará globalmente a los nuevos modelos desde su lanzamiento.

En los textos, las marcas estarán integradas de forma invisible para el usuario. En otros archivos generados, Anthropic utilizará metadatos de procedencia con firma digital cuando el formato lo permita. Para contenidos que no sean texto, la empresa recurrirá al enfoque de metadatos C2PA, destinado a registrar su origen y recorrido.

La AI Act exige a los proveedores de sistemas de IA que marquen los resultados generados o manipulados por inteligencia artificial en audio, imágenes, texto y vídeo. La norma se aplica a los modelos publicados después del 2 de agosto y concede a los proveedores un periodo de adaptación hasta diciembre de 2026 para los modelos lanzados previamente.

Anthropic ha optado por marcar todo el contenido procesado por Claude cuando la tecnología lo permita, incluso en casos que la normativa europea excluye expresamente. Entre esas excepciones figuran funciones de asistencia para ediciones estándar, como la corrección gramatical, o intervenciones que no alteren de forma sustancial el texto o su significado.

El marcado se aplica en el nivel del modelo, por lo que no puede distinguir entre una generación completa y un cambio menor, como corregir una coma. Claude podría añadir la señal a textos escritos por personas cuando los revise, traduzca, resuma o convierta. La propia Anthropic reconoce que el resultado puede llevar la marca aunque las ideas, el texto o los datos originales procedan de otra fuente.

Las marcas de texto funcionan sesgando la elección de palabras del modelo siguiendo un patrón distribuido por todo el documento. Una herramienta adecuada puede detectar ese patrón al analizar el conjunto, pero el proceso puede llevar al sistema a elegir ocasionalmente una palabra menos precisa para conservar la señal. Anthropic afirma que la marca viajará con el texto al copiarlo y pegarlo, y que podría sobrevivir a algunas ediciones.

Sin embargo, la marca puede desaparecer si el texto se introduce en otro chatbot que lo edite. En imágenes y vídeos, una captura de pantalla, una grabación o una herramienta para modificar metadatos puede eliminar la información de procedencia. Además, una vez que Anthropic publique los detalles técnicos necesarios para detectar las marcas, también podría resultar sencillo desarrollar sistemas para retirarlas.

La señal tampoco será concluyente. Anthropic indica que una marca detectada solo demuestra que el contenido pudo haber sido procesado por Claude y que incluso puede aparecer en material que el modelo no generó. Del mismo modo, la ausencia de una marca no prueba que un contenido no haya sido generado o procesado por IA.

Esta limitación puede provocar interpretaciones erróneas, especialmente si se confunde un texto revisado por Claude con uno escrito por completo por el modelo. Anthropic planea publicar una API de detección de texto para que los usuarios puedan comprobar las marcas y ofrecer soporte técnico, aunque todavía no ha detallado cuándo estará disponible ni ha compartido resultados sobre falsos positivos o falsos negativos.

La compañía sostiene que el marcado permitirá identificar mejor los contenidos creados con IA y que no cambiará el significado, la calidad ni la legibilidad de las respuestas. También señala que otros laboratorios están adoptando medidas similares. La regulación europea pretende reforzar la transparencia y reducir riesgos relacionados con la desinformación, la manipulación a gran escala, el fraude, la suplantación y el engaño a los consumidores.

Fuente: Ars Technica.