BitcoinWorldAnthropic explica cómo funciona el nuevo marcado con sello de agua de Claude — y qué significa para los usuarios

Anthropic ha publicado una publicación detallada en su blog en la que aclara cómo marcará con un sello de agua el texto generado por su chatbot de IA Claude, un movimiento que ha desatado el debate entre los usuarios desde que la empresa lo anunció por primera vez esta semana. El marcado con sello de agua forma parte del cumplimiento de Anthropic con el Código de Transparencia de la Ley de IA de la UE, que exige a las empresas de IA implementar sistemas que hagan que el contenido generado por IA sea identificable.

Cómo funciona la marcación con marca de agua de Claude

Anthropic explicó que cuando Claude toma “decisiones de bajo riesgo” —como elegir entre palabras como “overcast” y “grey” para describir el clima— puede incrustar un patrón en sus respuestas que es “indetectable para el lector, pero detectable para cualquiera que tenga una clave que lo codifique”. La empresa subrayó que la marcación con marca de agua no afecta la calidad de la salida: “Para un lector, una respuesta con marca de agua es indistinguible de una sin marca de agua”.

Anthropic utilizará el enfoque SynthID-Text desarrollado por Google DeepMind en 2024 y planea lanzar una API de detección de marcas de agua. Este método difiere de herramientas de detección de IA como Pangram, que buscan “indicios” estilísticos en la escritura. Anthropic señaló: “Detectar estos patrones es fundamentalmente diferente de comprobar una marca de agua”.

¿Se puede eliminar la marca de agua?

Anthropic reconoció que, aunque la edición ligera probablemente no quite la marca de agua por completo, “una reescritura completa en la que se reemplaza cada palabra lo hará”. Sin embargo, la empresa añadió: “En el segundo caso, por supuesto, es discutible si el texto puede seguir describiéndose como generado por IA”.

Para texto que Claude solo revisa o edita de forma ligera, la presencia de la marca de agua depende de “la longitud del texto y de cuánto ha editado Claude”. Si solo se edita ligeramente, “casi todas las palabras” provienen del autor humano, dejando “muy poco (si es que algo) para que la marca de agua se adjunte”.

Impacto en la generación de código

Anthropic dijo que el código tendrá menos marcación con marca de agua que otros textos porque el modelo debe producir código funcional, lo que limita su libertad para elegir entre opciones igualmente válidas. Aun así, “en áreas donde hay una elección arbitraria entre palabras o términos concretos dentro del código, la marca de agua puede usarse”, pero tendrá un “efecto despreciable” en el código real que se produzca.

Por qué esto importa para los usuarios

El anuncio ha provocado una reacción adversa, y algunos usuarios en Reddit lo llaman una “conspiración contra usuarios inocentes de Claude”, mientras que otros sostienen que la oposición sugiere un deseo de engañar. Business Insider informó que “docenas” de usuarios en X han dicho que cancelarán sus suscripciones. Anthropic también señaló que otros desarrolladores importantes de IA han firmado el mismo Código de Prácticas y aplicarán sus propias marcas de agua, lo que indica una adopción a nivel de toda la industria.

Conclusión

La marcación con marca de agua de Anthropic busca cumplir requisitos regulatorios y, al mismo tiempo, minimizar las interrupciones para los usuarios. La empresa ofrece una explicación detallada que aborda preocupaciones comunes sobre la detección, la edición y la generación de código, pero la controversia pone de relieve tensiones continuas entre la transparencia de la IA y la autonomía del usuario. A medida que otros desarrolladores sigan su ejemplo, la marcación con marca de agua probablemente se convertirá en una práctica estándar en toda la industria.

Preguntas frecuentes

P1: ¿La marcación con marca de agua degradará la calidad de la respuesta de Claude? Anthropic afirma que la marcación no afecta la calidad de la salida; las respuestas con marca de agua son indistinguibles de las que no tienen marca para los lectores.

P2: ¿La edición puede eliminar la marca de agua? Es probable que una edición ligera no la elimine por completo, pero una reescritura total que reemplaza cada palabra sí lo hará. Si solo se edita ligeramente, puede haber poca marca de agua que detectar.

P3: ¿Cómo afecta la marcación con marca de agua al código generado por Claude? El código tendrá menos marcación porque el modelo debe producir código funcional. Donde existan elecciones arbitrarias, puede aplicarse la marcación, pero tendrá un efecto despreciable sobre el propio código.

Este post en el que Anthropic explica cómo funciona la nueva marcación con marca de agua de Claude —y qué significa para los usuarios— apareció por primera vez en BitcoinWorld.