Claude incorpora una marca de agua invisible para identificar textos de IA

La empresa estadounidense de inteligencia artificial Anthropic va a incorporar una marca de agua invisible en los textos generados con Claude. Esa marca se mantiene cuando alguien copia el texto y lo pega en otro lugar, sin que los lectores lo perciban.

¿Cómo funciona una marca de agua invisible?

La nueva función se desplegará en todo el mundo para los nuevos modelos de Claude. La marca de agua no se aplicará solo al chatbot: también estará presente en los textos generados a través de la API, Claude Code y las aplicaciones empresariales.

Anthropic no ha detallado qué tecnología utiliza exactamente para ello. En los sistemas de marcas de agua para IA, los investigadores suelen recurrir a un método en el que el modelo, durante la redacción, favorece de forma sutil determinadas palabras.

Para los lectores humanos, el texto sigue pareciendo completamente normal. Un sistema específico de detección puede analizar después si ciertos patrones de palabras aparecen con más frecuencia de la que cabría esperar por azar. De este modo, puede estimarse si un texto probablemente ha sido generado o editado por Claude.

El sistema, no obstante, tiene limitaciones. En textos breves puede no haber suficientes palabras para identificar el patrón con fiabilidad. Además, una reescritura profunda o una paráfrasis pueden eliminar parcialmente la marca de agua.

Para las imágenes, Anthropic utiliza otro enfoque. Archivos como PNG, JPG y SVG incorporan datos digitales de procedencia conforme al estándar C2PA. Esto permite dejar constancia de que Claude participó en la creación o modificación de un archivo.

La marca de agua no demuestra que todo el texto sea de IA

Anthropic también trabaja en herramientas de detección que permitirán a usuarios y terceros comprobar la marca de agua. Sin embargo, una detección positiva no significa automáticamente que todo un texto haya sido escrito por IA. Claude, por ejemplo, también puede haberse utilizado para corregir, traducir o resumir un texto existente.

La marca de agua indica, sobre todo, que Claude probablemente ha intervenido en el contenido. El cambio está relacionado en parte con la Ley de IA de la Unión Europea. Estas nuevas normas europeas de transparencia obligan cada vez más a los proveedores a hacer identificable el contenido generado por IA.

Los textos antiguos no se marcarán con carácter retroactivo. Solo el contenido nuevo producido por Claude tras la implantación del sistema incorporará la marca de agua.

Con ello, Anthropic da un paso importante hacia una mejor identificación del contenido generado por IA. Si el sistema resistirá ediciones profundas y métodos sofisticados para sortearlo es algo que deberá comprobarse en la práctica.