← Volver
infobae.com · hace 6 horas · Elisandro Santos

Claude va a dejar una marca invisible en sus textos

Infobae

Anthropic acaba de anunciar un cambio en Claude que abre una discusión mucho más grande: sus modelos compatibles incorporarán una marca de agua invisible dentro del texto. La medida responde, principalmente, a las obligaciones de transparencia del AI Act europeo, aunque Anthropic decidió extenderla globalmente.

En términos simples, Claude podrá dejar una señal que nosotros no vemos, pero que una máquina preparada para buscarla puede reconocer. No demuestra quién tuvo la idea ni quién escribió realmente el contenido; sirve para aportar trazabilidad y cumplir con un marco regulatorio que exige identificar determinados contenidos generados con IA.

El AI Act entró en vigor en 2024. El 2 de agosto de 2026 comenzaron a aplicarse las obligaciones de transparencia del artículo 50, que para determinados proveedores implican incorporar mecanismos capaces de identificar contenido generado o manipulado con IA.

Eso explica el movimiento de Anthropic: la marca responde a una obligación concreta de trazabilidad, no a una solución perfecta para detectar IA. En archivos compatibles, Claude también utilizará C2PA, un estándar que agrega información firmada sobre su procedencia.

Durante siglos utilizamos tinta invisible para transportar mensajes que aparecían mediante calor o reactivos. En la Segunda Guerra Mundial, los microdots llevaron esa lógica más lejos: documentos podían reducirse hasta esconderse en el punto de una oración.

Décadas después, algunas impresoras láser color incorporaron puntos amarillos casi imperceptibles que permitían rastrear una impresión. Nosotros veíamos el documento mientras otra herramienta encontraba una segunda capa; con la IA estamos continuando esa lógica.

Google trabaja desde 2023 con SynthID, la tecnología de DeepMind para incorporar marcas invisibles en contenido generado mediante IA. En texto, aprovecha el funcionamiento de los modelos: al generar cada token (“palabra”) existen alternativas con diferentes probabilidades y SynthID interviene sutilmente sobre esas elecciones para producir un patrón reconocible, dicho simple: la tinta invisible ahora está hecha de probabilidades.

Anthropic todavía no publicó suficiente detalle técnico para afirmar que su mecanismo funciona igual. OpenAI tampoco anunció una marca equivalente para todo el texto de ChatGPT, aunque ya usa C2PA y SynthID en otros formatos; sería razonable pensar que profundizará ese camino, aunque por ahora es una proyección.

Si escribo un artículo y utilizo Claude solamente para corregirlo, podría incorporar una señal aunque las ideas sean mías. También puede ocurrir al revés: alguien genera todo con IA y después traduce, parafrasea o reescribe el contenido hasta debilitar o eliminar la señal.

Encontrar una marca puede indicar intervención de un modelo; no encontrarla tampoco demuestra que el contenido sea humano. En una universidad, por ejemplo, podría servir para revisar cómo se realizó un trabajo, pero usarla como única prueba para sancionar a un estudiante sería confundir trazabilidad técnica con autoría intelectual.

Mi posición está en el medio: estos mecanismos de procedencia son útiles y obligan a los grandes proveedores a asumir responsabilidades, pero sería un error venderlos como detectores definitivos, no son 100% fiables.

Estas soluciones funcionan mejor dentro de grandes plataformas, donde hay un proveedor al que una regulación puede exigir trazabilidad. Sin embargo, los modelos son cada vez más eficientes y ejecutarlos en nuestras computadoras resulta progresivamente más sencillo.

Cuando tengamos sistemas potentes funcionando en local, la pregunta será inevitable: ¿quién obliga a mi propio modelo a dejar una marca? Sin contar con que, por el momento, grandes actores como Grok o DeepSeek aparentemente no habrían adherido.

Si controlo los pesos, el software y la inferencia, también puedo modificar el mecanismo encargado de incorporarla o usar una implementación que no lo tenga. Es como regular los puntos amarillos en un mundo donde cualquiera pudiera modificar su propia impresora.

Las marcas de agua pueden servir para cumplir con el AI Act, aportar trazabilidad y sumar confianza; su límite está en pretender que resuelvan por sí solas un problema mucho más complejo.

Mientras aprendemos a marcar mejor la IA, también construimos modelos más accesibles y modificables fuera de las grandes plataformas. La vieja carrera entre quien deja una señal y quien aprende a evitarla acaba de empezar de nuevo.

El próximo gran reto es construir una economía del cuidado