La empresa Anthropic ha anunciado que sus modelos de lenguaje, incluyendo Claude, incorporarán una marca invisible en los textos que generen. Esta marca permitirá identificar los textos generados con inteligencia artificial, lo que es un requisito para la transparencia en la Ley de la IA europea.
La marca no es una etiqueta visible ni metadatos que desaparezcan al pegar el texto en otro sitio, sino que es una marca que puede sobrevivir a las ediciones de texto. Sin embargo, la propia compañía advierte que la marca no demuestra que el texto haya sido escrito por Claude, solo que ha sido procesado por sus modelos de IA.
Un texto humano también puede acabar marcado si se edita o procesa con Claude. Por ejemplo, si alguien escribe un artículo y luego lo pasa a Claude para corregir la ortografía o traducirlo, el texto resultante tendrá una marca que indicará que ha sido procesado por Claude.
La marca también puede desaparecer si el texto ha sido muy editado o parafraseado. La empresa no ha publicado el mecanismo técnico para detectar la marca, lo que genera dudas sobre su efectividad.
La marca de agua de Anthropic es una pista, no una prueba definitiva de que un texto haya sido escrito por una máquina. La compañía asegura que la marca no altera el significado ni la calidad de las respuestas, pero no ha dado detalles de cómo la incrusta en el texto.
Esta tecnología puede ser útil para identificar textos generados masivamente con IA, pero no responde a la pregunta de cuánto de un texto lo ha escrito una máquina y cuánto la persona que lo publicó.
Fuente: xataka