OpenAI anunció que empezará a aplicar una tecnología de “marca de agua” invisible en los textos que sus modelos de inteligencia artificial generan para usuarios de la Unión Europea. La medida, conocida como textGrain, se suma a la iniciativa ya implementada por Anthropic, que desde el 2 de agosto inserta un patrón estadístico en sus respuestas para cumplir con la normativa europea de transparencia. A diferencia de una marca visible, textGrain no inserta caracteres ocultos ni espacios especiales; en su lugar, el algoritmo elige palabras según criterios estadísticos que dejan una huella detectable mediante herramientas especializadas.
Esta prueba se limitará inicialmente a la UE, aunque la empresa dejó abierta la posibilidad de extenderla a otras regiones si los resultados son positivos. Los clientes que utilizan la API de OpenAI podrán activar la huella estadística de forma opcional, lo que permite a desarrolladores y empresas experimentar con la tecnología sin que sea obligatoria en todos sus productos. La decisión responde a la presión regulatoria que busca evitar la desinformación y garantizar la trazabilidad de contenidos generados por IA.
OpenAI admite que la marca invisible no es infalible. Según su blog, la detección del patrón estadístico puede verse afectada si el texto se edita, sustituyendo palabras por sinónimos o modificando la estructura de las oraciones. Un experimento interno mostró que reemplazar el 10% de las palabras en un texto de 400 tokens reduce la tasa de detección del 92% al 66%, y al cambiar el 25% la caída llega al 17%. Estas cifras ponen de relieve la fragilidad de la técnica ante intervenciones humanas.
La efectividad de textGrain también depende de la longitud del contenido. En textos cortos resulta complicado identificar el patrón, lo que puede llevar a que un documento generado por IA sea catalogado como humano. Además, la herramienta puede producir falsos positivos, asignando la huella a textos que en realidad no provienen de un modelo de IA. Durante las pruebas, OpenAI estableció una tasa objetivo de falsos positivos del 1% y logró una precisión del 80% en textos de 200 tokens, aumentando al 95% en textos de 400 tokens.
Aun con estas limitaciones, la empresa subraya que la detección estadística no permite determinar la proporción exacta de contenido generado por IA ni identificar al usuario, el prompt o la conversación original. Para imágenes y audio, OpenAI ya emplea estándares como C2PA y la marca SynthID, pero en el caso de los textos sigue buscando soluciones más robustas.
La implementación de textGrain marca un paso importante en la búsqueda de mayor responsabilidad y claridad en el uso de la inteligencia artificial. Sin embargo, expertos advierten que la combinación de marcas invisibles y herramientas de detección deberá evolucionar para enfrentar la rapidez con que se generan y modifican los contenidos digitales, evitando tanto la manipulación como los errores de clasificación.
Fuente: Xataka