OpenAI anunció textGrain el 5 de octubre, una marca de agua invisible que modifica el patrón estadístico de las palabras que eligen sus modelos. La empresa afirma que inicia un despliegue gradual en respuesta a las normas de la UE sobre la procedencia de los textos. Un detector compatible puede buscar ese patrón en un pasaje, pero el resultado solo aporta una pista limitada sobre si un sistema de OpenAI generó o procesó el texto.

El gran cambio

  • Qué ha cambiado: OpenAI está pasando de investigar la procedencia de los textos a un lanzamiento limitado. En las próximas semanas, las respuestas de ChatGPT y Codex que cumplan los requisitos en la UE llevarán una marca de agua; algunos clientes de API ya pueden activarla en todo el mundo.
  • Por qué importa: Las organizaciones que evalúan textos de IA podrían contar en el futuro con una señal integrada en la propia redacción. Los resultados publicados por OpenAI muestran por qué hay que contextualizar lo que indica el detector: los pasajes breves o sujetos a restricciones estrictas y los textos editados pueden escapar a la detección, y siguen siendo posibles los falsos positivos.
  • Qué conviene observar: La prueba inmediata es si la señal se mantiene de forma fiable en el uso cotidiano, con distintas longitudes, temas e idiomas. OpenAI está restringiendo el acceso al detector a investigadores aprobados y organizaciones especializadas mientras evalúa esos límites.

Dos lanzamientos, distintos niveles de acceso

OpenAI afirma que añadirá textGrain al texto generado por ChatGPT y Codex que cumpla los requisitos en todos los planes de la Unión Europea durante las próximas semanas. Se trata de un despliegue regional previsto, no de una afirmación de que hoy todas las respuestas de la UE lleven una marca de agua. En la API, los clientes de todo el mundo pueden optar por activarla en determinados modelos desde el 5 de octubre; viene desactivada por defecto. OpenAI indica que los clientes pueden habilitarla en la configuración del proyecto o de la organización y elegir modelos compatibles. La lista de modelos aptos aparece en esos ajustes y puede cambiar.

TextGrain funciona mediante las elecciones del modelo entre posibles palabras o fragmentos de palabras, llamados tokens. OpenAI afirma que una clave secreta guía pequeños cambios en esas elecciones durante la generación. Después, un detector con la clave y la configuración correspondientes comprueba si un pasaje contiene el patrón estadístico resultante. La marca de agua no añade caracteres ocultos, espacios ni signos de puntuación visibles. Por eso, copiar el texto no exige conservar metadatos aparte, aunque mantener intactas las palabras no garantiza que la señal pueda detectarse.

Esa distinción también limita quién puede comprobar un pasaje. OpenAI acepta solicitudes para acceder al detector de texto, inicialmente de investigadores aprobados y organizaciones especializadas. No abrirá el detector al público en su lanzamiento. Sus herramientas públicas de verificación para imágenes y audio compatibles son independientes y no permiten comprobar textGrain de forma abierta.

La señal puede pasar inadvertida o detectarse por error

OpenAI informa de tasas de detección con una tasa objetivo de falsos positivos del 1% en una evaluación. En pasajes de psicología, su detector encontró una marca de agua en cerca del 80% de las muestras de 200 tokens y alrededor del 95% de las de 400 tokens. Según la empresa, la detección fue bastante menor en matemáticas, donde hay menos libertad para elegir las palabras. Son resultados de una evaluación de la empresa en condiciones concretas, no una tasa de éxito medida sobre textos del mundo real.

En otra prueba de la empresa con pasajes de 400 tokens, las ediciones debilitaron la señal: sustituir el 10% de las palabras por sinónimos redujo la detección de cerca del 92% al 66%; sustituir el 25% la redujo al 17%. La documentación de OpenAI también señala que la traducción, las paráfrasis sustanciales, las respuestas breves y el código plantean más dificultades. La empresa afirma que la detección varía según el idioma. Por tanto, un resultado negativo no demuestra que el texto lo escribiera una persona. El pasaje podría ser demasiado breve, haber sido modificado, haberse generado antes del despliegue o proceder de un modelo o producto no cubierto por la marca de agua.

Un resultado positivo también tiene límites. El detector puede indicar por error que hay una marca de agua. Si encuentra una señal, OpenAI dice que eso constituye una prueba de que es probable que su sistema generara o procesara al menos parte del pasaje. No mide cuánto aportó una persona, no identifica una cuenta ni una instrucción y tampoco determina quién escribió, posee o es responsable del texto. No puede verificar si el pasaje es exacto. El resultado por sí solo no permite identificar a quien utilizó una herramienta.

OpenAI prevé realizar más evaluaciones y afirma que tiene intención de publicar textGrain como tecnología de código abierto. Por ahora, el cambio práctico es más limitado: algunos textos nuevos generados por OpenAI incluirán una señal legible por máquinas, mientras que tanto los medios para inspeccionarla como las conclusiones que permite extraer siguen restringidos. Este artículo se basa en el anuncio y la documentación de ayuda de OpenAI; BIG CHANGE no generó texto con marca de agua ni ejecutó el detector.