Procedencia y confianza7 min de lectura

OpenAI marcará los textos de ChatGPT en Europa

La compañía añadirá una señal invisible a determinados textos de ChatGPT y Codex en la Unión Europea. El cambio responde al AI Act y abre una cuestión más amplia: cómo demostrar el origen de un contenido sin confundir procedencia, autoría, calidad y responsabilidad.

OpenAI anunció el 5 de octubre que incorporará durante las próximas semanas una marca de agua invisible en las respuestas de texto elegibles de ChatGPT y Codex para usuarios de la Unión Europea. Los clientes de la API pueden activar desde hoy la misma capacidad en determinados modelos, aunque permanece desactivada por defecto.

La medida busca cumplir la obligación del AI Act de hacer identificable en formato legible por máquinas el contenido generado por IA. No introduce una etiqueta visible en cada párrafo. Añade una señal estadística a las elecciones de palabras para que un detector pueda estimar si el texto contiene la marca de OpenAI.

01

Cómo funciona textGrain y por qué no es una prueba absoluta

La tecnología, llamada textGrain, modifica de forma imperceptible la distribución de palabras que elige el modelo. OpenAI afirma que en sus pruebas iguala o supera otros métodos, incluido SynthID para texto, sin diferencias significativas de rendimiento en los principales indicadores de su modelo Astra.

El resultado depende, sin embargo, de la longitud, el tipo de contenido y las ediciones posteriores. Con un objetivo de falsos positivos del 1 %, el detector identificó alrededor del 80 % de las marcas en fragmentos de 200 tokens y cerca del 95 % en textos de 400 tokens dentro de contenidos flexibles. La detección cayó del 92 % al 66 % al sustituir un 10 % de las palabras por sinónimos y al 17 % al reemplazar una cuarta parte.

La lectura correcta

Detectar una marca es una señal de intervención de un sistema de OpenAI. No detectarla no prueba que el texto sea humano: pudo editarse, traducirse, ser demasiado corto o proceder de otro modelo.

02

La marca no identifica al autor ni valida la información

OpenAI establece límites explícitos. La marca no mide cuánto criterio humano hay en un contenido, no resuelve su propiedad intelectual, no identifica al usuario ni relaciona el texto con una cuenta o una conversación. Tampoco indica si una afirmación es correcta, engañosa o está presentada con el contexto adecuado.

Esa distinción será esencial en entornos profesionales. Un informe puede estar marcado y haber sido revisado con rigor; otro puede carecer de marca y ser completamente sintético. La procedencia aporta una evidencia técnica, mientras la calidad sigue dependiendo de fuentes, revisión, atribución y responsabilidad editorial.

03

Audio e imagen ya siguen otra vía de verificación

Para imágenes y audio generados por sus sistemas, OpenAI mantendrá accesibles su herramienta web de verificación y la Content Provenance API. La compañía combina credenciales C2PA, marcas invisibles SynthID y herramientas de consulta porque ninguna técnica conserva por sí sola toda la historia de un archivo.

La diferencia importa especialmente en producción audiovisual, doblaje, locución sintética y contenidos de eventos. Los metadatos pueden documentar el origen y las transformaciones, mientras una marca resistente ayuda cuando esos metadatos se pierden. Aun así, un flujo profesional necesita conservar originales, versiones, consentimientos y decisiones de edición.

04

Qué cambia para empresas, medios y automatizaciones

Las organizaciones que generan publicaciones, informes o comunicaciones con modelos de IA deberán tratar la procedencia como parte del diseño del proceso. No basta con añadir una nota al final: conviene registrar qué sistema intervino, qué fuente alimentó la generación, qué persona revisó el resultado y qué versión se publicó.

En las automatizaciones, la marca puede facilitar auditorías y políticas de transparencia, pero también introduce decisiones prácticas. Los equipos deberán comprobar qué modelos admiten la función, cómo afecta una reescritura o traducción y cuándo una divulgación visible sigue siendo necesaria aunque exista una señal invisible.

El detector de texto no estará abierto al público al principio. OpenAI limitará el acceso a investigadores y organizaciones expertas autorizadas debido al riesgo de falsos positivos y falsos negativos. Por tanto, la marca no debe convertirse todavía en un filtro automático para aceptar, rechazar o sancionar contenidos.

Conclusión

La transparencia técnica avanza, pero la confianza seguirá dependiendo del proceso completo.

La marca de agua europea es un paso relevante porque traslada la procedencia desde una promesa editorial hacia una señal incorporada al contenido. Sus límites impiden usarla como veredicto. La respuesta más sólida combina marcas, metadatos, registros de versiones, fuentes verificables y supervisión humana.

Cuatro criterios para implantar procedencia sin crear una falsa seguridad

  • Separar origen y verdad. La señal indica procedencia técnica; la veracidad exige contrastar fuentes y contexto.
  • Conservar la cadena de producción. Originales, versiones, permisos y revisiones aportan información que la marca no contiene.
  • Evitar decisiones automáticas. Los errores de detección hacen inadecuado convertir el resultado en una prueba única.
  • Diseñar por formato. Texto, audio e imagen requieren técnicas y evidencias complementarias.

Fuentes

Los datos técnicos y el calendario proceden de OpenAI. El marco regulatorio se contrasta con la Comisión Europea. Las implicaciones para empresas, automatización y producción audiovisual son análisis editorial.