OpenAI introduce marcas de agua en ChatGPT en la UE, opcional en el resto

Resumen

• OpenAI comenzará a utilizar marcas de agua invisibles en el texto generado por ChatGPT y Codex en la UE para cumplir con el AI Act, que exige la identificación del contenido generado por IA.
• El sistema de marcas de agua se llama textGrain y su implementación permitirá tasas de detección de hasta el 95 %, aunque se reduce al 17 % tras reemplazar una cuarta parte de las palabras, según pruebas internas.
• Fuera de la UE, los usuarios de la API podrán optar por no incluir marcas de agua, a diferencia de lo anunciado por Anthropic, que aplicará dicha obligación a todo su uso.
• El método de OpenAI, textGrain, permite a investigadores con acceso a claves especializadas identificar patrones en el texto que son invisibles para lectores humanos.
• La introducción de marcas de agua es parte de un esfuerzo más amplio para marcar contenido de IA y está alineada con regulaciones que buscan aumentar la transparencia en el uso de tecnologías de inteligencia artificial.