OpenAI anunció la implementación de una marca de agua invisible que se incorporará en los textos generados por ChatGPT y Codex dentro de la Unión Europea. Esta medida responde a las exigencias de transparencia de la Ley de Inteligencia Artificial del bloque comunitario.
La nueva función comenzará a aplicarse en las próximas semanas para todos los usuarios elegibles de ambas herramientas en cualquier plan disponible en la región. OpenAI precisó que la medida afectará exclusivamente a los textos que se generen a partir del momento en que la función esté activa.
Detalles sobre la tecnología de marca de agua
La empresa liderada por Sam Altman comunicó que, a diferencia de tecnologías tradicionales, la marca de agua no añade imágenes ni símbolos visibles al contenido. En su lugar, altera de manera imperceptible la selección de palabras realizadas por el modelo, insertando un patrón que puede ser detectado por herramientas específicas, pero permanece invisible a los usuarios y lectores.
Según OpenAI, este patrón se mantiene cuando el texto es copiado y pegado. La compañía aseguró que la implementación no introduce información que permita identificar al usuario y que su activación no afecta significativamente el rendimiento de los modelos generadores de texto.
La empresa también anunció que, para los desarrolladores que emplean la API de OpenAI, la función estará disponible desde este lunes en ciertos modelos a nivel global, aunque permanecerá desactivada por defecto fuera de la Unión Europea.
En un comunicado oficial, la compañía explicó: “Nuestras herramientas ya ayudan a verificar si una imagen o archivo de audio fue creado con nuestros modelos. Este trabajo se basa en esos esfuerzos para ayudar a las personas a entender mejor cuándo el contenido podría haber sido generado o editado con un modelo de OpenAI”.
Funcionamiento y limitaciones del sistema
OpenAI publicó un informe técnico sobre el método, denominado textGrain, desarrollado en conjunto con investigadores de la Universidad de Pensilvania y Yale. El sistema utiliza una clave secreta que reorganiza las predicciones de la siguiente palabra en una sucesión, produciendo patrones particulares reconocibles por un detector externo. La comprobación de la marca de agua solo requiere el texto generado y la clave correspondiente.
La empresa informó que sus ensayos muestran que el sistema pierde eficacia cuando el texto es editado. Cuando se sustituye un 10% de las palabras por sinónimos, la capacidad de detección baja de aproximadamente 92% a 66%. Asimismo, textos breves, respuestas matemáticas y traducciones presentan dificultades adicionales para el reconocimiento de la marca de agua.
Estas limitaciones motivaron a OpenAI a restringir el acceso inicial del detector a investigadores y organizaciones expertas autorizadas. Según la tecnológica, estos grupos contribuirán a evaluar la fiabilidad de la herramienta y sus posibles usos responsables.
OpenAI aclaró que la ausencia de la marca de agua no confirma necesariamente que el texto haya sido redactado por una persona. El contenido podría haber sido generado por otro sistema, editado extensamente o ser demasiado corto para permitir una identificación segura.
La empresa afirmó: “Las marcas de agua pueden indicar que un sistema de OpenAI generó o procesó parte de un pasaje, pero no cuánto criterio humano, edición o creatividad se invirtió en él”.
Precedentes y compromisos internacionales
El anuncio se da dos meses después de que la empresa Anthropic comunicó la incorporación de una marca de agua en los textos de su modelo Claude, aunque en ese caso la función se aplicará globalmente.
La decisión generó cuestionamientos de parte de algunos usuarios en torno al sistema de Claude, quienes consideraron que, pese al aporte humano en instrucciones y decisiones, la marca podía asociar el texto enteramente a la inteligencia artificial.
OpenAI había desarrollado previamente tecnologías similares de identificación, pero retrasó su despliegue. Según reportó The Wall Street Journal, existía preocupación por la migración de usuarios hacia alternativas que no aplicaran marcas de agua.
Anthropic, Google, Meta, Microsoft y OpenAI forman parte del grupo de empresas tecnológicas que se comprometieron a acatar el código de buenas prácticas de la Unión Europea en relación al contenido generado por inteligencia artificial.
También lee
