El reciente escándalo relacionado con las imágenes pornográficas de Taylor Swift, creadas mediante modelos de IA generativa, ha resaltado la importancia de etiquetar estas imágenes para distinguirlas de las reales. Aunque existen varios esfuerzos en este sentido, OpenAI ha dado un paso significativo adelante.
La empresa ha anunciado la implementación de marcas de agua en las imágenes generadas por su plataforma DALL-E 3. Estas marcas estarán presentes en las imágenes generadas a través del sitio web de ChatGPT y de la API del modelo DALL-E 3. Los usuarios de la aplicación móvil tendrán acceso a esta opción a partir del 12 de febrero.
Las marcas de agua en las imágenes generadas con DALL-E 3 tendrán dos componentes: uno visible, con un símbolo “CR” (de “content Credentials”) en la esquina superior izquierda, y otro invisible, integrado en los metadatos de la imagen.
Esta iniciativa permitirá a cualquier usuario verificar el origen de las imágenes generadas con las plataformas de OpenAI utilizando herramientas como Content Credentials Verify. Por el momento, este mecanismo solo está disponible para imágenes, no para vídeos ni texto.
OpenAI asegura que estos metadatos apenas afectarán a la latencia y no modificarán la calidad de las imágenes. En algunas situaciones, el tamaño de las imágenes podría aumentar ligeramente
El sistema utilizado por OpenAI proviene del consorcio C2PA, en el que participan empresas como Adobe y Microsoft. Este mecanismo busca identificar imágenes generadas por IA y ya ha sido adoptado por Adobe en forma de un nuevo icono “CR”.
OpenAI es la primera empresa importante en este campo en implementarlo, y otras como Meta también están empezando a etiquetar imágenes generadas por IA en sus plataformas.
Aunque esta iniciativa es prometedora, los responsables de OpenAI reconocen que los metadatos pueden eliminarse fácilmente, tanto accidental como intencionadamente. Sin embargo, representa un paso importante para abordar uno de los grandes desafíos de la industria, especialmente en la lucha contra los deepfakes.
