Google lanza herramienta para identificar imágenes generadas por IA

En su esfuerzo por aumentar la transparencia en el contenido originado por la inteligencia artificial, Google ha presentado SynthID. Esta novedosa herramienta establece marcas de agua digital en las imágenes producidas por algoritmos, facilitando su pronta identificación.

Según una comunicación, la rama de Google dedicada a la IA, SynthID implementa un identificador directamente en los píxeles de la imagen, siendo imperceptible para el ojo humano. Aunque su presencia es sutil, esta marca de agua no compromete la calidad visual y mantiene su efectividad incluso tras ajustes posteriores como filtros, recortes o cambios en el formato de la imagen.

En un contexto en el que modelos de IA como Midjourney o Stable Diffusion están generando contenido realista capaz de engañar a usuarios inexpertos, la necesidad de marcar y rastrear imágenes generadas por algoritmos ha ganado importancia.

SynthID no solamente permite la inclusión de marcas de agua, sino que también tiene la capacidad de analizar una imagen para determinar si fue creada por IA. Basándose en dos modelos de aprendizaje profundo, uno para marcas de agua y otro para la identificación de imágenes, estos modelos fueron entrenados simultáneamente con diversas imágenes para maximizar su eficacia.

No obstante, es esencial resaltar que SynthID no es invulnerable frente a alteraciones extremas en la imagen. A pesar de este hecho, Google se mantendrá enfocado en perfeccionar la herramienta, considerando incluso la posibilidad de extender su uso a otros tipos de contenidos como audio, video o texto.

En el presente, SynthID se encuentra accesible para un grupo limitado de usuarios que emplean Imagen, un modelo de Vertex AI de Google que tiene la capacidad de generar imágenes altamente realistas a partir de descripciones en texto. Esta marca de agua digital es compatible con métodos de identificación basados ​​en metadatos, semejantes a aquellos presentes en programas como Photoshop.

Google ha confirmado su intención de expandir la aplicación de SynthID a modelos de IA generativos desarrollados por terceros en un futuro cercano. La compañía se compromete a seguir perfeccionando la herramienta, incorporando mejoras en las futuras versiones y aprovechando la retroalimentación de los usuarios durante la fase de pruebas para afinar los modelos.