¿Te has encontrado una imagen en la red pero no sabes si es real o generada con IA? Este problema es cada vez más habitual entre los usuarios y por eso Google trata de atajarlo con su nueva herramienta: SynthID.
El uso de herramientas de IA se ha popularizado, provocando que en la red sea cada vez más habitual encontrarse con contenido generado.
Noticias con cabeceras impresionantes, representaciones idealizadas, personajes públicos en escenas inventadas… Seguro que te suena algún caso, pero ¿cómo saber si es real o no una imagen? ¿Es veraz el contenido que se representa? ¿Es legal?
La capacidad de respuesta y creación de los modelos de IA ha ido aumentando de calidad, haciendo que en muchos casos el contenido generado sea indistinguible del real.
Son muchas las dudas que se plantean ante los nuevos usos de la Inteligencia Artificial. Para resolver al menos la de si es real o no una imagen, surge SynthID.
Índice de contenidos
¿Qué es SynthID?
SynthID es una tecnología desarrollada por Google que permite insertar marcas de agua digitales en el contenido generado por inteligencia artificial (imágenes, texto, audio, vídeo) con el fin de poder identificar estos recursos como generados o modificados por la IA.
Dichas marcas de agua son imperceptibles para el ojo humano, por lo que SynthID no altera a simple vista el contenido.
Las marcas de agua se insertan en los metadatos de los recursos y pueden ser detectadas fácilmente por casi cualquier sistema de inteligencia artificial.
Hay que tener en cuenta que por el momento, SynthID se aplica en Gemini y en los sistemas de IA de Google, pero no es un estándar, por lo que todavía falta para que lo utilicen muchos motores inteligentes.
En vías de fomentar su utilización, Google ha liberado el código bajo petición para que cualquier empresa o desarrollador lo pueda aplicar.
Aquí puedes ver cómo integrar SynthID en tus desarrollos con modelos de IA.
¿Cómo se detecta la marca SynthID?
Al igual que Google facilita la tecnología para aplicar SynthID, también está trabajando en una herramienta para que cualquiera pueda detectarla.
Esta herramienta es SynthID Detector, un portal donde puedes subir imágenes, texto, audio o vídeo para comprobar si contienen la marca SynthID y verificar que efectivamente se utilizó IA para generar o editar el recurso.
En la página de Google Deepmind, puedes obtener más información sobre SynthID.
¿Cómo funciona SynthID?
El funcionamiento de SynthID varía según el tipo de recurso en el que se aplique:
- Imágenes y vídeo: la marca de agua se inserta directamente en los píxeles. Aunque los cambios son mínimos y no perceptibles, permanecen detectables incluso tras ediciones como recortes, filtros o compresión.
- Texto: la marca de agua se inserta modificando sutilmente las probabilidades de escoger ciertos tokens (palabras o fragmentos) durante la generación del texto. Estas modificaciones no alteran el sentido ni la calidad, pero generan un patrón estadístico que un detector puede reconocer.
- Audio: se convierte el audio en espectrograma, se aplica la marca en esa representación y luego se reconstruye el audio. Tal y como pasa con las imágenes, la marca es inaudible, pero puede resistir procesamientos normales de audio.
Como ves, es aplicable a todo tipo de formatos, y aunque la marca puede eliminarse con ediciones agresivas, es complicado para el usuario medio borrar la marca de SynthID.
Conclusión: ventajas y desventajas de SynthID
El uso de SynthID tiene varias ventajas evidentes, como la claridad en el uso de la IA, pero también tiene alguna desventaja.
Por un lado, aunque es obvio, los motores que no incorporen esta tecnología no podrán revisarse de la misma forma. Es decir, los recursos generados con SynthID seguirán conviviendo con recursos que no llevan esta marca y que puedan ser indistinguibles si usan IA o no.
Por otro, aunque la marca parece bastante fiable, puede haber errores en su detección. Aunque es difícil, también es posible borrarla, y por último, las propias IA podrían entrenarse con métodos para ocultarla.
Además, está por ver sus aplicaciones y si, por ejemplo, en un futuro se puede habilitar su uso para la protección de autorías o la protección de marcas, lo que resultaría muy útil para muchos creadores y empresas.
El tiempo dirá como evoluciona el uso de SynthID y si se vuelve o no un estándar. En cualquier caso, y con el boom del contenido generado, no está de más que salgan opciones de este tipo para controlar el uso indiscriminado de la IA y así evitar problemas derivados de ella.
¿Qué te SynthID? ¿Lo ves una buena solución o tienes otra opinión? ¡Te leemos en los comentarios! 🙂
Deja una respuesta