Google extiende las marcas de agua de SynthID a vídeos y textos generados por IA

Google ha extendido las marcas de agua de su herramienta SynthID a los textos y vídeos creados por Inteligencia Artificial (IA) generativa, incluidos los de su nuevo modelo Veo, capaz de generar vídeo en alta calidad (1.080p) a partir de texto.

A medida que el uso de herramientas de IA generativa y los grandes modelos de lenguaje tras ellas aumenta entre los usuarios, también crecen los riesgos de que el contenido generado por IA no sea identificado adecuadamente.

En este marco, la tecnológica presentó SynthID en agosto del pasado año, un conjunto de herramientas con las que permite añadir marcas de agua digitales a los píxeles de las imágenes generadas por IA y, de esta forma, diferenciarlas con respecto a las imágenes reales.

Según detalló el equipo de Google DeepMind en aquel momento, la marca de agua es detectable con la tecnología adecuada "incluso después de modificaciones", como los filtros o el cambio de colores. Asimismo, para su funcionamiento SynthID utiliza dos modelos de aprendizaje profundo, uno para crear las marcas de agua y otro para su identificación en imágenes.

Ahora, Google ha anunciado que está ampliando las capacidades de SynthID para permitir añadir marcas de agua a contenido de texto generado por IA en la aplicación y experiencia de web de Gemini, así como en los vídeos generados por el nuevo modelo Veo.

Tal y como ha señalado la compañía en un comunicado en su blog, SynthID "no es una solución milagrosa", pero ayuda a desarrollar herramientas de identificación de IA "más confiables" y a que las personas puedan tomar decisiones informadas sobre cómo interactúan con el contenido generado por IA.

En este sentido, Google ha explicado que las marcas de agua para texto se agregan introduciendo información adicional en la distribución de tokens cuando se está generando el texto. Todo ello sin comprometer la calidad, precisión o velocidad de generación de texto.

Así, el patrón final de puntuaciones para las elecciones de palabras del modelo, combinado con las puntuaciones de probabilidad ajustadas se considera la marca de agua. Para identificar esta marca de agua SynthID compara el patrón de puntuaciones con el patrón esperado de puntuaciones para texto, lo que permite detectar si una IA generó este contenido.

Al igual que con las imágenes, Google ha asegurado que esta herramienta funciona bien "incluso bajo algunas transformaciones", como recortar fragmentos de texto o modificar algunas palabras. No obstante, sus puntuaciones se pueden ver afectadas si el texto generado por IA se traduce completamente a otro idioma.

Además de todo ello, Google ha señalado que, a finales de este verano abrirá SynthID para marcas de agua de texto, con lo que los desarrolladores podrán "construir con esta tecnología" incorporándola en sus propios modelos.

SYNTHID EN VÍDEOS GENERADOS CON VEO

Por su parte, las marcas de agua de SynthID también se han ampliado para vídeos generados por IA, en concreto, creados por el nuevo modelo de generación de vídeo en alta calidad (1080p) a partir de texto, Veo, que Google presentó este martes en el marco de su evento anual de desarrolladores Google I/O.

Concretamente, las marcas de agua de SynthID para vídeos se implementan con una técnica inspirada en el mismo sistema que utiliza la herramienta de Google para las imágenes. Es decir, al componerse de fotogramas individuales o imágenes fijas, SynthID introduce una marca de agua directamente en los píxeles de cada cuadro de vídeo.

Este método también es "imperceptible" para el ojo humano y en ningún momento afecta a la calidad, precisión, creatividad o velocidad del proceso de generación de video. Con todo ello, Google ha adelantado que todos los vídeos generados por Veo en VideoFX tendrán una marca de agua de SynthID.