León, Guanajuato.- Google comenzó el 2024 muy ocupado. En días recientes anunció nuevas funciones con Inteligencia Artificial (IA) para su navegador Chrome y recientemente presentó una IA generativa capaz de crear video mediante texto e imágenes estáticas, llamada Lumiere.
Presentamos Lumiere, un modelo de difusión de texto a video diseñado para sintetizar videos que retratan un movimiento realista, diverso y coherente, un reto fundamental en la síntesis de v ideo”, indicó el sitio web de Lumiere.
Google explicó que para lograr esta innovación, desarrollaron la arquitectura Space-Time U-Net (STUNet), lo que permite generar el video de una sola vez, en vez de fotograma por fotograma como otras iniciativas presentadas con anterioridad, por ejemplo
Make-A-Video de Meta.
En términos simples, la arquitectura calcula dónde están las cosas en un video y cómo se mueven y cambian simultáneamente. Lumiere crea un fotograma base a partir de la indicación, luego usa el marco STUNet para determinar hacia dónde se moverán
los objetos dentro de ese fotograma para crear más de ellos y fluyan entre sí, creando la apariencia de un movimiento sin interrupciones.
Google da un paso muy serio hacia la IA multimodal para competir con iniciativas similares como Runway, Stable Video Diffusion, Pika o Meta.
De acuerdo con el documento liberado por Google, la herramienta genera videos de 80 fotogramas a 16 cuadros por segundo con una duración de 5 segundos y tienen una resolución de 1,024 × 1,024 pixeles.
Lumiere también es capaz de crear imagen en video.
Durante la presentación se aprecia la obra La joven de la perla de Johannes Vermeer guiñando el ojo o La noche estrellada de Vincent van Gogh moviéndose.
También es posible añadir movimiento solo a una parte del video mediante la función cinemagraphs o añadir estilo con inpainting, una herramienta que modifica una área específica del video para cambiar el color o quitar o añadir elementos.
Los autores indicaron que emplearon un conjunto de datos que contiene 30 millones de videos junto con sus subtítulos de texto, pero no aclararon la fuente.
Lumiere no está disponible para los usuarios por el momento.
SM