Lanzan Waypoint-1: Nueva herramienta para crear videos interactivos en tiempo real

Waypoint-1 es el modelo de difusión de video interactivo en tiempo real de Overworld, controlable mediante texto, mouse y teclado. Esta herramienta permite a los usuarios proporcionar fotogramas, ejecutar el modelo y crear un mundo interactivo.

El núcleo de este modelo es un transformador de flujo rectificado causal por fotograma, entrenado con 10,000 horas de grabaciones de videojuegos diversas. A diferencia de otros modelos, Waypoint-1 se diseñó desde el principio para experiencias interactivas.

Cómo Funciona Waypoint-1

Los modelos existentes suelen utilizar modelos de video preentrenados, ajustándolos con entradas de control simplificadas. Sin embargo, Waypoint-1 permite un control total, donde los usuarios pueden mover la cámara con libertad y sin latencia, generando cada fotograma en función de sus acciones.

Además, el modelo es lo suficientemente rápido para ofrecer una experiencia fluida incluso en hardware consumer. Esto marca una diferencia significativa respecto a otros modelos, que limitan los controles y generan latencias notables.

Entrenamiento de Waypoint-1

Waypoint-1 fue preentrenado utilizando diffusion forcing, una técnica que enseña al modelo a eliminar el ruido de fotogramas futuros basándose en los pasados. Cada fotograma se ruidiza aleatoriamente, lo que permite al modelo aprender a deshacer el ruido individualmente.

Durante la inferencia, es posible eliminar el ruido de nuevos fotogramas uno a uno, generando así una secuencia procedimental de fotogramas. Sin embargo, este enfoque puede resultar en errores acumulativos, lo que se ha abordado con una técnica denominada self-forcing.

Biblioteca de Inferencia: WorldEngine

WorldEngine es la biblioteca de inferencia de alto rendimiento de Overworld para la transmisión de modelos de mundo interactivos. Está optimizada para baja latencia y alta capacidad de procesamiento, facilitando la construcción de aplicaciones de inferencia en Python puro.

WorldEngine permite un bucle de ejecución interactivo, que consume imágenes de fotogramas de contexto, entradas de teclado y mouse, y genera fotogramas de imagen para la transmisión en tiempo real.

Construye con World Engine

Se llevará a cabo un hackathon de world_engine el 20 de enero de 2026. Los equipos de 2 a 4 personas son bienvenidos, y el premio es una GPU 5090. Esta es una oportunidad para crear y conocer a otros fundadores, ingenieros e inversores.

Mantente en Contacto

– Enlace contenido original: https://huggingface.co/blog/waypoint-1
Ilustración de un hombre mayor con auriculares y chaqueta