Nuevas estrategias para escalar modelos de IA en AWS
En la evolución de los modelos fundamentales, el «escalado» ha cambiado hacia un enfoque integral que abarca preentrenamiento, postentrenamiento y computación en tiempo de prueba. La infraestructura adecuada en AWS, combinada con un ecosistema de software de código abierto, permite mejorar la eficiencia y el rendimiento a gran escala. Este artículo detalla la arquitectura y los componentes necesarios para optimizar la capacitación y la inferencia de modelos en la nube.
Optimización de rendimiento en inferencias de IA con NVIDIA Run:ai y fracciones de GPU
NVIDIA Run:ai implementa un sistema de programación inteligente que maximiza el uso de recursos mediante la fraccionamiento dinámico de GPUs. Esto permite aumentar la capacidad de usuarios concurrentes y el rendimiento de modelos de lenguaje grandes (LLMs) sin comprometer la latencia. La colaboración con Nebius demuestra que este enfoque es eficaz para escalar cargas de trabajo de IA, ofreciendo autoscalado y mejora de costos para las empresas.
Se crea un modelo innovador que mapea el tráfico peatonal en Nueva York
Un equipo de investigación del MIT ha creado el primer modelo completo de actividad peatonal en Nueva York, registrando las rutas de tránsito y los puntos críticos de seguridad para peatones. Este modelo ayudará a los planificadores urbanos a mejorar la infraestructura peatonal y a identificar áreas con alta concentración de accidentes. Se espera que inspire a otras ciudades a implementar evaluaciones similares para fomentar un tránsito más seguro y sostenible.
