NVIDIA Blackwell establece un nuevo récord en inferencia de LLM para finanzas
NVIDIA Blackwell ha roto récords en la inferencia de modelos de lenguaje grande (LLM) en el sector financiero, superando en hasta 3.2 veces a arquitecturas anteriores. Estos modelos permiten un análisis profundo de datos no estructurados, prediciendo movimientos de precios y automatizando estrategias de inversión. La combinación de alto rendimiento y excelente interactividad en estos sistemas redefine el procesamiento de información financiera.
NVIDIA mejora el procesamiento de datos con GPUs de múltiples instancias y localización NUMA
NVIDIA presenta mejoras en el rendimiento y eficiencia energética para procesadores gráficos de centros de datos mediante la localización de nodos NUMA y el uso del modo Multi-Instance GPU (MIG). Esta técnica permite minimizar la transferencia de datos entre nodos, logrando hasta 2.25x de rendimiento superior en condiciones de baja potencia. MIG optimiza el uso de recursos, fomentando el aislamiento y la ejecución paralela en entornos con múltiples cargas de trabajo.
