Optimización del uso de GPU para mejorar la eficiencia en entornos de Kubernetes
La consolidación de cargas de trabajo GPU infrautilizadas en entornos Kubernetes mejora la eficiencia de la infraestructura de IA. Modelos como ASR y TTS, que requieren menos VRAM, a menudo saturan recursos. Implementar estrategias de particionamiento, como MIG y time-slicing, optimiza el uso de hardware, permitiendo más usuarios concurrentes y maximizando el retorno sobre la inversión, crucial para aplicaciones de voz AI.
Arm inicia la venta de sus propios chips tras 35 años de diseño para terceros
Arm, tras 35 años enfocada en diseñar arquitecturas de chips, comenzará a vender sus propios procesadores. En un evento en San Francisco, presentaron el AGI CPU, destinado para centros de datos de inteligencia artificial. Fabricado por TSMC, cuenta con núcleos Neoverse V3 y promete eficiencia en el consumo. Con Meta como socio, Arm busca adaptarse a la creciente demanda de inteligencia artificial y expandir su presencia en el mercado.
