Los centros de datos enfrentan un creciente desafío energético debido al auge de la inteligencia artificial. Se estima que consumirán hasta el 12% de la electricidad total de EE.UU. para 2028, según el Lawrence Berkeley National Laboratory. Para abordar esta situación, investigadores del MIT y el MIT-IBM Watson AI Lab han desarrollado una herramienta que permite predecir rápidamente el consumo energético al ejecutar cargas de trabajo de IA.
Este método, llamado EnergAIzer, proporciona estimaciones precisas en segundos, a diferencia de los métodos tradicionales que pueden tardar horas o días. Además, es aplicable a diversas configuraciones de hardware, incluidas aquellas que aún no se han implementado.
Mejoras en la eficiencia energética
Los operadores de centros de datos pueden utilizar estas estimaciones para distribuir eficientemente los recursos entre múltiples modelos de IA y procesadores, mejorando así la eficiencia energética. Esta herramienta también permite a los desarrolladores de algoritmos evaluar el consumo energético potencial de nuevos modelos antes de su despliegue.
“El desafío de la sostenibilidad en IA es urgente. Esperamos que nuestro método de estimación rápido y conveniente fomente la reducción del consumo energético”, afirma Kyungmi Lee, investigadora del MIT y autora principal de un estudio sobre esta técnica.
Lee trabajó en el estudio junto a otros investigadores, incluyendo a Zhiye Song, Eun Kyung Lee y Anantha P. Chandrakasan. La investigación se presentará en el IEEE International Symposium on Performance Analysis of Systems and Software.
Optimización del proceso de estimación
En los centros de datos, miles de unidades de procesamiento gráfico (GPUs) realizan operaciones para entrenar y desplegar modelos de IA. El consumo energético de una GPU varía según su configuración y la carga de trabajo. Las técnicas tradicionales para predecir el consumo suelen descomponer las cargas de trabajo en pasos individuales, lo que puede ser extremadamente lento.
Para acelerar el proceso, los investigadores del MIT decidieron utilizar información menos detallada y más rápida de estimar. Identificaron patrones repetitivos en las cargas de trabajo de IA, lo que les permitió desarrollar un modelo de estimación ligero que captura los patrones de uso energético de las GPUs.
La herramienta EnergAIzer ofrece estimaciones rápidas y precisas del consumo energético. Cuando se prueba con información real de cargas de trabajo de IA, presenta un margen de error de solo el 8%, similar a métodos tradicionales que requieren mucho más tiempo.
Perspectivas futuras
Los investigadores buscan aplicar EnergAIzer a las nuevas configuraciones de GPUs y ampliar el modelo para que funcione con múltiples GPUs colaborando en una carga de trabajo. “Para tener un impacto real en la sostenibilidad, necesitamos herramientas que ofrezcan estimaciones rápidas de energía para diseñadores de hardware, operadores de centros de datos y desarrolladores de algoritmos”, concluye Lee.
Este trabajo cuenta con financiamiento del MIT-IBM Watson AI Lab.
