Los clústeres de IA que operan en Kubernetes necesitan una infraestructura de software completa. Desde los controladores y configuraciones del núcleo hasta las configuraciones de operadores y cargas de trabajo, todos los elementos deben trabajar en conjunto. Sin embargo, conseguir que un clúster funcione puede llevar días para igualar el siguiente. Por lo tanto, las actualizaciones de componentes a menudo causan problemas, y al cambiar a una nueva nube, es necesario comenzar desde cero.
El AI Cluster Runtime es un nuevo proyecto de código abierto creado para eliminar la configuración del clúster del camino crítico. Este proyecto publica configuraciones de Kubernetes optimizadas, validadas y reproducibles como recetas que se pueden implementar en los clústeres.
Funcionamiento de AI Cluster Runtime
Para respaldar los clústeres de GPU en fábricas de IA en la nube y en instalaciones locales, NVIDIA valida combinaciones específicas de controladores, entornos de ejecución y configuraciones del sistema para cargas de trabajo de IA. AI Cluster Runtime publica esos resultados como recetas. Estos archivos YAML con versiones bloqueadas capturan qué componentes fueron probados, las versiones y los valores de configuración para un entorno dado.
Las recetas también incluyen restricciones, como la versión mínima de Kubernetes y la versión del sistema operativo, además de un orden de implementación calculado basado en las dependencias de los componentes. Cada receta es validada contra clústeres reales y es reproducible en diferentes entornos.
Captura del estado de tu clúster
Si ya tienes un clúster en funcionamiento, puedes tomar una instantánea de su estado antes de generar una receta. Esto captura la versión del sistema operativo, la versión del núcleo, el hardware y el controlador de GPU, así como la versión de Kubernetes y los operadores instalados.
aicr snapshot --node-selector nodeGroup=gpu-worker --output cm://gpu-operator/aicr-snapshot
Este comando despliega un trabajo de corta duración en un nodo de destino, recolecta mediciones del sistema y escribe los resultados en un ConfigMap o archivo local. La instantánea se convierte en la base para las validaciones posteriores.
Generación de una receta
El comando para generar la receta toma una descripción de tu entorno objetivo y la compara con una biblioteca de capas validadas para producir una receta única con versiones y configuraciones exactas de los componentes.
aicr recipe --service eks --accelerator h100 --intent training --os ubuntu --platform kubeflow --output recipe.yaml
Las recetas se componen de capas en lugar de mantenerse como configuraciones monolíticas. Estas incluyen capas base, específicas del entorno, de intención y de hardware, donde cada capa se añade en orden, teniendo en cuenta las prioridades de configuración.
Una receta completamente especializada puede abarcar hasta 268 valores de configuración en 16 componentes, mientras que una consulta genérica puede devolver 200. Esto resalta la variabilidad que puede surgir al ajustar clústeres manualmente.
Validación
La validación se realiza en fases. Antes de implementar, una comprobación de preparación compara las restricciones de la receta con tu instantánea. Esto incluye la versión de Kubernetes, el sistema operativo, el núcleo y el hardware de GPU.
aicr validate --recipe recipe.yaml --phase readiness
Después de la implementación, las fases posteriores validan la salud de los componentes y su conformidad. La fase de conformidad verifica los estándares establecidos por el programa de Conformidad de IA de Kubernetes Certificado, asegurando los requisitos para la asignación dinámica de recursos y otras métricas.
Creación de un paquete
El bundler transforma una receta en artefactos desplegables.
aicr bundle --recipe recipe.yaml --system-node-selector nodeGroup=system-pool --accelerated-node-selector nodeGroup=gpu-worker --accelerated-node-toleration nvidia.com/gpu=present:NoSchedule --output ./bundles
El resultado es un directorio con una carpeta por componente, que incluye values.yaml, sumas de verificación de integridad, un README y manifiestos opcionales. Los componentes se ordenan según su gráfico de dependencias, y se pueden desplegar usando el script deploy.sh.
Mantente al día con las recetas de AI Cluster Runtime
Las recetas se actualizan a medida que los pipelines de validación de NVIDIA se ejecutan. Nuevas versiones de componentes y actualizaciones de controladores se integran en las recetas publicadas cuando son probadas. Por lo tanto, cada receta está versionada, permitiendo comparar tu implementación actual con la última configuración validada.
Contribuyendo recetas
El proyecto está diseñado para fomentar la colaboración desde el inicio, permitiendo que CSPs, OEMs y operadores individuales validen combinaciones diversas de hardware y distribuciones de Kubernetes.
Contribuye con una receta. Copia una superposición existente, actualiza los criterios y configuraciones para tu entorno, ejecuta make test y abre un PR. La guía de desarrollo de recetas detalla el proceso.
Extiende de manera privada. La opción --data permite superponer directorios de recetas externas en tiempo de ejecución, manteniendo configuraciones específicas de la organización junto a las públicas sin necesidad de bifurcar.
Comienza con AI Cluster Runtime
AI Cluster Runtime está disponible en GitHub como una versión alfa. Incluye la CLI aicr, un servidor API, un agente de clúster y recetas validadas que cubren cargas de trabajo de entrenamiento e inferencia en Kubernetes.
Las recetas de entrenamiento están dirigidas a Kubeflow Trainer, mientras que las de inferencia son para NVIDIA Dynamo. Cada lanzamiento incluye la procedencia SLSA Nivel 3, SBOMs firmados y atestaciones de imagen.
Se están desarrollando proyectos para expandir AI Cluster Runtime en más plataformas y tipos de carga de trabajo. No te pierdas la sesión Operando fábricas de IA en la nube a gran escala en NVIDIA GTC 2026 para obtener más información.
