Granite 4.1 es una familia de modelos de lenguaje densos y solo de decodificación, entrenados por IBM y el equipo de Granite.
Resumen: Este nuevo modelo se ha desarrollado utilizando un pipeline de preentrenamiento de múltiples etapas, procesando aproximadamente 15 billones de tokens y extendiendo el contexto hasta 512K tokens.
Los modelos se refinan adicionalmente mediante ajuste fino supervisado en aproximadamente 4.1 millones de muestras de alta calidad, y se implementa un aprendizaje por refuerzo utilizando una técnica llamada GRPO con pérdida DAPO (Yu et al., 2025). El modelo de 8B ha demostrado igualar o superar el anterior modelo Granite 4.0-H-Small a pesar de tener una arquitectura más simple y menos parámetros.
Todos los modelos de Granite 4.1 se han lanzado bajo la licencia Apache 2.0.
Visión General
El desarrollo de modelos de lenguaje de alta calidad requiere una rigurosa curación de datos durante el entrenamiento. Con Granite 4.1, se priorizó la calidad de los datos sobre la cantidad, refinando progresivamente la mezcla de datos en cinco etapas de preentrenamiento. Se utilizó un marco LLM-as-Judge para curar los datos de ajuste fino supervisado y se aplicó un pipeline de aprendizaje por refuerzo para mejorar el rendimiento en matemáticas, programación, seguimiento de instrucciones y conversaciones generales.
Arquitectura del Modelo
Los modelos Granite 4.1 emplean una arquitectura de transformador denso solo de decodificación. Las decisiones de diseño incluyen Grouped Query Attention (GQA), Rotary Position Embeddings (RoPE), SwiGLU activations, RMSNorm y embeddings de entrada/salida compartidos.
| Componente | 3B Denso | 8B Denso | 30B Denso |
|---|---|---|---|
| Tamaño de embedding | 2560 | 4096 | 4096 |
| Número de capas | 40 | 40 | 64 |
| Tamaño de cabeza de atención | 64 | 128 | 128 |
| Número de cabezas de atención | 40 | 32 | 32 |
| Número de cabezas KV | 8 | 8 | 8 |
| Tamaño oculto de MLP | 8192 | 12800 | 32768 |
| Activación de MLP | SwiGLU | SwiGLU | SwiGLU |
| Embedding de posición | RoPE | RoPE | RoPE |
Todas las variantes del modelo comparten el mismo pipeline de entrenamiento y estrategia de datos, variando solo en las dimensiones de la arquitectura.
Pre-entrenamiento
Granite 4.1 se entrena desde cero con aproximadamente 15 billones de tokens, utilizando una estrategia de entrenamiento en cinco fases. Las fases 1 y 2 se centran en el preentrenamiento básico, las fases 3 y 4 realizan un entrenamiento intermedio con una mezcla de datos de calidad progresivamente más alta, y la fase 5 introduce el entrenamiento de contexto largo, extendiendo la ventana de contexto a 512K tokens.
Figura 2: El pipeline de pre-entrenamiento en cinco fases.
