Entrena modelos de IA de forma gratuita con Unsloth y Hugging Face Jobs

Este artículo explica cómo utilizar Unsloth y Hugging Face Jobs para el ajuste fino rápido de modelos LLM, específicamente LiquidAI/LFM2.5-1.2B-Instruct. Con Unsloth, se logra un entrenamiento aproximadamente 2 veces más rápido y un uso de VRAM un 60% menor en comparación con métodos estándar, permitiendo que el entrenamiento de modelos pequeños cueste solo unos pocos dólares.

¿Por qué optar por un modelo pequeño? Los pequeños modelos de lenguaje, como el LFM2.5-1.2B-Instruct, son ideales para el ajuste fino. Son económicos de entrenar, permiten iteraciones rápidas y son cada vez más competitivos en tareas específicas en comparación con modelos más grandes. Este modelo funciona con menos de 1 GB de memoria y está optimizado para su implementación en dispositivos, lo que facilita su uso en CPUs, teléfonos y portátiles.

Requisitos

Estamos ofreciendo créditos gratuitos para ajustar modelos en Hugging Face Jobs. Únete a la organización Unsloth Jobs Explorers para reclamar tus créditos gratuitos y una suscripción Pro por un mes.

• Una cuenta de Hugging Face (requerida para HF Jobs).
• Configuración de facturación (para verificación, puedes controlar tu uso y gestionar tu facturación en tu página de facturación).
• Un token de Hugging Face con permisos de escritura.
• (opcional) Un agente de codificación (Open Code, Claude Code o Codex).

Ejecutar el Trabajo

Para entrenar un modelo utilizando HF Jobs y Unsloth, simplemente usa el CLI de hf jobs para enviar un trabajo.

Primero, debes instalar el CLI de hf. Puedes hacerlo ejecutando el siguiente comando:

# mac o linux curl -LsSf https://hf.co/cli/install.sh | bash 

A continuación, puedes ejecutar el siguiente comando para enviar un trabajo:

hf jobs uv run https://huggingface.co/datasets/unsloth/jobs/resolve/main/sft-lfm2.5.py --flavor a10g-small --secrets HF_TOKEN --timeout 4h --dataset mlabonne/FineTome-100k --num-epochs 1 --eval-split 0.2 --output-repo your-username/lfm-finetuned 

Consulta el script de entrenamiento y la documentación de Hugging Face Jobs para más detalles.

Instalación de la Habilidad

La habilidad de entrenamiento de modelos de Hugging Face reduce la barrera de entrada para entrenar un modelo simplemente a través de un aviso. Primero, instala la habilidad con tu agente de codificación.

Claude Code

Claude Code descubre habilidades a través de su sistema de plugins, por lo que necesitamos instalar primero las habilidades de Hugging Face. Para hacerlo:

1. Agrega el mercado:

/plugin marketplace add huggingface/skills 

1. Navega por las habilidades disponibles en la pestaña Descubrir:

/plugin 

1. Instala la habilidad de entrenamiento de modelos:

/plugin install hugging-face-model-trainer@huggingface-skills 

Para más detalles, consulta la documentación sobre el uso del hub con habilidades o la documentación de habilidades de Claude Code.

Codex

Codex descubre habilidades a través de archivos AGENTS.md y directorios .agents/skills/.

Instala habilidades individuales con $skill-installer:

$skill-installer install https://github.com/huggingface/skills/tree/main/skills/hugging-face-model-trainer 

Para más detalles, consulta la documentación de habilidades de Codex y la guía AGENTS.md.

Cualquier otra cosa

Un método de instalación genérico es simplemente clonar el repositorio de habilidades y copiar la habilidad al directorio de habilidades de tu agente.

git clone https://github.com/huggingface/skills.git mkdir -p ~/.agents/skills && cp -R skills/skills/hugging-face-model-trainer ~/.agents/skills/ 

Inicio Rápido

Una vez que la habilidad esté instalada, pide a tu agente de codificación que entrene un modelo:

Entrenar LiquidAI/LFM2.5-1.2B-Instruct en mlabonne/FineTome-100k usando Unsloth en HF Jobs 

El agente generará un script de entrenamiento basado en un ejemplo en la habilidad, enviará el entrenamiento a HF Jobs y proporcionará un enlace de monitoreo a través de Trackio.

Cómo Funciona

Los trabajos de entrenamiento se ejecutan en Hugging Face Jobs, que son GPUs en la nube totalmente gestionadas. El agente:

1. Genera un script UV con dependencias en línea.
2. Lo envía a HF Jobs a través del CLI de hf.
3. Informa el ID del trabajo y la URL de monitoreo.
4. Publica el modelo entrenado en tu repositorio de Hugging Face Hub.

Script de Entrenamiento Ejemplo

La habilidad genera scripts como este basado en el ejemplo en la habilidad.

 from unsloth import FastLanguageModel from trl import SFTTrainer, SFTConfig from datasets import load_dataset model, tokenizer = FastLanguageModel.from_pretrained( "LiquidAI/LFM2.5-1.2B-Instruct", load_in_4bit=True, max_seq_length=2048, ) model = FastLanguageModel.get_peft_model( model, r=16, lora_alpha=32, lora_dropout=0, target_modules=[ "q_proj", "k_proj", "v_proj", "out_proj", "in_proj", "w1", "w2", "w3", ], ) dataset = load_dataset("trl-lib/Capybara", split="train") trainer = SFTTrainer( model=model, tokenizer=tokenizer, train_dataset=dataset, args=SFTConfig( output_dir="./output", push_to_hub=True, hub_model_id="username/my-model", per_device_train_batch_size=4, gradient_accumulation_steps=4, num_train_epochs=1, learning_rate=2e-4, report_to="trackio", ), ) trainer.train() trainer.push_to_hub() 

Para una visión completa de la fijación de precios de Hugging Face Spaces, consulta la guía aquí.

Consejos para Trabajar con Agentes de Codificación

• Sé específico sobre el modelo y el conjunto de datos a utilizar, e incluye IDs de Hub (por ejemplo, Qwen/Qwen2.5-0.5B y trl-lib/Capybara). Los agentes buscarán y validarán esas combinaciones.
• Menciona explícitamente Unsloth si deseas que se utilice. De lo contrario, el agente elegirá un marco basado en el modelo y el presupuesto.
• Pide estimaciones de costos antes de lanzar trabajos grandes.
• Solicita monitoreo de Trackio para curvas de pérdida en tiempo real.
• Verifica el estado del trabajo pidiendo al agente que inspeccione los registros después de la presentación.

Recursos