Claude enseña a modelos abiertos a escribir kernels CUDA

Las habilidades de los agentes permiten mejorar su capacidad para resolver problemas complejos. Existen dos enfoques para lograrlo:

1. Utilizar modelos avanzados como Opus 4.5 para abordar los problemas más difíciles.
2. Tomar modelos más accesibles que corren en una laptop y capacitarlos en tareas más desafiantes.

En este artículo, se explorará cómo usar una nueva herramienta, upskill, para generar y evaluar habilidades en modelos grandes, aplicándolas también en modelos más pequeños. Se realizará una comparación utilizando upskill en la tarea de escribir núcleos CUDA para modelos de diffusers, lo que resulta útil para reducir costos o emplear modelos menores en problemas específicos.

¿Qué son las habilidades de los agentes?

Las habilidades de los agentes están revolucionando el ámbito de la programación. Se definen como la capacidad de establecer contexto para modelos a través de archivos, incluyendo instrucciones en markdown y scripts de código. Este formato facilita su generación, compartición y revisión, convirtiéndose en un medio práctico para transmitir capacidades entre modelos y herramientas, especialmente en dominios específicos.

Este artículo ilustra el proceso mediante el uso de Claude para generar un archivo de habilidades que puede ser utilizado por modelos de código abierto en la tarea de escribir núcleos CUDA. Inicialmente, se probó una habilidad simple basada en la documentación existente, la cual mejoró el rendimiento de algunos modelos, aunque no de todos. En algunos casos, se observó incluso una degradación del rendimiento o un aumento en el uso de tokens. A continuación, se presentará un gráfico que muestra el rendimiento del modelo con y sin la habilidad básica.

Cómo utilizar upskill para capacitar a tus agentes

Empezamos utilizando Claude Code para construir un núcleo de forma interactiva y exportar el seguimiento. Este proceso se realiza a través de instrucciones, validaciones y adición de enlaces de documentación. Es crucial iterar en este proceso varias veces, probando con versiones preliminares de la habilidad y experimentando con modelos más pequeños. Cada vez, se puede instruir al agente para mejorar la habilidad y evaluar su desempeño.

Aquí hay un ejemplo de la habilidad que creamos para construir núcleos. Comenzamos desde este seguimiento del agente donde el agente pudo construir un núcleo, aunque con algo de ayuda.

Una vez que el modelo instructor ha realizado la tarea, necesitamos que genere una habilidad. Hay varias formas efectivas de hacerlo:

• Instruir al agente para crear un archivo de habilidad para la tarea que acaba de completar.
• Utilizar la habilidad de ‘creador de habilidades’ de Anthropic dentro de la sesión del agente o con un seguimiento exportado.
• Usar la herramienta upskill para crear una habilidad basada en el seguimiento.