GGML, creadores de Llama.cpp, se unen a HF para asegurar el futuro de la inteligencia artificial abierta.
Georgi Gerganov y su equipo se incorporan a HF con el objetivo de escalar y apoyar a la comunidad detrás de ggml y llama.cpp, mientras la IA local continúa avanzando de manera exponencial en los próximos años.
La colaboración con Georgi y su equipo ha sido natural, ya que contamos con contribuyentes clave de llama.cpp, como Son y Alek, quienes ya forman parte del equipo.
Unión de fuerzas para el desarrollo de IA local
Llama.cpp es un componente fundamental para la inferencia local, mientras que transformers es esencial para la definición de modelos. Esta unión es, por tanto, un complemento perfecto. 
Cambios para llama.cpp y la comunidad
No habrá muchos cambios; Georgi y su equipo seguirán dedicando el 100% de su tiempo a mantener llama.cpp y tendrán autonomía total en las decisiones técnicas y comunitarias. HF proporcionará recursos sostenibles a largo plazo, mejorando las posibilidades de crecimiento del proyecto, que continuará siendo 100% de código abierto y dirigido por la comunidad.
Enfoque técnico
Llama.cpp es clave para la inferencia local. Trabajaremos para que sea más sencillo implementar nuevos modelos en llama.cpp desde la biblioteca de transformers, facilitando así su uso. Además, mejoraremos la experiencia del usuario y el empaquetado del software basado en ggml.
Con el avance de la inferencia local como alternativa competitiva a la inferencia en la nube, es vital simplificar el despliegue y acceso a modelos locales. Nuestro objetivo es hacer de llama.cpp una herramienta ubicua y fácilmente accesible.
Nuestra visión a largo plazo
Buscamos dotar a la comunidad de los recursos necesarios para hacer accesible la superinteligencia de código abierto en los próximos años. Colaboraremos con la creciente comunidad de IA local para construir una pila de inferencia eficiente que funcione de la mejor manera en nuestros dispositivos.
