Inferact recauda $150 millones para impulsar su herramienta vLLM

Los creadores del proyecto de código abierto vLLM han anunciado su transición a una startup respaldada por capital de riesgo llamada Inferact, logrando recaudar $150 millones en financiación inicial con una valoración de $800 millones.

Esta ronda de financiación fue co-liderada por Andreessen Horowitz y Lightspeed Venture Partners, confirmando los informes previos de TechCrunch sobre la captación de capital de vLLM por parte de a16z.

Comercialización de tecnologías de IA

El debut de Inferact se asemeja a la reciente comercialización del proyecto SGLang, que según fuentes, aseguró capital a una valoración de $400 millones liderada por Accel, como se informó el miércoles.

A medida que el enfoque en la inteligencia artificial cambia de entrenar modelos a desplegarlos en aplicaciones, un proceso conocido como inferencia, tecnologías como vLLM y SGLang, que optimizan el rendimiento de estas herramientas de IA, están atrayendo la atención de los inversores.

Incubación y usuarios de vLLM

Tanto vLLM como SGLang fueron incubados en 2023 en el laboratorio de UC Berkeley del cofundador de Databricks, Ion Stoica.

El CEO de Inferact, Simon Mo, uno de los creadores originales del proyecto, declaró a Bloomberg que los usuarios existentes de vLLM incluyen el servicio en la nube de Amazon y la aplicación de compras.

Ilustración de un hombre mayor con auriculares y chaqueta