Un patrón se está formando en el mundo de la infraestructura de IA: herramientas de código abierto populares se están transformando en startups respaldadas por capital de riesgo, valoradas en cientos de millones de dólares. Un ejemplo reciente es RadixArk, la empresa comercial detrás de SGLang, una herramienta cada vez más popular que ayuda a los modelos de IA a funcionar más rápido y de manera más económica.
RadixArk fue valorada recientemente en aproximadamente $400 millones en una ronda de financiación liderada por Accel, según dos personas familiarizadas con el asunto. Esta es una cantidad notable para una startup que solo fue anunciada en agosto pasado. TechCrunch no pudo confirmar el tamaño de la financiación.
Transición de SGLang a RadixArk
La noticia surge mientras parte del equipo responsable de mantener SGLang, utilizado por empresas como xAI y Cursor para acelerar el entrenamiento de modelos de IA, ha hecho la transición a la nueva startup comercial. RadixArk se originó como SGLang en 2023 dentro del laboratorio de UC Berkeley del cofundador de Databricks, Ion Stoica.
La startup también había recaudado capital ángel de inversores, incluyendo al CEO de Intel, Lip-Bu Tan.
Nuevos líderes en RadixArk
Ying Sheng, una contribuyente clave de SGLang y exingeniera en xAI, dejó la startup de IA de Elon Musk para convertirse en la cofundadora y CEO de RadixArk, según un anuncio en LinkedIn que realizó el mes pasado. Sheng fue anteriormente científica investigadora en Databricks.
RadixArk, SGLang y otras herramientas se centran en optimizar el procesamiento de inferencias, permitiendo que los modelos se ejecuten más rápido y de manera más eficiente en el mismo hardware. Junto con el entrenamiento de modelos, la inferencia representa una gran parte de los costos de servidor asociados con los servicios de IA, por lo que las herramientas que optimizan este proceso pueden generar ahorros significativos casi de inmediato.
Desarrollo y financiación en el sector de IA
RadixArk no es la única que ha realizado esta transición de proyecto de código abierto a startup bien financiada. vLLM, un proyecto más maduro para optimizar inferencias, también ha hecho el salto. La nueva empresa ha tenido conversaciones para recaudar más de $160 millones en financiación, con una valoración cercana a $1,000 millones, según un informe de Forbes el mes pasado.
Además, varias grandes empresas tecnológicas ya utilizan vLLM para sus cargas de trabajo de inferencias, y SGLang ha ganado popularidad en los últimos seis meses, indicó Brittany Walker, socia general de CRV.
