Los modelos de lenguaje actuales se centran en el texto, como los chatbots ChatGPT, Gemini y Claude, que responden a preguntas y mantienen conversaciones. Sin embargo, Diogo Almeida, investigador pionero de OpenAI y cocreador de esta tecnología, ha optado por un enfoque diferente con su nueva empresa, TypeSafe AI.
Después de dos años de desarrollo, TypeSafe AI presenta a Jev, un modelo de inteligencia artificial que se distingue por no generar texto. A diferencia de redactar respuestas, este modelo se dedica a la automatización lógica del código y a la toma de decisiones estructuradas.
Características de Jev
La IA ofrece información no estructurada y devuelve opciones concretas junto con su probabilidad. Esta ausencia de escritura elimina los errores de formato y las alucinaciones tipográficas comunes en los modelos conversacionales cuando se integran en aplicaciones empresariales.
Almeida describe a Jev como una llamada a una función de inteligencia de frontera: “entra un estado no estructurado, salen decisiones probabilísticas tipadas”. Además, señala que la motivación detrás del proyecto es la falta de automatización en modelos que han sido sobresalientes en chat durante años.
Desempeño y costos
TypeSafe AI ha desarrollado una técnica de entrenamiento llamada “Aprendizaje por Refuerzo para Decisiones Calibradas” (RLCD), que utiliza muestreo en paralelo. Jev tiene tiempos de respuesta que varían entre 70 y 500 milisegundos, en contraste con los 3 a 329 segundos de los modelos tradicionales, lo que lo hace hasta 193.6 veces más rápido en flujos de trabajo complejos.
Este modelo ofrece un ahorro significativo en costos. Su precio es de 42 dólares (36 euros) por cada 1.000 millones de ‘tokens’ de entrada, mientras que los modelos convencionales oscilan entre 0.2 y 10 dólares por millón. Al no generar cadenas de texto tradicionales, los ‘tokens’ de salida son gratuitos, ya que son “demasiado baratos para medirlos”.
La empresa de Almeida ha demostrado la capacidad de Jev al controlar un personaje del videojuego ‘Doom’ en tiempo real, realizando diez consultas por segundo con un costo de apenas 7 dólares (6,07 euros) por hora. También ha mostrado gran destreza en la resolución de búsquedas complejas en Wikipedia.
