Vercel se ha convertido en una de las empresas más relevantes en el ámbito del software de inteligencia artificial. Su infraestructura en la nube permite a los desarrolladores desplegar agentes sin necesidad de gestionar servidores. Actualmente, la compañía registra 6 millones de despliegues diarios, de los cuales la mitad son impulsados por agentes de codificación. Más de 1 billón de tokens circulan a través de su puerta de enlace de IA cada día.
En una conversación posterior a la conferencia ShipNYC, el CEO de Vercel, Guillermo Rauch, compartió su perspectiva sobre el momento actual de la IA y la competencia entre las plataformas como Vercel y los grandes laboratorios. A continuación, se presenta una transcripción editada de la charla.
Este año se siente una energía diferente en la comunidad, con menos programas piloto y más énfasis en cómo hacer que las cosas funcionen en la práctica. ¿Cómo ha sido ese viaje dentro de Vercel?
El año pasado se centró en la creación de prototipos. Todos podían construir, y eso nos permitió aprender mucho. Desarrollamos cientos de agentes de manera orgánica dentro de la empresa. Sin embargo, al llevar estos agentes a producción, empezamos a enfrentar algunos retos.
Lecciones Aprendidas y Desafíos en Producción
Una de las lecciones más importantes fue identificar los casos de uso más efectivos de los agentes. El primero es el agente de codificación, que es esencial para la utilización de tokens en el mundo. Sin embargo, al generar tanto software, surge la necesidad de un lugar donde almacenarlo. El segundo caso de uso es el agente interno que ayuda a gestionar la empresa. Aquí, el reto es acceder a los datos de manera segura y auditar las acciones del agente.
Para abordar esto, desarrollamos un marco llamado Eve, que permite definir las instrucciones y habilidades de un agente en lenguaje natural. También creamos Vercel Sandbox, un entorno controlado donde el agente puede operar, pero con restricciones sobre los datos que puede acceder y compartir.
¿Qué tipo de problemas ayuda a evitar esta solución?
El principal beneficio del sandbox es el control de datos. Un riesgo real de la IA es que herramientas de desarrollo, como Devin o Cursor, puedan entrenarse con todo tu código si se configuran incorrectamente. Recuerdo una conversación con el presidente de Airbus sobre cómo décadas de código específico de C++ podrían verse comprometidos por una mala instalación.
El Uso de Agentes Internos en la Empresa
Un ejemplo de un agente interno es el caso de una representante de ventas en la oficina de Vercel. Su tarea es hacer crecer cuentas existentes. Su principal obstáculo no ha sido su creatividad o inteligencia, sino el acceso a datos. Antes no podía obtener información sobre las cuentas en crecimiento sin esperar a un nuevo tablero de ventas.
Estuvimos atrapados en ese embotellamiento durante años. A pesar de que en I+D somos la empresa más ágil, en el área de ventas me sentía ineficaz. Ahora, gracias a Eve, puedo impactar positivamente en toda la empresa. La misma tecnología se utiliza para nuestros agentes de atención al cliente y para mejorar la productividad.
¿Cómo ves las relaciones de los clientes con los grandes laboratorios de IA cambiando?
El año pasado, muchas empresas se asociaron con un solo laboratorio, pero ahora comprenden que cada componente es intercambiable. Están dispuestos a usar diferentes proveedores para optimizar la producción y la relación precio/rendimiento.
Competencia entre Vercel y Laboratorios de IA
Recientemente, OpenAI lanzó herramientas que permiten publicar directamente en la web. Esto puede parecer una amenaza, pero también es una oportunidad para nosotros, ya que podría llevar a más personas a considerar a ChatGPT como una herramienta para crear sitios web.
En este punto, estamos definiendo si el modelo y el agente estarán acoplados o no. ¿Se obtendrá toda la inteligencia de un solo lugar o se construirá sobre módulos de diferentes proveedores? Esto es lo que estamos llevando al mercado; aspiramos a ser el AWS de esta generación.
Cuando compras a través de los enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.
