Una startup apuesta por la tokenización para crear el próximo gigante de la informática

«Dame tokens. Solo dame tokens. Los necesito rápido, baratos y los necesito ya».

Esa es la demanda incesante que Mike Henry, director ejecutivo de Parasail, escucha de los desarrolladores que trabajan con modelos de IA generativa. Parasail ofrece un servicio de computación en la nube diseñado específicamente para la inferencia de modelos de IA, y Henry reveló a TechCrunch que la plataforma genera la asombrosa cifra de 500 000 millones de tokens al día. Hablamos de maximizar la producción de tokens.

Henry trabajó anteriormente como ejecutivo en Groq, el fabricante de chips especializado en LLM, donde desarrolló el servicio en la nube de la empresa, una visión pionera de que los desarrolladores de IA buscarían procesamiento en la nube especializado. Ahora, tras un año fuera del modo sigiloso, Parasail ha conseguido una ronda de financiación de serie A de 32 millones de dólares para ampliar esta visión.

Aunque Henry tiene experiencia en el diseño físico de chips, Parasail no está obligada a poseer su propio hardware. La empresa opera con un modelo híbrido: posee algunas GPU, pero principalmente alquila tiempo de procesamiento en 40 centros de datos repartidos por 15 países, complementado con compras en los mercados de liquidez. Este enfoque coordinado tiene como objetivo reducir drásticamente el coste de las solicitudes de inferencia.

Al asignar de forma inteligente las cargas de trabajo y evitar los picos de demanda, Parasail se posiciona para competir con empresas que poseen su propio silicio, pero que pueden verse limitadas por compromisos existentes con clientes y cargas de trabajo fijas.

El potencial de crecimiento de la empresa depende del auge continuado de los modelos de código abierto y los agentes de IA desarrollados fuera de los principales laboratorios de vanguardia. Los directivos e inversores de Parasail señalan el creciente coste y la complejidad del uso de API propietarias de empresas como Anthropic y OpenAI como un factor clave.

De hecho, está surgiendo una arquitectura híbrida, según Andreas Stuhlmüller, director ejecutivo de Elicit. Su startup, que recaudó 22 millones de dólares en una ronda de financiación de serie A para crear un asistente de investigación de IA para la literatura científica, presta servicio a las principales empresas farmacéuticas que utilizan la herramienta para analizar datos de decenas de miles de artículos.

«Nos hemos decantado más por los modelos abiertos porque enviar cientos de miles de solicitudes a un único punto final de API es todo un reto», explicó Stuhlmüller a TechCrunch. Esto es especialmente cierto dado que Elicit emplea agentes de IA que desglosan las tareas en operaciones estratégicas a más largo plazo. Los modelos abiertos se encargan de la selección inicial para reducir costes, mientras que un modelo de vanguardia más potente ofrece la respuesta final.

El aumento de las consultas de modelos, impulsado por la integración de agentes de IA en el desarrollo de software, está alimentando la inversión en proveedores de infraestructura como Parasail, que permiten una inferencia de bajo coste. Samir Kumar, socio de Touring Capital que codirigió la ronda de financiación, declaró a TechCrunch que prevé que la inferencia constituirá al menos el 20 % de los futuros costes de desarrollo de software.

Entonces, ¿qué cuota de este mercado puede captar Parasail? En el saturado sector de la computación en la nube, el director ejecutivo Mike Henry sostiene que el enfoque exclusivo de su empresa en la inferencia (no se dedica al entrenamiento) y su flexibilidad a la hora de atender a clientes de startups sin contratos a largo plazo la diferencian de los grandes proveedores de nube centrados en las empresas e incluso de especialistas en inferencia bien financiados como Fireworks AI y Baseten.

Por supuesto, centrarse principalmente en startups en fase inicial y de Serie B en el volátil sector de la IA conlleva sus propios riesgos.

Steve Jang, socio de Kindred Ventures y el otro colíder de esta ronda, cree que la economía del despliegue de modelos requerirá el tipo de intermediación informática que ofrece Parasail. Y esta demanda no hará más que crecer con la adopción más generalizada de la IA para la generación de contenidos y la robótica.

«Todo el mundo pensaba que había una burbuja de la IA. No hay ninguna burbuja de la IA», declaró a TechCrunch. «La demanda de inferencia está superando con creces a la oferta».