Intel Capital aumenta TrueFoundry con implementaciones de IA de $ 19 millones a escala

TrueFoundry, una startup fundada por antiguos ingenieros de Meta, ha conseguido con éxito 19 millones de dólares en una nueva ronda de financiación liderada por Intel Capital. Esta innovadora empresa se dedica a ayudar a las empresas a escalar sus sistemas de IA de manera eficiente, un desafío que se ha vuelto cada vez más relevante con el auge de la IA generativa (GenAI) desde el lanzamiento de ChatGPT en noviembre de 2022.

La aparición de GenAI ha llevado a empresas de todos los tamaños a explorar la integración de la IA, pero la dependencia de la tecnología en modelos de lenguaje grandes requiere una potencia de cómputo sustancial. No todas las empresas tienen acceso a numerosas GPU, lo que hace que la optimización de GPU sea crucial. Además, las empresas deben experimentar con diversos modelos para identificar el más adecuado para sus necesidades y ajustarlos para mejorar su relevancia en sus operaciones.

TrueFoundry aborda estos problemas a través de su modelo de plataforma como servicio, diseñado específicamente para científicos de datos de pila completa. La plataforma ofrece funciones como escalado automático, mantenimiento proactivo, controles de acceso centralizados y monitoreo en tiempo real, optimizando todo el proceso de despliegue de IA.

Lanzada en junio de 2021 por Nikunj Bajaj, Abhishek Choudhary y Anuraag Gutgutia, todos antiguos ingenieros de Meta y exalumnos de IIT Kharagpur, TrueFoundry inicialmente se centró en acelerar los despliegues de aprendizaje automático en diferentes entornos de nube. A medida que GenAI ganó popularidad en 2023, la startup adaptó su sistema para incluir soporte para capacidades de GenAI.

“En el pasado, los científicos de datos se limitaban a trabajar con modelos y experimentar. El despliegue real solía ser transferido a ingenieros de ML. Con nuestro sistema, empoderamos a los científicos de datos para construir y probar estos sistemas complejos a escala por sí mismos antes de pasarlos al equipo de la plataforma para el despliegue final,” explicó Gutgutia en una entrevista exclusiva.

El producto insignia de la startup es un sistema de piloto automático que utiliza IA para analizar registros y métricas, ayudando a escalar aplicaciones de IA mediante la optimización del uso de GPU y la gestión de los requisitos de memoria. Gutgutia compartió con TechCrunch que uno de los clientes de TrueFoundry, operando con un equipo de solo dos personas, logró manejar 10 millones de solicitudes por segundo utilizando este sistema.

TrueFoundry cuenta con 30 clientes de pago en todo el mundo, junto con numerosos usuarios que aprovechan su marco RAG de código abierto para experimentación. Entre sus clientes, Nvidia utiliza el software de TrueFoundry para optimizar sus clústeres de GPU, mientras que ResMed lo usa para construir una plataforma interna de IA. Otros clientes destacados incluyen Siemens Healthineers, Automation Anywhere, Games24x7 y Whatfix.

El software está construido sobre Kubernetes, asegurando compatibilidad con las principales plataformas de nube como AWS, Google Cloud Platform y Azure, y también puede implementarse en las instalaciones. Las empresas que utilizan TrueFoundry han informado que construyeron y lanzaron sus plataformas internas de IA en solo dos meses, logrando un retorno de inversión en cuatro meses, significativamente más rápido que el promedio de la industria de 14 meses. Bajaj señaló que los clientes han visto una reducción del 40-50% en los costos de infraestructura y una mejora de 10 veces en la velocidad de despliegue.

Mientras que los proveedores de nube como Amazon y Google han introducido sus propias soluciones de despliegue de IA, como SageMaker y Vertex, Gutgutia enfatizó a TechCrunch que TrueFoundry sigue siendo esencial. Acelera la utilización de recursos de cómputo para los proveedores de nube, agiliza el tiempo de llegada al mercado de las aplicaciones de IA y reduce los costos generales.

La ronda de financiación de Serie A, que fue completamente basada en capital, contó con la participación de Eniac Ventures, Peak XV Partners, Jump Capital e inversores ángeles, incluidos Gokul Rajaram, Mohit Aron y Cyan Banister.

TrueFoundry planea usar los fondos para expandir su equipo de 45 miembros en India para incluir posiciones de salida al mercado en los EE. UU., como ventas, éxito del cliente y marketing de productos. La empresa también busca fortalecer asociaciones, particularmente con proveedores de nube, y está trabajando para ser listada en mercados clave de la nube, comenzando con el AWS Marketplace.

Además, TrueFoundry está lista para lanzar un agente de IA que ayudará a sugerir recursos apropiados, permitirá el escalado automático y asistirá con la resolución de problemas.

Con esta última ronda, TrueFoundry ha recaudado más de 21 millones de dólares en total, incluyendo una ronda semilla de 2.3 millones de dólares en septiembre de 2022 liderada por Surge de Peak XV (entonces Sequoia India). La startup cuadruplicó su base de clientes el año pasado y desplegó más de 1,000 clústeres para cargas de trabajo de ML. Gutgutia reveló a TechCrunch que los ingresos recurrentes anuales de TrueFoundry superan los 1.5 millones de dólares, con planes de duplicar esta cifra en el próximo año.