Une start-up mise sur la tokenisation pour créer le prochain géant de l'informatique

« Donnez-moi des jetons. Donnez-moi simplement des jetons. J'en ai besoin rapidement, à moindre coût, et j'en ai besoin tout de suite. »

C'est la demande incessante que Mike Henry, PDG de Parasail, entend de la part des développeurs qui travaillent sur des modèles d'IA générative. Parasail propose un service de cloud computing spécialement conçu pour l'inférence de modèles d'IA, et Henry a révélé à TechCrunch que la plateforme génère le chiffre stupéfiant de 500 milliards de jetons par jour. On peut parler de maximisation de la production de jetons.

M. Henry occupait auparavant un poste de direction chez Groq, un fabricant de puces spécialisé dans les modèles de langage (LLM), où il a développé le service cloud de l'entreprise — une intuition précoce selon laquelle les développeurs d'IA rechercheraient un traitement cloud spécialisé. Aujourd'hui, après un an passé dans l'ombre, Parasail a levé 32 millions de dollars lors d'un tour de table de série A pour concrétiser cette vision.

Bien qu'Henry ait une formation en conception physique de puces, Parasail n'est pas tenu de posséder son propre matériel. L'entreprise exploite un modèle hybride : elle possède quelques GPU, mais loue principalement du temps de traitement dans 40 centres de données répartis dans 15 pays, complété par des achats sur les marchés de liquidité. Cette approche orchestrée vise à réduire considérablement le coût des requêtes d'inférence.

En répartissant intelligemment les charges de travail et en évitant les pics de demande, Parasail se positionne pour concurrencer les entreprises qui possèdent leurs propres puces mais qui peuvent être limitées par des engagements clients existants et des charges de travail fixes.

Le potentiel de croissance de l'entreprise repose sur l'essor continu des modèles open source et des agents IA développés en dehors des grands laboratoires de pointe. La direction et les investisseurs de Parasail soulignent que le coût et la complexité croissants liés à l'utilisation d'API propriétaires d'entreprises telles qu'Anthropic et OpenAI constituent un facteur clé.

Une architecture hybride est en effet en train d'émerger, selon Andreas Stuhlmüller, PDG d'Elicit. Sa start-up, qui a levé 22 millions de dollars en série A pour développer un assistant de recherche IA dédié à la littérature scientifique, travaille avec de grandes entreprises pharmaceutiques qui utilisent cet outil pour analyser les données issues de dizaines de milliers d'articles.

« Nous nous sommes davantage tournés vers les modèles ouverts, car envoyer des centaines de milliers de requêtes vers un seul point de terminaison API est un défi », a déclaré M. Stuhlmüller à TechCrunch. Cela est d’autant plus vrai qu’Elicit utilise des agents IA qui décomposent les tâches en opérations stratégiques à plus long terme. Les modèles ouverts se chargent de la sélection initiale pour réduire les coûts, tandis qu’un modèle de pointe plus performant fournit la réponse finale.

L'explosion des requêtes de modèles, alimentée par l'intégration d'agents IA dans le développement logiciel, stimule les investissements dans des fournisseurs d'infrastructure comme Parasail qui permettent une inférence à faible coût. Samir Kumar, associé chez Touring Capital qui a co-dirigé le tour de table, a déclaré à TechCrunch qu'il prévoyait que l'inférence représenterait au moins 20 % des futurs coûts de développement logiciel.

Quelle part de ce marché Parasail peut-elle donc conquérir ? Dans le secteur très concurrentiel du cloud computing, le PDG Mike Henry affirme que l'orientation exclusive de son entreprise vers l'inférence (elle ne gère pas l'entraînement) et sa flexibilité à servir des clients startups sans contrats à long terme la différencient des grands fournisseurs de cloud axés sur les entreprises, et même des spécialistes de l'inférence bien financés comme Fireworks AI et Baseten.

Bien sûr, se concentrer principalement sur les start-ups en phase d'amorçage et de série B dans le secteur volatile de l'IA comporte ses propres risques.

Steve Jang, associé chez Kindred Ventures et co-leader de ce tour de table, estime que les enjeux économiques du déploiement de modèles rendront indispensable le type de courtage informatique proposé par Parasail. Et cette demande ne devrait que croître avec l'adoption généralisée de l'IA pour la génération de contenu et la robotique.

« Tout le monde pensait qu'il y avait une bulle de l'IA. Il n'y a pas de bulle de l'IA », a-t-il déclaré à TechCrunch. « La demande en matière d'inférence dépasse de loin l'offre. »