Startup francesa ZML lança ferramenta gratuita para acelerar a inferência de IA em múltiplos chips

A era de supremacia de mercado sem freios da Nvidia pode estar chegando ao fim, mas concorrentes e alternativas estão surgindo de todos os lados.

A ZML, uma proeminente startup francesa de inteligência artificial apoiada pelo laureado com o Prêmio Turing Yann LeCun, revelou um software de desempenho de inferência que permite que vários modelos de linguagem grandes (LLMs) de código aberto operem em diversos hardwares, incluindo Nvidia, AMD, TPUs do Google, Apple Metal e Intel Arc.

Através da ZML/LLMD, seu novo servidor de inferência LLM lançado recentemente, a empresa visa eliminar os silos existentes e maximizar a velocidade de diferentes chips para aplicações de IA, muitas vezes igualando ou excedendo os benchmarks atuais, segundo o fundador da ZML, Steeve Morin.

À medida que a IA se integra mais profundamente nas rotinas profissionais e diárias, otimizar a inferência — o processamento de prompts do usuário — tornou-se cada vez mais crítica, mas ainda permanece fragmentada devido a barreiras de software e arquitetônicas que frequentemente resultam em bloqueio de fornecedor, observou Morin.

Embora oferecer desempenho máximo em vários tipos de chips seja uma conquista técnica significativa, isso também representa uma possível interrupção de mercado em meio a crescentes preocupações sobre o aumento dos custos de IA.

A ZML pretende oferecer às empresas e provedores de nuvem a flexibilidade de utilizar uma mistura híbrida de chips, potencialmente reduzindo custos e consumo de energia. “Nosso objetivo é capacitar os usuários a construir seus próprios sistemas e alcançar ganhos tangíveis de eficiência, facilitando uma adoção mais ampla da IA”, explicou Morin.

Este suporte de software poderia beneficiar fabricantes emergentes de chips de IA, particularmente aqueles baseados na Europa, apontou Morin, listando empresas como Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud e VSORA. No entanto, ele enfatiza que a capacidade da ZML de colaborar em inovações sem precedentes é mais importante do que a origem geográfica.

Morin não vê a Nvidia de forma negativa, em grande parte devido à sua cadeia de suprimentos estabelecida. Ele disse à TechCrunch que a ZML mantém um forte relacionamento com o gigante de hardware de IA, que está se preparando ativamente para a crescente demanda por capacidades de inferência.

A inferência atraiu investimentos maciços, desencadeando o que alguns chamam de “corrida do ouro da inferência”. Consequentemente, a ZML enfrenta concorrência de empresas como a Baseten, recentemente avaliada em US$ 13 bilhões; a Inferact, desmembrada dos criadores do vLLM; e a RadixArk, a entidade comercial por trás do SGLang.

Embora o vLLM e o SGLang ofereçam sobreposição parcial com o LLMD, Morin imagina que a ZML cubra um escopo mais amplo. “Chegamos a um estágio em que estamos co-desenvolvendo silício”, afirmou. Ele também creditou a equipe enxuta da ZML, composta por 20 funcionários, pelo rápido ritmo de desenvolvimento da startup sediada em Paris, com mais atualizações planejadas.

A pequena equipe também está bem capitalizada. Aproveitando seu histórico como vice-presidente de engenharia na Zenly, adquirida pelo Snapchat por nove dígitos em 2017, Morin garantiu US$ 20 milhões de investidores incluindo 20VC, >commit, AALVC, Drysdale Ventures, Kima Ventures, Kindred Capital, LocalGlobe e Puzzle Ventures.

Ao contrário do framework de inferência de código aberto inicial da ZML lançado em 2024 e atualizado em março, o ZML/LLMD não é de código aberto. No entanto, está sendo lançado como uma ferramenta gratuita para coletar dados de uso. “Prefiro medir o impacto e gerar receita onde mais importa, evitando obstáculos desnecessários ao crescimento causados por uma monetização prematura”, disse Morin.

Ainda não está claro quando o ZML/LLMD pode transicionar para um modelo pago ou quão amplamente será adotado. No entanto, a lista de investidores da startup sinaliza forte interesse de líderes da indústria, incluindo o fundador do Docker, Solomon Hykes, Clément Delangue e Julien Chaumond da Hugging Face, e LeCun, agora na AMI Labs. Isso reforça o argumento de que as startups europeias de IA podem prosperar localmente. “Eu não teria conseguido construir a ZML em nenhum lugar além de Paris”, concluiu Morin.