A Ant Digital lança o Bai Ling Enterprise Financial LLM: velocidade e eficiência redefinidas

O surgimento de agentes de execução autônomos, como o Agent da OpenAI, marca uma aceleração significativa nas aplicações de IA, passando de uma simples “interação por diálogo” para uma complexa “execução de tarefas”. Embora as empresas estejam adotando rapidamente essa tendência, elas também enfrentam desafios como o desperdício computacional e a conformidade com normas de segurança. Alcançar uma implantação sustentável e em larga escala de agentes inteligentes tornou-se um foco central do setor.

Em 26 de março, no Fórum de Inovação da Indústria do Futuro do Fórum de Zhongguancun, Zhang Peng, gerente geral do Departamento de Inovação em Tecnologia de Modelos de Grande Escala da Ant Digital, afirmou em seu discurso que o surgimento desses agentes revolucionará o paradigma da IA empresarial. Essa mudança levará a implantação industrial de modelos de grande escala de uma “competição de escala de parâmetros” para uma “competição de eficiência de tokens”.

Zhang Peng, gerente geral do Departamento de Inovação Tecnológica de Modelos de Grande Escala da Ant Digital, discursando no Fórum de Zhongguancun.

A rápida adoção de agentes inteligentes reflete uma forte demanda do mercado pela execução autônoma de tarefas. No entanto, implantá-los em ambientes industriais reais apresenta grandes obstáculos. Muitas vezes sem um conhecimento profundo das regras e dos fluxos de trabalho do setor, esses agentes podem fazer chamadas repetidas e ineficientes de ferramentas ao lidar com tarefas complexas. Isso leva a um consumo de tokens que excede em muito o valor real criado. Relatórios indicam que, em alguns cenários de alta frequência, o custo da execução do agente pode ser dezenas ou até centenas de vezes maior do que o de soluções integradas, levantando preocupações de sustentabilidade para o uso industrial generalizado.

“O principal desafio na próxima fase da industrialização de modelos de grande porte não é competir em número de parâmetros, mas melhorar continuamente a eficiência por token”, observou Zhang Peng. Ele acredita que as empresas devem escolher soluções de IA que combinem estrategicamente modelos grandes e pequenos com base em cenários e necessidades específicas, alcançando maior valor comercial com menor custo computacional.

Considere o setor financeiro como exemplo. Esse campo processa diariamente volumes massivos de tarefas de alta frequência e baixa latência — identificando rapidamente a intenção do usuário, extraindo dados-chave, recuperando e classificando informações. Essas tarefas exigem alta simultaneidade, tempos de resposta rápidos e precisão milimétrica. Embora os modelos de inferência tradicionais e pesados sejam poderosos, usá-los para tais cenários costuma ser um exagero — como “usar uma marreta para quebrar uma noz” — resultando em altos custos, lentidão e desperdício de recursos.

“O que o setor realmente precisa é de uma solução de IA que garanta profissionalismo, rigor e conformidade, ao mesmo tempo em que oferece ótima relação custo-benefício e velocidade de resposta”, explicou Zhang Peng. Ele enfatizou que modelos de grandes parâmetros se destacam em raciocínio complexo e análise aprofundada, enquanto modelos menores oferecem menor latência e melhor eficiência de custo para tarefas de alta frequência e mais simples. Uma abordagem híbrida que aproveita ambos é fundamental para resolver problemas do mundo real de forma mais eficiente e econômica.

No Fórum de Zhongguancun, a Ant Digital lançou um modelo leve e específico para finanças chamado Ling-DT-Fin-Mini-2.5, o primeiro de sua série Ling DT. Esse modelo é uma arquitetura leve de Mistura de Especialistas (MoE) baseada na mais recente estrutura híbrida de atenção linear Ling 2.5, otimizada para tarefas financeiras de alta simultaneidade e baixa latência. Ele mantém a capacidade profissional ao mesmo tempo em que reduz os custos de inferência a um nível adequado para implantação em massa. Em comparação com os modelos convencionais de uso geral com capacidade semelhante, ele oferece uma velocidade de inferência 100% mais rápida e custos de hardware significativamente mais baixos para processar volumes de tarefas equivalentes, proporcionando economias tangíveis e ganhos de eficiência para instituições financeiras.

De fato, à medida que os agentes de IA se aprofundam nos processos industriais centrais para realizar trabalho real, a estratégia de combinar modelos grandes e pequenos está se tornando um padrão do setor. Recentemente, a própria OpenAI lançou dois modelos menores, o GPT-4o mini e o nano, com foco em baixa latência e alta relação custo-benefício para atuarem como agentes primários no nível de execução.

Zhang Peng concluiu que o progresso tecnológico deve, em última instância, alinhar-se às demandas racionais de eficiência industrial. Na próxima fase da competição, a eficiência de tokens se tornará a métrica central para avaliar o valor da IA empresarial. A Ant Digital continuará focada na AGI de nível empresarial, planejando lançar uma edição empresarial do modelo de grande porte Ling DT e versões específicas para cada setor, acelerando a implantação em larga escala de agentes inteligentes em ambientes de negócios complexos.