Red Hat em modelos de idiomas abertos e pequenos para a IA prática e responsável

Influências Geopolíticas no Desenvolvimento e Uso da IA

À medida que eventos globais continuam a moldar nosso mundo, é inevitável que impactem o setor de tecnologia, particularmente o mercado de IA. Essa influência se estende a como a IA é desenvolvida, suas metodologias e sua aplicação em empresas. O cenário atual da IA é uma mistura de entusiasmo e ceticismo, com alguns abraçando seu potencial, enquanto outros permanecem cautelosos devido aos estágios iniciais de seu desenvolvimento.

Os modelos de linguagem de grande escala (LLMs) tradicionais, de ciclo fechado, como os de provedores conhecidos, enfrentam competição de modelos mais abertos, como Llama, DeepSeek e Ernie X1 da Baidu. Em contrapartida, o desenvolvimento de código aberto oferece transparência e a oportunidade de contribuição da comunidade, alinhando-se ao conceito de "IA responsável". Essa abordagem considera impactos ambientais, ética de uso, fontes de dados de aprendizado e questões relacionadas à soberania de dados, linguagem e política.

A Red Hat, uma empresa conhecida por seu modelo de negócios de código aberto bem-sucedido, está interessada em aplicar sua abordagem colaborativa e transparente à IA. Em uma recente conversa com Julio Guijarro, CTO da Red Hat para EMEA, discutimos sua estratégia para aproveitar o poder da IA generativa de forma responsável e sustentável para adicionar valor às empresas.

A Necessidade de Educação e Transparência

Julio enfatizou a necessidade de mais educação sobre IA, apontando que sua natureza complexa muitas vezes a torna uma "caixa preta" para muitos. "O funcionamento interno da IA, profundamente enraizado em ciência e matemática complexas, permanece amplamente desconhecido", disse ele. "Essa falta de transparência é agravada quando a IA é desenvolvida em ambientes fechados."

Desafios adicionais incluem a sub-representação de certas línguas, preocupações com a soberania de dados e questões de confiança. Julio observou: "Os dados são o ativo mais valioso de uma organização, e as empresas devem estar cientes dos riscos de expor dados sensíveis a plataformas públicas com políticas de privacidade variadas."

A Abordagem da Red Hat para a IA

A resposta da Red Hat à demanda global por IA foca em entregar benefícios aos usuários finais, abordando as dúvidas e limitações associadas aos serviços tradicionais de IA. Julio destacou o potencial dos modelos de linguagem pequenos (SLMs) como solução. Esses modelos podem ser executados localmente ou em nuvens híbridas usando hardware não especializado e podem acessar dados comerciais locais. Os SLMs são eficientes e específicos para tarefas, exigindo menos recursos do que os LLMs.

Uma das principais vantagens dos SLMs é sua capacidade de se manterem atualizados com dados comerciais que mudam rapidamente. "Modelos de linguagem de grande escala podem se tornar obsoletos rapidamente porque a geração de dados acontece fora das grandes nuvens, bem ao lado dos seus processos de negócios", explicou Julio.

O custo é outro fator crítico. "Consultas de atendimento ao cliente usando um LLM podem incorrer em custos ocultos significativos", disse Julio. "Antes da IA, as consultas de dados tinham um escopo e custo previsíveis. Com os LLMs, cada interação pode escalar os custos porque operam em um modelo iterativo. Executar modelos no local permite maior controle sobre os custos, pois estão vinculados à sua infraestrutura, não a taxas por consulta."

Felizmente, as organizações não precisam investir pesadamente em hardware especializado como GPUs. A Red Hat está trabalhando na otimização de modelos para rodar em hardware padrão, focando nos modelos específicos que as empresas precisam, em vez de processar grandes conjuntos de dados de propósito geral a cada consulta.

A Importância de Modelos Menores e Localizados

Ao usar e referenciar dados locais, os resultados podem ser adaptados a necessidades específicas. Julio mencionou projetos em regiões como o mundo de língua árabe e portuguesa, que não são bem atendidos pelos LLMs centrados no inglês.

Há desafios práticos com os LLMs, incluindo problemas de latência que podem afetar aplicações sensíveis ao tempo ou voltadas para o cliente. Manter recursos e resultados próximos ao usuário pode mitigar esses problemas.

A confiança é outro aspecto crucial da IA responsável. A Red Hat defende plataformas, ferramentas e modelos abertos para aumentar a transparência e permitir maior envolvimento da comunidade. "É crítico para todos", afirmou Julio. "Estamos construindo capacidades para democratizar a IA, não apenas publicando modelos, mas fornecendo ferramentas para os usuários replicarem, ajustarem e servirem."

A recente aquisição da Neural Magic pela Red Hat visa ajudar as empresas a escalar a IA mais facilmente, melhorar o desempenho de inferência e oferecer mais opções na construção e implantação de cargas de trabalho de IA por meio do projeto vLLM. Além disso, em colaboração com a IBM Research, a Red Hat lançou o InstructLab, abrindo o desenvolvimento de IA para não cientistas de dados que possuem conhecimento valioso de negócios.

O Futuro da IA

Embora haja muita especulação sobre a bolha da IA, a Red Hat acredita em um futuro onde a IA é adaptada a casos de uso específicos e permanece de código aberto. Essa abordagem será economicamente viável e acessível a todos. Como Matt Hicks, CEO da Red Hat, afirmou: "O futuro da IA é aberto."