Ai computando para consumir poder de múltiplos NYCs até 2026, diz o fundador

Nvidia e Parceiros Expandem Centros de Dados de IA em Todo o Mundo

A Nvidia, juntamente com seus parceiros e clientes, tem expandido ativamente o tamanho das instalações de computação em todo o mundo para atender às altas demandas computacionais do treinamento de modelos massivos de inteligência artificial (IA), como o GPT-4. Essa expansão será ainda mais crucial à medida que modelos adicionais de IA forem implantados em produção, de acordo com Thomas Graham, cofundador da startup de computação óptica Lightmatter. Em uma recente entrevista em Nova York com Mandeep Singh, analista sênior de tecnologia da Bloomberg Intelligence, Graham destacou a crescente necessidade de recursos computacionais.

"A demanda por mais capacidade de computação não se trata apenas de leis de escala; também é sobre a implantação desses modelos de IA agora," explicou Graham. Singh perguntou sobre o futuro dos modelos de linguagem de grande escala (LLMs) como o GPT-4 e se eles continuarão a crescer em tamanho. Em resposta, Graham mudou o foco para a aplicação prática da IA, enfatizando a importância da inferência, ou fase de implantação, que requer um poder computacional substancial.

"Se você considera o treinamento como P&D, a inferência é essencialmente a implantação. Ao implantar, você precisará de computadores de grande escala para executar seus modelos," afirmou Graham durante a conferência "Gen AI: Can it deliver on the productivity promise?" organizada pela Bloomberg Intelligence.

A perspectiva de Graham está alinhada com a de Jensen Huang, CEO da Nvidia, que enfatizou para Wall Street que avançar formas "agênticas" de IA exigirá não apenas um treinamento mais sofisticado, mas também capacidades de inferência significativamente aprimoradas, resultando em um aumento exponencial nas exigências de computação.

O Papel da Lightmatter na Infraestrutura de IA

Fundada em 2018, a Lightmatter está na vanguarda do desenvolvimento de tecnologia de chips que utiliza conexões ópticas para conectar múltiplos processadores em um único die de semicondutor. Essas interconexões ópticas podem transferir dados de forma mais eficiente do que os fios de cobre tradicionais, usando menos energia. Essa tecnologia pode otimizar as conexões dentro e entre racks de centros de dados, aumentando a eficiência e a economia geral do centro de dados, segundo Graham.

"Ao substituir os traços de cobre nos centros de dados — tanto na placa de circuito impresso do servidor quanto nos cabos entre racks — por fibra óptica, podemos aumentar dramaticamente a largura de banda," disse Graham a Singh. A Lightmatter está atualmente colaborando com várias empresas de tecnologia no design de novos centros de dados, e Graham observou que essas instalações estão sendo construídas do zero. A empresa já estabeleceu uma parceria com a Global Foundries, uma fabricante de semicondutores por contrato com operações no norte do estado de Nova York, que atende clientes como a Advanced Micro Devices.

Embora Graham não tenha revelado parceiros e clientes específicos além dessa colaboração, ele sugeriu que a Lightmatter trabalha com fornecedores de silício, como Broadcom ou Marvell, para criar componentes personalizados para gigantes da tecnologia como Google, Amazon e Microsoft, que projetam seus próprios processadores de centros de dados.

A Escala e o Futuro dos Centros de Dados de IA

Para ilustrar a magnitude da implantação de IA, Graham apontou que pelo menos uma dúzia de novos centros de dados de IA estão planejados ou em construção, cada um exigindo um gigawatt de energia. "Para contexto, a cidade de Nova York usa cerca de cinco gigawatts de energia em um dia médio. Então, estamos falando do consumo de energia de várias cidades de Nova York," disse ele. Ele prevê que, até 2026, o processamento global de IA exigirá 40 gigawatts de energia, equivalente a oito cidades de Nova York, especificamente para centros de dados de IA.

A Lightmatter recentemente garantiu um investimento de capital de risco de $400 milhões, avaliando a empresa em $4,4 bilhões. Graham mencionou que a empresa pretende iniciar a produção "nos próximos anos."

Quando questionado sobre possíveis interrupções nos planos da Lightmatter, Graham expressou confiança na necessidade contínua de expandir a infraestrutura de computação de IA. No entanto, ele reconheceu que um avanço nos algoritmos de IA que exija significativamente menos computação ou alcance a inteligência geral artificial (AGI) mais rapidamente poderia desafiar as suposições atuais sobre a necessidade de crescimento exponencial de computação.