AI Computing para consumir la potencia de múltiples NYC para 2026, dice el fundador

Nvidia y socios amplían centros de datos de IA a nivel mundial

Nvidia, junto con sus socios y clientes, ha estado expandiendo activamente el tamaño de las instalaciones informáticas en todo el mundo para satisfacer las altas demandas computacionales de entrenar modelos masivos de inteligencia artificial (IA) como GPT-4. Esta expansión se volverá aún más crucial a medida que se implementen más modelos de IA en producción, según Thomas Graham, cofundador de la startup de computación óptica Lightmatter. En una reciente entrevista en Nueva York con Mandeep Singh, analista senior de tecnología de Bloomberg Intelligence, Graham destacó la creciente necesidad de recursos computacionales.

"La demanda de más capacidad de cómputo no se trata solo de leyes de escalado; también se trata de implementar estos modelos de IA ahora," explicó Graham. Singh preguntó sobre el futuro de los modelos de lenguaje de gran escala (LLMs) como GPT-4 y si seguirían creciendo en tamaño. En respuesta, Graham cambió el enfoque hacia la aplicación práctica de la IA, enfatizando la importancia de la inferencia, o la fase de implementación, que requiere un poder computacional sustancial.

"Si consideras el entrenamiento como I+D, la inferencia es esencialmente la implementación. A medida que implementas, necesitarás computadoras de gran escala para ejecutar tus modelos," afirmó Graham durante la conferencia "Gen AI: ¿Puede cumplir con la promesa de productividad?" organizada por Bloomberg Intelligence.

La perspectiva de Graham coincide con la del CEO de Nvidia, Jensen Huang, quien ha enfatizado a Wall Street que avanzar en formas de IA "agentic" requerirá no solo un entrenamiento más sofisticado, sino también capacidades de inferencia significativamente mejoradas, lo que resultará en un aumento exponencial en los requisitos de cómputo.

El papel de Lightmatter en la infraestructura de IA

Fundada en 2018, Lightmatter está a la vanguardia del desarrollo de tecnología de chips que utiliza conexiones ópticas para vincular múltiples procesadores en un solo dado semiconductor. Estas interconexiones ópticas pueden transferir datos de manera más eficiente que los cables de cobre tradicionales, utilizando menos energía. Esta tecnología puede optimizar las conexiones dentro y entre los racks de los centros de datos, mejorando la eficiencia general y la economía del centro de datos, según Graham.

"Al reemplazar las trazas de cobre en los centros de datos, tanto en la placa de circuito impreso del servidor como en el cableado entre racks, con fibra óptica, podemos aumentar drásticamente el ancho de banda," dijo Graham a Singh. Lightmatter está colaborando actualmente con varias empresas tecnológicas en el diseño de nuevos centros de datos, y Graham señaló que estas instalaciones se están construyendo desde cero. La compañía ya ha establecido una asociación con Global Foundries, un fabricante de semiconductores por contrato con operaciones en el norte de Nueva York, que atiende a clientes como Advanced Micro Devices.

Aunque Graham no reveló socios ni clientes específicos más allá de esta colaboración, insinuó que Lightmatter trabaja con proveedores de silicio como Broadcom o Marvell para crear componentes personalizados para gigantes tecnológicos como Google, Amazon y Microsoft, que diseñan sus propios procesadores para centros de datos.

La escala y el futuro de los centros de datos de IA

Para ilustrar la magnitud de la implementación de IA, Graham señaló que al menos una docena de nuevos centros de datos de IA están planificados o en construcción, cada uno requiriendo un gigavatio de energía. "Para contextualizar, la ciudad de Nueva York usa alrededor de cinco gigavatios de energía en un día promedio. Así que, estamos hablando del consumo de energía de múltiples ciudades de Nueva York," dijo. Predice que para 2026, el procesamiento global de IA demandará 40 gigavatios de energía, equivalente a ocho ciudades de Nueva York, específicamente para centros de datos de IA.

Lightmatter recientemente aseguró una inversión de capital de riesgo de $400 millones, valorando a la compañía en $4.4 mil millones. Graham mencionó que la compañía planea comenzar la producción "en los próximos años."

Cuando se le preguntó sobre posibles interrupciones en los planes de Lightmatter, Graham expresó confianza en la necesidad continua de expandir la infraestructura de cómputo de IA. Sin embargo, reconoció que un avance en los algoritmos de IA que requiera significativamente menos cómputo o que logre una inteligencia general artificial (AGI) más rápidamente podría desafiar las suposiciones actuales sobre la necesidad de un crecimiento exponencial del cómputo.