L'informatique de l'IA pour consommer la puissance de plusieurs New York d'ici 2026, explique le fondateur

Nvidia et ses partenaires étendent les centres de données IA à travers le monde

Nvidia, en collaboration avec ses partenaires et clients, a activement élargi la taille des installations informatiques à travers le globe pour répondre aux exigences computationnelles élevées de l'entraînement de modèles d'intelligence artificielle (IA) massifs comme GPT-4. Cette expansion deviendra encore plus cruciale à mesure que d'autres modèles d'IA seront déployés en production, selon Thomas Graham, co-fondateur de la startup d'informatique optique Lightmatter. Dans une récente interview à New York avec Mandeep Singh, analyste technologique senior chez Bloomberg Intelligence, Graham a souligné le besoin croissant de ressources computationnelles.

« La demande de plus de calcul ne concerne pas seulement les lois de mise à l'échelle ; il s'agit aussi de déployer ces modèles d'IA maintenant », a expliqué Graham. Singh a interrogé sur l'avenir des grands modèles de langage (LLMs) comme GPT-4 et s'ils continueront à croître en taille. En réponse, Graham a recentré la discussion sur l'application pratique de l'IA, soulignant l'importance de l'inférence, ou phase de déploiement, qui nécessite une puissance computationnelle considérable.

« Si vous considérez l'entraînement comme de la R&D, l'inférence est essentiellement le déploiement. En déployant, vous aurez besoin d'ordinateurs à grande échelle pour exécuter vos modèles », a déclaré Graham lors de la conférence « Gen AI : Peut-elle tenir sa promesse de productivité ? » organisée par Bloomberg Intelligence.

La perspective de Graham s'aligne sur celle de Jensen Huang, PDG de Nvidia, qui a souligné auprès de Wall Street que l'avancement des formes d'IA « agentiques » nécessitera non seulement un entraînement plus sophistiqué, mais aussi des capacités d'inférence considérablement renforcées, entraînant une augmentation exponentielle des besoins en calcul.

Le rôle de Lightmatter dans l'infrastructure de l'IA

Fondée en 2018, Lightmatter est à la pointe du développement de technologies de puces utilisant des connexions optiques pour relier plusieurs processeurs sur une seule puce semi-conductrice. Ces interconnexions optiques peuvent transférer des données plus efficacement que les fils de cuivre traditionnels, en utilisant moins d'énergie. Cette technologie peut simplifier les connexions au sein et entre les racks des centres de données, améliorant l'efficacité et l'économie globales des centres de données, selon Graham.

« En remplaçant les traces de cuivre dans les centres de données — à la fois sur la carte de circuit imprimé du serveur et dans le câblage entre les racks — par de la fibre optique, nous pouvons augmenter considérablement la bande passante », a déclaré Graham à Singh. Lightmatter collabore actuellement avec diverses entreprises technologiques sur la conception de nouveaux centres de données, et Graham a noté que ces installations sont construites de toutes pièces. L'entreprise a déjà établi un partenariat avec Global Foundries, un fabricant de semi-conducteurs sous contrat opérant dans le nord de l'État de New York, qui sert des clients comme Advanced Micro Devices.

Bien que Graham n'ait pas divulgué de partenaires et clients spécifiques au-delà de cette collaboration, il a laissé entendre que Lightmatter travaille avec des fournisseurs de silicium comme Broadcom ou Marvell pour créer des composants personnalisés pour des géants technologiques comme Google, Amazon et Microsoft, qui conçoivent leurs propres processeurs pour centres de données.

L'ampleur et l'avenir des centres de données IA

Pour illustrer l'ampleur du déploiement de l'IA, Graham a souligné qu'au moins une douzaine de nouveaux centres de données IA sont soit planifiés, soit en construction, chacun nécessitant un gigawatt de puissance. « Pour donner un contexte, New York City consomme environ cinq gigawatts de puissance par jour en moyenne. Donc, nous parlons de la consommation énergétique de plusieurs New York City », a-t-il déclaré. Il prévoit que d'ici 2026, le traitement mondial de l'IA nécessitera 40 gigawatts de puissance, équivalent à huit New York City, spécifiquement pour les centres de données IA.

Lightmatter a récemment obtenu un investissement de capital-risque de 400 millions de dollars, valorisant l'entreprise à 4,4 milliards de dollars. Graham a mentionné que l'entreprise vise à démarrer la production « au cours des prochaines années ».

Lorsqu'on lui a demandé s'il y avait des perturbations potentielles aux plans de Lightmatter, Graham a exprimé sa confiance dans le besoin continu d'expansion de l'infrastructure informatique de l'IA. Cependant, il a reconnu qu'une percée dans les algorithmes d'IA nécessitant beaucoup moins de calcul ou atteignant l'intelligence artificielle générale (AGI) plus rapidement pourrait remettre en question les hypothèses actuelles sur le besoin de croissance exponentielle du calcul.