ИИ вычисления для потребления мощности нескольких Нью -Йорка к 2026 году, говорит основатель

Nvidia и партнеры расширяют центры данных для ИИ по всему миру

Nvidia вместе со своими партнерами и клиентами активно расширяет масштабы компьютерных центров по всему миру, чтобы удовлетворить высокие вычислительные потребности для обучения масштабных моделей искусственного интеллекта (ИИ), таких как GPT-4. Это расширение станет еще более важным по мере вывода дополнительных моделей ИИ в эксплуатацию, отметил Томас Грэм, сооснователь стартапа в области оптических вычислений Lightmatter. В недавнем интервью в Нью-Йорке с Мандипом Сингхом, старшим аналитиком по технологиям из Bloomberg Intelligence, Грэм подчеркнул возрастающую потребность в вычислительных ресурсах.

«Спрос на увеличение вычислительных мощностей связан не только с законами масштабирования; речь также идет о развертывании этих моделей ИИ уже сейчас», — объяснил Грэм. Сингх поинтересовался будущим больших языковых моделей (LLM), таких как GPT-4, и будут ли они продолжать расти в размерах. В ответ Грэм переключил внимание на практическое применение ИИ, подчеркнув важность инференса, или фазы развертывания, которая требует значительных вычислительных мощностей.

«Если рассматривать обучение как исследования и разработки, то инференс — это, по сути, развертывание. При развертывании вам потребуются крупномасштабные компьютеры для работы ваших моделей», — заявил Грэм на конференции «Gen AI: Может ли он оправдать обещания продуктивности?», организованной Bloomberg Intelligence.

Точка зрения Грэма совпадает с мнением генерального директора Nvidia Дженсена Хуанга, который подчеркнул на Уолл-стрит, что развитие «агентных» форм ИИ потребует не только более сложного обучения, но и значительно улучшенных возможностей инференса, что приведет к экспоненциальному росту потребностей в вычислительных мощностях.

Роль Lightmatter в инфраструктуре ИИ

Основанная в 2018 году, Lightmatter находится на передовой разработки технологий чипов, использующих оптические соединения для связи нескольких процессоров на одном полупроводниковом кристалле. Эти оптические межсоединения могут передавать данные более эффективно, чем традиционные медные провода, потребляя меньше энергии. Эта технология может оптимизировать соединения внутри и между стойками центров данных, повышая общую эффективность и экономичность центров данных, отметил Грэм.

«Заменяя медные дорожки в центрах данных — как на печатных платах серверов, так и в кабелях между стойками — на оптоволокно, мы можем значительно увеличить пропускную способность», — рассказал Грэм Сингху. Lightmatter в настоящее время сотрудничает с различными технологическими компаниями над проектированием новых центров данных, и Грэм отметил, что эти объекты строятся с нуля. Компания уже установила партнерство с Global Foundries, контрактным производителем полупроводников с операциями в северной части штата Нью-Йорк, который обслуживает клиентов, таких как Advanced Micro Devices.

Хотя Грэм не раскрыл конкретных партнеров и клиентов помимо этого сотрудничества, он намекнул, что Lightmatter работает с поставщиками кремния, такими как Broadcom или Marvell, для создания специализированных компонентов для технологических гигантов, таких как Google, Amazon и Microsoft, которые разрабатывают собственные процессоры для центров данных.

Масштабы и будущее центров данных для ИИ

Чтобы проиллюстрировать масштабы развертывания ИИ, Грэм указал, что как минимум дюжина новых центров данных для ИИ либо планируется, либо уже строится, каждый из которых требует гига ватта энергии. «Для контекста, Нью-Йорк потребляет около пяти гига ватт энергии в среднем за день. Таким образом, речь идет о потреблении энергии, эквивалентном нескольким Нью-Йоркам», — сказал он. Он прогнозирует, что к 2026 году глобальная обработка ИИ потребует 40 гига ватт энергии, что эквивалентно восьми Нью-Йоркам, специально для центров данных ИИ.

Lightmatter недавно привлекла инвестиции венчурного капитала в размере 400 миллионов долларов, оценив компанию в 4,4 миллиарда долларов. Грэм упомянул, что компания планирует начать производство «в ближайшие несколько лет».

На вопрос о возможных препятствиях для планов Lightmatter Грэм выразил уверенность в постоянной потребности в расширении инфраструктуры вычислений для ИИ. Однако он признал, что прорыв в алгоритмах ИИ, требующий значительно меньше вычислительных ресурсов или более быстрое достижение искусственного общего интеллекта (AGI), может поставить под сомнение текущие предположения о необходимости экспоненциального роста вычислительных мощностей.