От MIPS до эксафлопсов за несколько десятилетий: Вычислительная мощность стремительно растет, и это преобразит ИИ

На недавней конференции Nvidia GTC технологический гигант представил революционное достижение: первую систему серверов в одном стойке, способную достичь одного эксафлопса. Это ошеломляющие один миллиард миллиардов операций с плавающей запятой (FLOPS) в секунду. Этот подвиг реализован благодаря новейшей системе Nvidia GB200 NVL72, оснащённой передовыми графическими процессорами (GPU) Blackwell. Для сравнения, эта система помещается в стандартную компьютерную стойку высотой около 6 футов, глубиной чуть более 3 футов и шириной менее 2 футов.

Сжатие эксафлопса: от Frontier к Blackwell

Это объявление заставило меня задуматься о том, как далеко мы продвинулись всего за несколько лет. Первый в мире компьютер, способный достичь эксафлопса, "Frontier", был установлен в Национальной лаборатории Ок-Ридж в 2022 году. Созданный HPE и оснащённый GPU и CPU от AMD, он занимал огромные 74 стойки. В отличие от него, новая система Nvidia обеспечивает в 73 раза большую производительность в одной стойке. Это как утроение производительности каждый год в течение трёх лет подряд! Это свидетельство невероятных успехов в плотности вычислений, энергоэффективности и архитектурном дизайне.

Также стоит отметить, что, хотя обе системы достигают рубежа эксафлопса, они предназначены для разных целей. Рейтинг эксафлопса Nvidia основан на вычислениях с меньшей точностью — 4-битных и 8-битных операциях с плавающей запятой, — идеальных для задач ИИ, таких как обучение и запуск больших языковых моделей (LLM). Эти вычисления отдают предпочтение скорости перед точностью. С другой стороны, рейтинг эксафлопса Frontier основан на 64-битных вычислениях двойной точности, золотом стандарте для научных симуляций, где точность имеет первостепенное значение.

Мы прошли долгий путь (очень быстро)

Темпы этого прогресса почти невероятны, особенно когда я вспоминаю начало своей карьеры в вычислительной технике. Моя первая работа была программистом на DEC KL 1090, части серии мейнфреймов DEC PDP-10 для совместного использования времени. Эта машина работала с производительностью всего 1,8 миллиона инструкций в секунду (MIPS). Она подключалась к дисплеям с электронно-лучевыми трубками (CRT) через жёсткие кабели, без какой-либо графики — только текст на экране. И, конечно, не было Интернета. Удалённые пользователи подключались через телефонные линии с модемами, скорость которых достигала максимум 1200 бит в секунду.

500 миллиардов раз больше вычислительной мощности

Хотя сравнение MIPS и FLOPS не является прямым сравнением, оно даёт представление о невероятном скачке в вычислительной мощности. MIPS измеряет скорость обработки целых чисел, что подходит для вычислений общего назначения и бизнес-приложений. FLOPS, с другой стороны, измеряет производительность операций с плавающей запятой, что критически важно для научных задач и тяжёлых вычислений, лежащих в основе современного ИИ, таких как матричная математика и линейная алгебра, необходимые для обучения и работы моделей машинного обучения (ML).

Используя эти показатели как ориентир, новая система Nvidia примерно в 500 миллиардов раз мощнее старой машины DEC. Это поразительный пример экспоненциального роста вычислительной мощности за одну карьеру. Это заставляет задуматься: если мы достигли такого за 40 лет, что могут принести следующие пять лет?

Nvidia дала нам некоторые подсказки. На GTC они поделились дорожной картой, предсказывающей, что их следующее поколение систем в полной стойке, основанное на архитектуре "Vera Rubin" Ultra, обеспечит в 14 раз большую производительность, чем текущая стойка Blackwell Ultra. Мы говорим о 14–15 эксафлопсах для ИИ-оптимизированных задач в течение следующего года или двух.

Дело не только в сырой мощности. Сжатие такой производительности в одну стойку означает меньшую физическую площадь, меньше материалов и потенциально меньшее энергопотребление на операцию. Хотя не стоит забывать, что абсолютные потребности в энергии этих систем всё ещё огромны.

Действительно ли ИИ нужен весь этот вычислительный ресурс?

Хотя эти достижения в производительности впечатляют, индустрия ИИ сейчас сталкивается с большим вопросом: сколько вычислительной мощности нам действительно нужно и какой ценой? Гонка за строительство огромных новых центров данных для ИИ обусловлена требованиями эксафлопсных вычислений и всё более мощных моделей ИИ.

Самый амбициозный проект — это Project Stargate стоимостью 500 миллиардов долларов, планирующий 20 центров данных по всей территории США, каждый площадью полмиллиона квадратных футов. По всему миру реализуется или планируется волна других гипермасштабных проектов, поскольку компании и страны спешат строить инфраструктуру для будущих задач ИИ.

Некоторые аналитики обеспокоены тем, что мы можем переусердствовать со строительством. Опасения возросли после выпуска R1, модели рассуждений от китайской DeepSeek, которая использует значительно меньше вычислительных ресурсов, чем её аналоги. Недавняя отмена Microsoft аренды у нескольких поставщиков центров данных подогрела спекуляции о том, что они могут пересматривать свои потребности в инфраструктуре ИИ.

Однако The Register предположил, что этот откат может быть больше связан с тем, что запланированные центры данных не способны справиться с потребностями в энергии и охлаждении систем ИИ следующего поколения. Модели ИИ уже выходят за пределы возможностей текущей инфраструктуры. MIT Technology Review сообщила, что многие центры данных в Китае испытывают трудности и терпят неудачи, поскольку были построены по устаревшим спецификациям.

Выводы ИИ требуют больше FLOPS

Модели рассуждений выполняют большую часть своей тяжёлой работы во время выполнения через процесс, называемый выводом. Эти модели поддерживают некоторые из самых продвинутых и ресурсоёмких приложений, таких как глубокие исследовательские помощники и новая волна агентных систем ИИ.

Хотя DeepSeek-R1 изначально заставил индустрию думать, что будущему ИИ потребуется меньше вычислительных ресурсов, генеральный директор Nvidia Дженсен Хуанг решительно возразил. В интервью CNBC он утверждал обратное: "Это был прямо противоположный вывод, который сделали все". Он добавил, что ИИ с рассуждениями потребляет в 100 раз больше вычислительных ресурсов, чем ИИ без рассуждений.

По мере того как ИИ эволюционирует от моделей рассуждений к автономным агентам и далее, спрос на вычислительные ресурсы, вероятно, снова резко возрастёт. Следующие прорывы могут произойти в таких областях, как координация агентов ИИ, симуляции слияния или крупномасштабные цифровые двойники — всё это стало возможным благодаря такому скачку в вычислениях, который мы только что видели.

Как будто по сигналу, OpenAI объявила о новом финансировании в размере 40 миллиардов долларов, крупнейшем раунде частного финансирования в технологической отрасли. В своём блоге они заявили, что это финансирование "позволяет нам ещё дальше расширять границы исследований ИИ, масштабировать нашу вычислительную инфраструктуру и предоставлять всё более мощные инструменты для 500 миллионов человек, которые используют ChatGPT каждую неделю".

Почему в ИИ вливается столько капитала? Причины варьируются от конкурентоспособности до национальной безопасности, но один фактор выделяется: по данным McKinsey, ИИ может увеличить корпоративные прибыли на 4,4 триллиона долларов в год.

Что будет дальше? Никто не знает

В своей основе информационные системы предназначены для упрощения сложности, будь то система маршрутизации аварийных машин, которую я когда-то написал на Fortran, инструмент отчётности об успехах студентов, созданный на COBOL, или современные системы ИИ, ускоряющие открытие новых лекарств. Цель всегда была одной: осмыслить мир.

Теперь, с мощным ИИ на горизонте, мы переходим через порог. Впервые у нас может быть достаточно вычислительной мощности и интеллекта, чтобы решать проблемы, которые раньше были вне досягаемости человека.

Колумнист New York Times Кевин Руз хорошо уловил этот момент: "Каждую неделю я встречаю инженеров и предпринимателей, работающих над ИИ, которые говорят мне, что перемены — большие перемены, потрясающие мир перемены, трансформация, которую мы никогда раньше не видели, — уже не за горами". И это даже не учитывая прорывы, которые происходят каждую неделю.

Только за последние несколько дней мы видели, как GPT-4o от OpenAI генерирует почти идеальные изображения из текста, Google выпускает, возможно, самую продвинутую модель рассуждений — Gemini 2.5 Pro, а Runway представляет видеомодель с последовательностью персонажей и сцен, что, по словам VentureBeat, до сих пор ускользало от большинства генераторов видео на основе ИИ.

Что будет дальше, действительно никому неизвестно. Мы не знаем, станет ли мощный ИИ прорывом или крахом, поможет ли он решить проблему термоядерной энергии или создаст новые биологические риски. Но с увеличением количества FLOPS в ближайшие пять лет одно кажется очевидным: инновации будут приходить быстро — и с силой. По мере роста FLOPS должны расти и наши разговоры об ответственности, регулировании и сдержанности.

Гари Гроссман — исполнительный вице-президент по технологической практике в Edelman и глобальный руководитель Центра передового опыта по ИИ Edelman.