Эксклюзивный тур по лаборатории Trainium компании Amazon: чип обогнал Anthropic, OpenAI и Apple

Вскоре после того, как генеральный директор Amazon Энди Джасси объявил о знаковом инвестиционном партнерстве AWS с OpenAI на сумму 50 миллиардов долларов, компания предложила мне частную экскурсию по лаборатории по разработке микросхем, которая является центральным элементом этой сделки, причем практически полностью за свой счет.

Отраслевые обозреватели внимательно следят за чипом Amazon под названием Trainium, созданным на этом объекте, в связи с его потенциалом снизить стоимость вычислений в области искусственного интеллекта и, возможно, бросить вызов почти монопольному положению Nvidia.

Заинтригованный, я принял приглашение.

Моими гидами в тот день были директор лаборатории Кристофер Кинг (на фото справа внизу), технический директор Марк Кэрролл (слева) и представитель команды по связям с общественностью, организовавший визит, Дорон Аронсон (на фото со мной далее в статье).

Руководители лаборатории AWS Chip Марк Кэрролл и Кристофер Кинг.Фото:TechCrunch/Джули Борт

AWS является основной облачной платформой Anthropic с самых первых дней существования этой лаборатории ИИ — эти отношения настолько прочные, что сохранились даже после того, как Anthropic позже добавила Microsoft в качестве облачного партнера, а Amazon углубила свои связи с OpenAI.

Соглашение с OpenAI определяет AWS в качестве эксклюзивного поставщика нового инструмента разработчика моделей — Frontier, предназначенного для создания ИИ-агентов. Этот инструмент может стать неотъемлемой частью бизнеса OpenAI, если агенты оправдают ожидания Кремниевой долины. Остается неизвестным, сохранится ли эта эксклюзивность в том виде, в котором она была объявлена. Как сообщила на этой неделе газета Financial Times, Microsoft может заявить, что сделка с Amazon нарушает её собственное соглашение с OpenAI, в частности тот пункт, согласно которому Редмонд имеет право на все модели и технологии OpenAI.

Почему AWS кажется OpenAI настолько привлекательным? В рамках этого соглашения облачный гигант обязался предоставить OpenAI 2 гигаватта вычислительной мощности на базе Trainium — это огромное обязательство, учитывая, что Anthropic и собственный сервис Amazon Bedrock уже потребляют чипы Trainium быстрее, чем Amazon успевает их производить.

Чип Trainium3 от Amazon.Источник изображения:Amazon

Trainium против Nvidia

Помимо того, что Amazon предлагает альтернативу задержанным в поставках и труднодоступным графическим процессорам Nvidia, компания заявляет, что её новые чипы, работающие на специализированных серверах Trn3 UltraServers, обеспечивают сопоставимую производительность при стоимости, на 50 % ниже, чем при использовании традиционных облачных серверов.

Наряду с Trainium3, выпущенным в декабре, команда AWS также создала новые коммутаторы Neuron. Кэрролл говорит, что эта комбинация является революционной.

«Это даёт нам огромные возможности», — сказал Кэрролл. Коммутаторы позволяют каждому чипу Trainium3 взаимодействовать с любым другим чипом в ячеистой конфигурации, сокращая задержку. «Именно поэтому Trainium3 бьёт всевозможные рекорды», особенно по показателю «цена на единицу мощности», — добавил он.

Когда ежедневно обрабатываются триллионы токенов, такие улучшения дают значительный эффект.

Более того, в 2024 году команда Amazon, занимающаяся разработкой чипов, заслужила похвалу от Apple. В редкий момент открытости для этой скрытной компании директор Apple по искусственному интеллекту публично рассказал, как Apple использовала ещё один чип этой команды — Graviton, энергоэффективный серверный процессор на базе ARM и первый чип, разработанный командой. Apple также высоко оценила Inferentia — чип, созданный специально для инференции, — и отметила Trainium, который на тот момент был еще новинкой.

Эти чипы следуют классической стратегии Amazon: выяснить, чего хотят клиенты, а затем создать собственную альтернативу, конкурентоспособную по цене.

Исторически сложилось так, что основной проблемой при переходе на другие чипы были затраты на переход. Приложения, написанные для чипов Nvidia, необходимо перепроектировать, чтобы они работали с другими чипами — это трудоемкий процесс, который отталкивает разработчиков от перехода.

Однако команда AWS, занимающаяся чипами, с гордостью сообщила мне, что Trainium теперь поддерживает PyTorch — популярный фреймворк с открытым исходным кодом для создания моделей искусственного интеллекта. Сюда входят многие модели, размещенные на Hugging Face — обширной библиотеке, где разработчики делятся моделями с открытым исходным кодом.

По словам Кэрролла, для перехода требуется «по сути, изменить одну строку, затем перекомпилировать и запустить на Trainium». Другими словами, Amazon постепенно подрывает доминирование Nvidia на рынке везде, где это возможно.

В этом месяце AWS также объявила о партнерстве с Cerebras Systems, в рамках которого чип для инференса этой компании будет интегрирован в серверы, работающие на Trainium, что, по обещаниям Amazon, обеспечит сверхмощную производительность ИИ с низкой задержкой.

Однако амбиции Amazon выходят за рамки самих чипов. Команда также разрабатывает серверы, на которых размещаются эти чипы. Наряду с сетевыми компонентами они создали «Nitro» — аппаратно-программное решение, обеспечивающее виртуализацию (позволяющую запускать множество экземпляров программного обеспечения отдельно на одном сервере); новую передовую систему жидкостного охлаждения; а также серверные салазки (на фото ниже), на которых размещается оборудование.

Все это направлено на оптимизацию затрат и повышение производительности.

Экскурсия по лаборатории AWS в Остине, салазки с компонентами.Источник изображения:TechCrunch/Julie Bort

Работа над «запуском» ведётся круглосуточно

Подразделение Amazon по разработке собственных чипов появилось после того, как в январе 2015 года этот облачный гигант приобрел израильскую компанию Annapurna Labs, занимающуюся разработкой чипов, за примерно 350 миллионов долларов. Таким образом, команда уже более десяти лет занимается разработкой чипов для AWS. Подразделение сохранило свои корни и название Annapurna — его логотип можно увидеть повсюду в офисе.

Эта лаборатория по разработке микросхем расположена в блестящем здании с хромированными окнами в престижном районе Остина «Домен» — пешеходной зоне, наполненной магазинами и ресторанами, которую иногда называют «Кремниевой долиной Остина».

Офисы отличаются классической атмосферой технологической компании: рабочие кабинки, зоны для общения и конференц-залы. Но в глубине одного из верхних этажей спрятана сама лаборатория, из окон которой открывается панорамный вид на город.

Заполненная стеллажами лаборатория, размером примерно с две большие конференц-залы, представляет собой шумное промышленное помещение из-за вентиляторов оборудования. Она выглядит как нечто среднее между школьной мастерской и голливудской съёмочной площадкой для высокотехнологичной лаборатории — за исключением того, что инженеры носят джинсы вместо белых лабораторных халатов.

Чип-лаборатория AWS в Остине.Источник изображения:TechCrunch/Джули Борт

Лаборатория AWS в Остине.Источник изображения:TechCrunch/Джули Борт

Обратите внимание, что чипы здесь не производятся, поэтому белые защитные костюмы не понадобились. Trainium3 — это ультрасовременный 3-нанометровый чип, произведенный компанией TSMC, которая, пожалуй, является лидером в области 3-нанометрового производства, а другие чипы изготовлены компанией Marvell.

Но именно в этом помещении происходит волшебство «запуска».

«Запуск микросхемы — это момент, когда вы впервые получаете чип, и это похоже на грандиозную ночную вечеринку. Вы остаетесь здесь, как на ночной вечеринке», — объясняет Кинг. После 18 месяцев работы чип впервые активируется, чтобы проверить, работает ли он так, как задумано. Команда даже сняла на видео часть процесса запуска Trainium3 и выложила его на YouTube.

Внимание, спойлер: это никогда не проходит без проблем.

В случае с Trainium3 прототип чипа изначально имел воздушное охлаждение, как и предыдущие версии. Нынешний чип теперь имеет жидкостное охлаждение, что дает энергетические преимущества и стало значительным инженерным достижением.

Во время запуска оказалось, что размеры крепления чипа к радиатору с воздушным охлаждением не совпадали, из-за чего чип не удалось запустить.

Не растерявшись, команда «сразу же достала шлифовальную машинку и просто начала снимать металл», — рассказал Кинг. Чтобы не нарушать атмосферу пицца-вечеринки, устроенной по случаю запуска, они ускользнули и провели шлифовку в конференц-зале.

Не спать всю ночь и решать проблемы — «вот в чём суть запуска кремниевых устройств», — сказал Кинг.

В лаборатории даже есть сварочная станция, где инженер аппаратной лаборатории и мастер-сварщик Айзек Гевара продемонстрировал сварку крошечных компонентов интегральных схем под микроскопом. Это настолько сложная работа, что старший руководитель Кэрролл открыто признал, что не смог бы её выполнить, что вызвало смех у Гевары и других инженеров, находившихся в комнате.

Экскурсия по чип-лаборатории AWS в Остине, сварочная станция.Фото:TechCrunch/Джули Борт

В лаборатории также имеются как специально изготовленные на заказ, так и коммерческие инструменты для тестирования и анализа неисправностей микросхем. Вот инженер по сигналам Арвинд Сринивасан демонстрирует, как в лаборатории тестируют каждый крошечный компонент на микросхеме:

Экскурсия по лаборатории AWS в Остине, оборудование для тестирования.Фото:TechCrunch/Джули Борт

Главная гордость лаборатории — «сани»

Но главная изюминка лаборатории — целый ряд, на котором представлены все поколения «саней», разработанных командой.

Экскурсия по лаборатории AWS в Остине: стена с «санями».Источник изображения:TechCrunch/Julie Bort

«Следы» — это лотки, в которых размещаются чипы Trainium AI, процессорные чипы Graviton, а также вспомогательные платы и компоненты. Скомпонуйте их в стойку вместе с сетевыми компонентами — также разработанными этой командой на заказ — и вы получите системы, лежащие в основе успеха Anthropic Claude.

Вот «сани», продемонстрированные во время конференции AWS re:Invent в декабре:

Экскурсия по чип-лаборатории AWS в Остине, «sled» с Trainium3.Источник изображения:TechCrunch/Julie Bort

Проверено Anthropic и OpenAI

Я ожидал, что во время экскурсии мои гиды будут хвастаться сделкой с OpenAI. Но они этого не сделали.

Эта сдержанность могла быть связана с потенциальной юридической неопределённостью, окружающей сделку. Но у меня сложилось впечатление, что эти инженеры, работающие «на передовой» — которые в настоящее время разрабатывают следующую версию, Trainium4, — пока не имели особого шанса поработать с OpenAI. Их повседневная работа до сих пор сосредоточена на потребностях Anthropic и Amazon.

В настоящее время большая часть чипов Trainium2 развернута в Project Rainier — одном из крупнейших в мире вычислительных кластеров искусственного интеллекта, — который был запущен в конце 2025 года с 500 000 чипов. Им пользуется компания Anthropic.

Однако на настенном мониторе в главном офисе была выведена цитата о том, как OpenAI будет использовать Trainium. Гордость была заметна, пусть и не явно.

Помимо этой лаборатории у команды есть собственный частный центр обработки данных для контроля качества и тестирования. Он находится в нескольких минутах езды отсюда; поскольку там не обрабатываются рабочие нагрузки клиентов, он размещен в центре колокации, а не в центре обработки данных AWS.

Безопасность здесь на высоком уровне: действуют строгие протоколы для входа в здание и доступа к зоне Amazon внутри него.

Система охлаждения дата-центра работает настолько громко, что без берушей не обойтись, а в воздухе витает едкий запах нагретого металла. Для обычного человека это не самое приятное место для пребывания.

На фото — я и Аронсон в центре обработки данных чип-лаборатории AWS в Остине, защищающие уши рядом с работающими серверами.Источник изображения:TechCrunch / Джули Борт

В этом центре обработки данных ряды серверов заполнены «санями», в которых интегрированы все новейшие чипы Amazon, разработанные на заказ: процессор Graviton, Trainium3 с жидкостным охлаждением, Amazon Nitro — и все они гудят. Жидкость циркулирует в замкнутой системе, то есть повторно используется, что, по словам инженеров, должно помочь снизить воздействие на окружающую среду.

Вот как выглядит современный Trn3 UltraServer: несколько салазок сверху и снизу, а посередине — коммутаторы Neuron. На снимке инженер по разработке оборудования Дэвид Мартинес-Дарроу проводит техническое обслуживание одной из салазок:

Экскурсия по чип-лаборатории AWS в Остине.Источник изображения:TechCrunch/Джули Борт

Хотя к этой команде всегда проявляли большой интерес, в последнее время внимание к ней значительно усилилось.

Генеральный директор Amazon Энди Джасси пристально следит за этой лабораторией, публично хвастаясь её продуктами, как гордый родитель. В декабре он заявил, что Trainium уже приносит AWS многомиллиардную прибыль, и назвал эту технологию одной из тех, которые его больше всего вдохновляют. Он также упомянул этот чип при объявлении соглашения с OpenAI.

Команда тоже чувствует давление. Инженеры работают круглосуточно в течение трёх-четырёх недель перед каждым запуском, устраняя проблемы, чтобы чипы можно было запустить в серийное производство и развернуть в дата-центрах.

«Очень важно, чтобы мы как можно быстрее доказали, что это действительно сработает, — сказал Кэрролл. — Пока что у нас всё идёт очень хорошо».

*Раскрытие информации: Amazon оплатила авиабилеты и одну ночь проживания в местном отеле. В соответствии со своим принципом лидерства «Бережливость» это было среднее место в задней части самолета и скромный номер. TechCrunch покрыл остальные расходы на поездку, такие как поездки на Uber и сборы за багаж. (Да, я сдал багаж на одну ночь. В этом плане я довольно требовательна.)