Стартап, занимающийся разработкой микросхем, привлек 135 млн долларов, сделав ставку на то, что именно память, а не вычислительные мощности, является главным «узким местом» в области искусственного интеллекта

Каждый раз, когда вы задаете ChatGPT вопрос, ваш запрос запускает «эстафету» передачи данных. Информация выгружается из памяти, проходит через ЦП для предварительной обработки, поступает на графический процессор для интенсивных вычислений, а затем возвращается — и весь этот цикл повторяется для каждого слова, которое генерирует ИИ.

Это структурное «узкое место» — оно вынуждает каждый запрос проходить через одни из самых дорогих и энергоемких чипов в отрасли. Именно эту неэффективность и стремится устранить стартап XCENA, имеющий офисы в Южной Корее и США. Эта компания, существующая уже четыре года, создала микросхему, которая приближает вычислительную мощность к DRAM — быстрым микросхемам временной памяти, хранящим данные, которые активно использует процессор, — что позволяет обрабатывать рутинные задачи с данными непосредственно рядом с памятью, без дорогостоящих «туда-обратно» перемещений между ЦП, ГП и памятью.

Если эта технология будет работать в промышленных масштабах, это может существенно повлиять на затраты на инфраструктуру искусственного интеллекта — что и объясняет высокий интерес со стороны инвесторов. XCENA только что привлекла 135 миллионов долларов в рамках раунда серии B при оценке компании в 570 миллионов долларов, в результате чего общий объем привлеченного финансирования достиг 185 миллионов долларов.

Генеральный директор XCENA Джин Ким стал соучредителем компании в 2022 году вместе с техническим директором Дохуном Кимом и директором по продуктам Гарри Джухюном Кимом. Все трое — ветераны компаний Samsung и SK Hynix, гигантов рынка памяти, поставляющих чипы, на которых работают графические процессоры Nvidia. «За последние десятилетия и ЦП, и графические процессоры стали умнее. А вот память — нет. XCENA хочет это изменить», — заявил Ким в интервью TechCrunch. «Недавний рост цен на память и акции соответствующих компаний указывает на более широкий сдвиг в инфраструктуре искусственного интеллекта в сторону архитектур, ориентированных на память», — добавил он. (В этом месяце Samsung, SK Hynix и Micron — три компании, доминирующие на мировом рынке микросхем памяти, — впервые преодолели отметку в один триллион долларов по рыночной оценке.)

Ким говорит, что XCENA строит свой бизнес на идее, что «вычисления больше не являются просто проблемой вычислительной мощности; это во все большей степени проблема масштабирования памяти».

Чип XCENA, MX1, подключается к ЦП через CXL (Compute Express Link) — по сути, это выделенная «скоростная полоса» между процессором и памятью — и обрабатывает данные еще до того, как им придется покинуть модуль памяти. Таким образом, вычисления приходят к данным, а не наоборот. По заявлению компании, то, что раньше требовало 10 серверов, теперь потенциально может выполняться на одном.

«Хотя графические процессоры (GPU) превосходны в умножении матриц — сложных математических вычислениях, лежащих в основе обучения моделей искусственного интеллекта, — большая часть сопутствующей работы с данными, включая предварительную обработку, управление кэшем «ключ-значение» (система, которая хранит контекст предыдущих разговоров, чтобы модели не приходилось перерабатывать его заново) и кэширование данных, по-прежнему выполняется на ЦП. Наш чип обрабатывает эти задачи непосредственно внутри самого модуля памяти», — сказал Ким.

Спрос на решения в области памяти резко вырос со второй половины прошлого года, и компания считает, что ситуация складывается в её пользу.

Переговоры с несколькими мировыми поставщиками памяти пока находятся на ранней стадии, хотя Ким отказался назвать их имена. Идеальными клиентами компании являются гипермасштабируемые компании, ежегодно тратящие десятки миллиардов долларов на инфраструктуру искусственного интеллекта, где даже небольшое повышение эффективности памяти может привести к экономии в сотни миллионов.

MX1 пока остаётся прототипом. Серийное производство чипов планируется запустить на линиях Samsung к концу 2026 года, а начать получать выручку компания рассчитывает в 2027 году.

В то время как производители нейронных процессоров (NPU) соревнуются за право бросить вызов Nvidia в области обучающих рабочих нагрузок, XCENA нацелена на ресурсоемкий уровень памяти, лежащий в основе всего остального.

К ближайшим конкурентам XCENA относятся Astera Labs и Marvell — обе компании, котирующиеся на Nasdaq, работают над технологиями подключения памяти следующего поколения. По словам Кима, Marvell — крупный, устоявшийся игрок, уже активно работающий в этой же сфере, но ключевое отличие заключается в интеллектуальной собственности. «У нас тысячи ядер», — сказал Ким. Судя по общедоступным техническим характеристикам, подход Marvell, по сравнению с этим, опирается на всего несколько ядер общего назначения.

Эти ядра построены на базе RISC-V — открытой архитектуры для проектирования микросхем — и оптимизированы специально для обработки данных, при этом каждое ядро намеренно сделано небольшим и эффективным. Помимо самих ядер, XCENA разрабатывает собственную внутреннюю иерархию памяти, соединительную шину и контроллер DRAM — такой уровень вертикальной интеграции, который большинство производителей микросхем, включая более крупных конкурентов, обычно передают на аутсорсинг.

Сеульские венчурные компании Altinum и IMM Investment совместно возглавили раунд серии B вместе с Corstone Asia и существующими инвесторами — SBI Investment и Mirae Asset Capital. Компания, в которой работает более 90 сотрудников в офисах в Пангё — технологическом центре недалеко от Сеула — и в Саннивейле, также ведет переговоры с международными инвесторами о дополнительном финансировании.