Runware представляет модуль портативного центра обработки данных для тестирования будущего мобильной инфраструктуры

Во вторник компания Runware, специализирующаяся на инфраструктуре искусственного интеллекта, представила Sonic Inference Pod — модульный центр обработки данных, спроектированный в виде единого транспортабельного блока. Данное решение предлагает гибкую альтернативу масштабным проектам центров обработки данных гипермасштабируемых компаний с фиксированной мощностью.

По данным Runware, Pod обеспечивает более качественную инференцию при меньших затратах по сравнению с другими бессерверными платформами и облачными решениями на базе графических процессоров (GPU). Его модульная архитектура позволяет быстро расширять мощности за счет развертывания новых модулей (pods), устраняя необходимость в расширении стационарных объектов. Соучредитель и генеральный директор компании Флавиу Радулеску (Flaviu Radulescu) охарактеризовал этот подход в интервью TechCrunch как будущее вычислений.

«Мы считаем, что в долгосрочной перспективе победит распределённая вычислительная мощность, расположенная ближе к конечным пользователям для более быстрого вывода результатов», — пояснил он. Помимо конкурентоспособных цен Радулеску подчеркнул, что система Runware быстро масштабируется, может быть развернута в любом месте, где есть доступ к электросети, и быстро адаптируется к новому оборудованию. В отличие от традиционных центров обработки данных, на строительство которых уходят месяцы или годы, поды Runware используют систему охлаждения с замкнутым контуром, не требующую воды, и могут быть введены в эксплуатацию всего за несколько дней.

«Спрос на инференцию растет быстрее, чем удается строить инфраструктуру», — заявил Радулеску. «Наша цель — обеспечить интеллектуальные возможности всего мира, стать основой, на которой работает каждая модель ИИ, с мощностью, которая не только удовлетворяет спрос, но и не сдерживает его».

По словам Радулеску, в настоящее время Runware эксплуатирует 10 модулей в США, Европе и Азиатско-Тихоокеанском регионе. Компания уже обеспечивает инференцию для таких клиентов, как Higgsfield AI и Wix, при этом 160 площадок готовы к подключению к её модулям. После раунда финансирования серии A на сумму 50 миллионов долларов, состоявшегося в декабре, Runware нацелена на предоставление необходимой инфраструктуры для компаний, занимающихся генерацией изображений. Это расширение деятельности в направлении модульных кластеров соответствует основной миссии компании — предоставлять услуги инференса предприятиям, а не сосредотачиваться на одном продукте.

Изображения предоставлены:Runware

Крупные лаборатории в области ИИ, такие как OpenAI и SpaceX, по-прежнему ведут гонку по строительству дата-центров по всей территории США. Согласно отчетам, OpenAI близка к заключению сделки на сумму 500 миллиардов долларов по строительству объекта в Огайо. Однако Радулеску не считает эти крупномасштабные проекты угрозой для Sonic Inference Pods, отмечая гибкость модулей в качестве их ключевого преимущества.

«Каждый модуль работает в составе единой сети, поэтому запросы направляются туда, где есть свободные ресурсы, ближе к пользователям, и если один модуль отключается, трафик перенаправляется на другой», — пояснил он. Он добавил, что сбой системы затрагивает только один модуль, а не весь стационарный объект. «Клиенты, желающие получить выделенное оборудование, получают целые модули в свое полное распоряжение».

Радулеску также не беспокоит то, что конкуренты разрабатывают аналогичные решения, отмечая, что разработка оборудования идет медленно, а кадровый резерв, способный проектировать и обслуживать эту технологию, ограничен.

«Ошибка в проекте печатной платы обходится в несколько месяцев, которые уходят на перепроектирование, моделирование, изготовление, тестирование и поставку», — сказал он. «Каждый из этих этапов требует участия специалиста, который точно понимает, за что отвечает каждый компонент и что выйдет из строя, если его убрать».

Строительство центров обработки данных для ИИ по-прежнему остаётся спорной темой, в основном из-за их высокого потребления ресурсов. Местные сообщества, на территории которых размещаются эти объекты, уже сообщают о росте расходов на коммунальные услуги. Хотя Runware видит будущее, в котором энергия будет поступать из возобновляемых источников без перегрузки местных ресурсов, эта реальность пока не вполне достижима.

Радулеску отметил, что энергопотребление ИИ в любом случае будет расти, «обусловленное спросом на инференцию, а не тем, кто её предоставляет». Он подчеркнул, что в настоящее время Runware сосредоточена на эффективном удовлетворении этого спроса. «Никаких потерь при передаче энергии, никакой воды в системах охлаждения, и мы используем уже имеющуюся электроэнергию, а не требуем строительства новых сетевых мощностей. Чем больше вычислений осуществляется таким образом, тем меньше требуется новых сетевых мощностей и воды при том же объёме вычислений».