TensorZero получила $7,3M начального финансирования для упрощения разработки корпоративных LLM

TensorZero, новый поставщик инфраструктуры с открытым исходным кодом для приложений искусственного интеллекта, получил $7,3 млн начального финансирования под руководством FirstMark Capital, при участии Bessemer Venture Partners, Bedrock, DRW, Coalition и многочисленных отраслевых ангелов.

Инвестиции последовали за экспоненциальным ростом числа разработчиков: за последние месяцы репозиторий TensorZero на GitHub получил статус "#1 trending" и почти втрое увеличил количество звезд - с 3 000 до более чем 9 700. Такое быстрое распространение отражает растущие проблемы предприятий в развертывании производственных решений ИИ.

Решение проблемы нехватки инфраструктуры ИИ

Мэтт Тёрк из FirstMark отмечает: "В то время как интерес к приложениям ИИ растет, компаниям не хватает надежных инструментов для комплексного внедрения. TensorZero предоставляет готовые компоненты для предприятий, которые работают слаженно "из коробки"".

Базирующийся в Бруклине стартап решает критические проблемы, связанные с развертыванием больших языковых моделей (LLM) в масштабе, где интеграция доступа к моделям, их мониторинг и оптимизация в настоящее время требуют объединения разрозненных решений.

От ядерного синтеза к оптимизации ИИ

Технический фундамент TensorZero был заложен сооснователем компании Вираджем Мехтой в ходе его докторской диссертации по ядерному синтезу в Карнеги-Меллон. Работая с проектами Министерства энергетики, где сбор данных стоил 30 000 долларов за пятисекундное измерение, Мехта разработал подходы к обучению с усилением, чтобы максимизировать ценность каждой точки данных.

"Такое отношение к дефициту напрямую повлияло на архитектуру нашей платформы", - пояснил Мехта. "Эффективное внедрение ИИ требует стратегического использования данных для постоянного совершенствования систем".

Эта точка зрения привела TensorZero к основной инновации: рассматривать приложения LLM как проблемы обучения с подкреплением, где системы развиваются благодаря структурированной обратной связи.

Единая платформа для корпоративного ИИ

В отличие от существующих фрагментарных подходов, требующих интеграции с множеством поставщиков, TensorZero объединяет управление моделями, наблюдаемость и оптимизацию в единый стек с открытым исходным кодом, предназначенный для синергии.

"Существующие решения заставляют компании собирать воедино отдельные инструменты, которые не предназначены для совместной работы", - говорит соучредитель компании Габриэль Бьянкони, бывший CPO децентрализованного финансового проекта Ondo Finance. "Мы создаем интегрированную инфраструктуру, которая создает цикл непрерывного совершенствования".

Платформа на базе Rust достигает субмиллисекундной задержки при обработке более 10 000 запросов в секунду, что значительно превосходит альтернативы на базе Python.

Ускоренное внедрение на предприятиях

Коммерческий успех был заметным, и внедрения были самыми разнообразными:

• Ведущий европейский банк, автоматизирующий документирование кода
• ИИ-стартапы серии A/B в сфере здравоохранения, финансов и потребительских технологий.
• Компании, которым требуется локальное развертывание для обеспечения соответствия данным.

Технические отличия

TensorZero отличается от таких фреймворков, как LangChain, благодаря:

• Готовность к производству от конца до конца по сравнению с фокусом на прототипировании
• Структурированный сбор данных, позволяющий проводить расширенную оптимизацию
• Производительность корпоративного уровня при масштабировании
• Основа с открытым исходным кодом, позволяющая избежать привязки к поставщикам

Дорожная карта будущего

Начальное финансирование ускорит:

• Разработка платформы с открытым исходным кодом
• Расширение команды в Нью-Йорке
• Предложения управляемых услуг для сложных задач оптимизации
• Исследовательские инструменты для ускорения экспериментов с искусственным интеллектом.

"Наше видение заключается в создании самоподдерживающегося цикла совершенствования", - сказал Мехта. "Поскольку ИИ справляется со все более сложными рабочими процессами, мы должны оценивать производительность в реальных условиях, а не изолированно".

Благодаря динамичному развитию на GitHub и раннему распространению на предприятиях TensorZero способна устранить критические пробелы в инфраструктуре, когда компании переходят от экспериментов с ИИ к оперативному развертыванию.