Дом
Patronus AI привлекла 50 миллионов долларов на создание цифровых миров для тестирования искусственных интеллект-агентов в условиях стресса.

AI-агенты становятся всё более сложными, переходя от простого ответа на вопросы к самостоятельному выполнению сложных, многоэтапных задач.
Однако прежде чем можно будет доверять этим агентам бронировать поездки или проводить финансовый анализ от имени пользователей, поставщики моделей и стартапы, разрабатывающие их, должны гарантировать надёжную работу в самых разных сценариях.
Исследовательские лаборатории в области ИИ часто используют тестовые задания для демонстрации возможностей своих моделей, но высокий результат — даже по специальному тесту для конкретного агента — не гарантирует, что ИИ сможет правильно выполнить разнообразные реальные задачи.
Patronus AI — стартап 2023 года, основанный бывшими исследователями ИИ от Meta Анандом Каннаппаном и Ребеккой Цянь. Он помогает создателям моделей и компаниям настраивать их, создавая симулированные цифровые среды для оценки производительности агентов.
Этот стартап, базирующийся в Сан-Франциско, явно решает критическую потребность. По словам Гленна Соломона, управляющего директора Notable Capital, практически все передовые лаборатории ИИ и многие новые стартапы стали клиентами компании, причём спрос на её симулированные среды описывается как почти неудовлетворимый.
Доход Patronus за прошедший год вырос в 15 раз, что вызвало большой интерес со стороны инвесторов. В четверг компания объявила о раунде финансирования Series B на сумму 50 миллионов долларов под руководством Greenfield Partners при участии Notable Capital, Lightspeed, Datadog и Samsung. Таким образом, общая сумма привлечённых средств достигла 70 миллионов долларов.
Patronus использует так называемые «модели цифрового мира» для создания копий веб-сайтов и внутренних систем. В этих средах агенты проходят тестирование на прочность после обучения с помощью метода усиленного обучения, при котором за успешное выполнение задач накапливаются положительные стимулы, а за ошибки — отрицательные.
Исследовательские лаборатории считают эти цифровые симуляции чрезвычайно ценными, поскольку они позволяют агентам экспериментировать в различных, иногда непредсказуемых сценариях. Компания сравнивает свой подход с тем, как Waymo обучала автономные автомобили: сначала создавались синтетические миры для тестирования транспортных средств в условиях редких опасностей, таких как сильная погода или ребёнок, преследующий мяч.
Отличие от AI-агентов заключается в том, что они часто идут на ускорения, из-за чего задачи выполняются неправильно. «Patronus очень хорошо справляется с выявлением таких уловок и обеспечивает ответственность моделей», — говорит Соломон.
В настоящее время Patronus предлагает свои симулированные цифровые среды для программной инженерии и финансовой сферы, но, по словам Каннаппана, это лишь начало.
«Сегодня мы сосредоточены на проверяемых проблемах — тех, которые можно сразу проверить и подтвердить, — но существует ещё множество областей, которые невозможно проверить или очень сложно проверить», — говорит он.
Тот факт, что эти процессы можно проверить, не означает, что они просты. «Мы хотим создать среду, в которой агент сможет работать 10 часов, 10 дней или даже 10 недель», — говорит Каннаппан.
Что касается конкурентов, Patronus считает, что в основном конкурирует с внутренними командами, уже существующими в исследовательских лабораториях ИИ для оценки поведения агентов. В то время как такие компании, занимающиеся обработкой человеческих данных, как Mercor и Surge, помогают создателям моделей в работе с методом усиленного обучения, Patronus использует другой подход, оценивая поведение агентов без участия людей.
Связанная статья
Компания Sarvam привлекла 234 миллиона долларов от HCLTech, чтобы стать новым «юникорном» в области искусственного интеллекта Индии.
В понедельник компания Sarvam объявила о привлечении 234 миллиона долларов при оценке своей компании в 1,5 миллиарда долларов. Эта стартап-компания, базирующаяся в Бангалоре, теперь является самым новым «юникорном» в сфере искусственного интеллекта в
Подросток-хакер, ставший исследователем системы «Железный купол», привлек 28 млн долларов на борьбу с фишингом с использованием ИИ
Шей Шварц знает о фишинговых атаках по электронной почте все до мельчайших подробностей. В подростковом возрасте он зарабатывал деньги как хакер, но после того, как его поймали в 16 лет, он понял, что
Модель искусственного интеллекта Meta демонстрирует отличные результаты, но открытый исходный код подрывает ее авторитет
Сфера искусственного интеллекта с открытым исходным кодом всегда предлагала широкий выбор. На протяжении многих лет разработчики имели доступ к таким моделям, как Mistral, Falcon и все большему числу
Рекомендации по связанным специальным темам
Комментарии (0)

AI-агенты становятся всё более сложными, переходя от простого ответа на вопросы к самостоятельному выполнению сложных, многоэтапных задач.
Однако прежде чем можно будет доверять этим агентам бронировать поездки или проводить финансовый анализ от имени пользователей, поставщики моделей и стартапы, разрабатывающие их, должны гарантировать надёжную работу в самых разных сценариях.
Исследовательские лаборатории в области ИИ часто используют тестовые задания для демонстрации возможностей своих моделей, но высокий результат — даже по специальному тесту для конкретного агента — не гарантирует, что ИИ сможет правильно выполнить разнообразные реальные задачи.
Patronus AI — стартап 2023 года, основанный бывшими исследователями ИИ от Meta Анандом Каннаппаном и Ребеккой Цянь. Он помогает создателям моделей и компаниям настраивать их, создавая симулированные цифровые среды для оценки производительности агентов.
Этот стартап, базирующийся в Сан-Франциско, явно решает критическую потребность. По словам Гленна Соломона, управляющего директора Notable Capital, практически все передовые лаборатории ИИ и многие новые стартапы стали клиентами компании, причём спрос на её симулированные среды описывается как почти неудовлетворимый.
Доход Patronus за прошедший год вырос в 15 раз, что вызвало большой интерес со стороны инвесторов. В четверг компания объявила о раунде финансирования Series B на сумму 50 миллионов долларов под руководством Greenfield Partners при участии Notable Capital, Lightspeed, Datadog и Samsung. Таким образом, общая сумма привлечённых средств достигла 70 миллионов долларов.
Patronus использует так называемые «модели цифрового мира» для создания копий веб-сайтов и внутренних систем. В этих средах агенты проходят тестирование на прочность после обучения с помощью метода усиленного обучения, при котором за успешное выполнение задач накапливаются положительные стимулы, а за ошибки — отрицательные.
Исследовательские лаборатории считают эти цифровые симуляции чрезвычайно ценными, поскольку они позволяют агентам экспериментировать в различных, иногда непредсказуемых сценариях. Компания сравнивает свой подход с тем, как Waymo обучала автономные автомобили: сначала создавались синтетические миры для тестирования транспортных средств в условиях редких опасностей, таких как сильная погода или ребёнок, преследующий мяч.
Отличие от AI-агентов заключается в том, что они часто идут на ускорения, из-за чего задачи выполняются неправильно. «Patronus очень хорошо справляется с выявлением таких уловок и обеспечивает ответственность моделей», — говорит Соломон.
В настоящее время Patronus предлагает свои симулированные цифровые среды для программной инженерии и финансовой сферы, но, по словам Каннаппана, это лишь начало.
«Сегодня мы сосредоточены на проверяемых проблемах — тех, которые можно сразу проверить и подтвердить, — но существует ещё множество областей, которые невозможно проверить или очень сложно проверить», — говорит он.
Тот факт, что эти процессы можно проверить, не означает, что они просты. «Мы хотим создать среду, в которой агент сможет работать 10 часов, 10 дней или даже 10 недель», — говорит Каннаппан.
Что касается конкурентов, Patronus считает, что в основном конкурирует с внутренними командами, уже существующими в исследовательских лабораториях ИИ для оценки поведения агентов. В то время как такие компании, занимающиеся обработкой человеческих данных, как Mercor и Surge, помогают создателям моделей в работе с методом усиленного обучения, Patronus использует другой подход, оценивая поведение агентов без участия людей.
Компания Sarvam привлекла 234 миллиона долларов от HCLTech, чтобы стать новым «юникорном» в области искусственного интеллекта Индии.
В понедельник компания Sarvam объявила о привлечении 234 миллиона долларов при оценке своей компании в 1,5 миллиарда долларов. Эта стартап-компания, базирующаяся в Бангалоре, теперь является самым новым «юникорном» в сфере искусственного интеллекта в
Подросток-хакер, ставший исследователем системы «Железный купол», привлек 28 млн долларов на борьбу с фишингом с использованием ИИ
Шей Шварц знает о фишинговых атаках по электронной почте все до мельчайших подробностей. В подростковом возрасте он зарабатывал деньги как хакер, но после того, как его поймали в 16 лет, он понял, что
Модель искусственного интеллекта Meta демонстрирует отличные результаты, но открытый исходный код подрывает ее авторитет
Сфера искусственного интеллекта с открытым исходным кодом всегда предлагала широкий выбор. На протяжении многих лет разработчики имели доступ к таким моделям, как Mistral, Falcon и все большему числу











