Вероятно, будут привлечены 9 миллионов долларов на создание более надежных ИИ-систем.

Несмотря на рост мощности больших языковых моделей, галлюцинации остаются серьёзной проблемой. Даже самые современные модели выдают ошибки, и хотя существуют методы их обнаружения, индустрия всё ещё работает над оптимизацией наилучших подходов.
Компания Probably, которая недавно получила 9 миллионов долларов в виде стартового финансирования от Andreessen Horowitz, стремится разработать более надёжный метод обнаружения ошибок.
Основатель компании Питер Элиас (на фото выше) объясняет, что миссия компании — не допускать появления галлюцинаций и фактических ошибок у пользователей, стремясь к точности 99,99%, характерной для детерминистических систем — уровню, которого гораздо сложнее достичь с помощью искусственного интеллекта. По его словам, для реализации этой цели при использовании больших языковых моделей необходимо пересмотреть основные предположения в области инжиниринга ИИ.
Первоначальным продуктом Probably является инструмент для работы с данными, предназначенный для быстрого получения ответов на основе сложных наборов данных. Каждый результат сопровождается ссылкой и записью этапов его формирования — практика, которая всё чаще становится стандартом в инструментах ИИ.
Чтобы предотвратить появление ошибок в этих кратких сводках, компания создала сложную систему поддержки, которую Элиас называет «скафандром для работы с данными». Первоначальные ответы большой языковой модели проверяются детерминистической системой, отвергающей любые результаты, не соответствующие исходному набору данных. Модель обучалась с учётом этого верификатора, а вся система оптимизирована с точки зрения скорости и точности, как утверждает компания.
«Мы поняли, что чем лучше разработана эта система поддержки, тем меньшей мощности требует модель», — говорит Элиас. «Если достаточно точно сформулировать контекст, модели не приходится усиленно стараться для получения правильных результатов. По сути, речь идёт о снижении неоднозначности».
Благодаря этому инструмент Probably может работать с гораздо более простыми моделями ИИ. Элиас отмечает, что текущая версия использует модель, «на четыре класса слабее передовых моделей», что позволяет ей работать на локальном оборудовании — на персональном компьютере, а не в центре обработки данных — тем самым значительно снижая затраты на токены, связанные с использованием ИИ.
Такой подход особенно актуален сейчас, когда стоимость токенов растёт, а многие клиенты пересматривают свои бюджеты на ИИ. Видение Элиаса выходит за рамки работы с данными; тот же двигатель можно адаптировать для таких областей, как бухгалтерский учёт или медицинские услуги — по его словам, «для любых задач, требующих высокой точности».
«Удивительно, что крупные лаборатории ИИ даже не пытались применить этот подход», — говорит Элиас. «У них есть стимулы не делать этого, поскольку они получают прибыль от необходимости постоянных корректировок».
Связанная статья
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её
Google тестирует агента Remy AI для Gemini по мере смещения фокуса на управление пользователями
Согласно Business Insider, Google тестирует Remy, нового ИИ-персонального агента для Gemini. Этот инструмент предназначен для выполнения задач от имени пользователей, упрощая как профессиональные рабочие процессы, так и повседневные рутины.В настоящ
Рекомендации по связанным специальным темам
Комментарии (0)

Несмотря на рост мощности больших языковых моделей, галлюцинации остаются серьёзной проблемой. Даже самые современные модели выдают ошибки, и хотя существуют методы их обнаружения, индустрия всё ещё работает над оптимизацией наилучших подходов.
Компания Probably, которая недавно получила 9 миллионов долларов в виде стартового финансирования от Andreessen Horowitz, стремится разработать более надёжный метод обнаружения ошибок.
Основатель компании Питер Элиас (на фото выше) объясняет, что миссия компании — не допускать появления галлюцинаций и фактических ошибок у пользователей, стремясь к точности 99,99%, характерной для детерминистических систем — уровню, которого гораздо сложнее достичь с помощью искусственного интеллекта. По его словам, для реализации этой цели при использовании больших языковых моделей необходимо пересмотреть основные предположения в области инжиниринга ИИ.
Первоначальным продуктом Probably является инструмент для работы с данными, предназначенный для быстрого получения ответов на основе сложных наборов данных. Каждый результат сопровождается ссылкой и записью этапов его формирования — практика, которая всё чаще становится стандартом в инструментах ИИ.
Чтобы предотвратить появление ошибок в этих кратких сводках, компания создала сложную систему поддержки, которую Элиас называет «скафандром для работы с данными». Первоначальные ответы большой языковой модели проверяются детерминистической системой, отвергающей любые результаты, не соответствующие исходному набору данных. Модель обучалась с учётом этого верификатора, а вся система оптимизирована с точки зрения скорости и точности, как утверждает компания.
«Мы поняли, что чем лучше разработана эта система поддержки, тем меньшей мощности требует модель», — говорит Элиас. «Если достаточно точно сформулировать контекст, модели не приходится усиленно стараться для получения правильных результатов. По сути, речь идёт о снижении неоднозначности».
Благодаря этому инструмент Probably может работать с гораздо более простыми моделями ИИ. Элиас отмечает, что текущая версия использует модель, «на четыре класса слабее передовых моделей», что позволяет ей работать на локальном оборудовании — на персональном компьютере, а не в центре обработки данных — тем самым значительно снижая затраты на токены, связанные с использованием ИИ.
Такой подход особенно актуален сейчас, когда стоимость токенов растёт, а многие клиенты пересматривают свои бюджеты на ИИ. Видение Элиаса выходит за рамки работы с данными; тот же двигатель можно адаптировать для таких областей, как бухгалтерский учёт или медицинские услуги — по его словам, «для любых задач, требующих высокой точности».
«Удивительно, что крупные лаборатории ИИ даже не пытались применить этот подход», — говорит Элиас. «У них есть стимулы не делать этого, поскольку они получают прибыль от необходимости постоянных корректировок».
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её





Дом






