Meitun LongCat запускает LoHoSearch, пока оценки BrowseComp падают ниже 30%
Возможности поисковых агентов в значительной степени определялись benchmarkом BrowseComp на протяжении последнего года. Однако этот тест теряет свою актуальность: он обеспечил рост производительности моделей с 30% до 90% всего за десять месяцев, и его ценность стремительно снижается. 17 июля компания Meituan представила более строгую систему оценки LoHoSearch, разработанную для того, чтобы заново стимулировать значимый прогресс в разработке поисковых агентов.

Задачи LoHoSearch не создаются вручную, а генерируются автоматически на основе графа знаний Wikipedia, содержащего 7,62 миллиона сущностей. Поскольку они создаются машиной, эти задачи достигают такого уровня пространства поиска и структурной сложности, который человеческие аннотаторы не могли бы воспроизвести последовательно. Короче говоря, если предыдущие benchmarkы ограничивались «потолком», заданным человеком, то LoHoSearch делегирует генерацию вопросов графу знаний, эффективно устраняя это верхнее ограничение.

Результаты впечатляют. Среди 11 ведущих моделей максимальный балл составил лишь 34,74%, а следующие три модели набрали от 15% до 16%. Для сравнения, те же самые модели показывают около 90% на BrowseComp. Этот разрыв подчеркивает истинные ограничения современных поисковых агентов. Примечательно, что стратегии контекста дают убывающую отдачу: лучший подход к использованию контекста в LoHoSearch улучшил результаты всего на 6,8 процентных пункта, по сравнению с 14 процентными пунктами на BrowseComp. Это указывает на то, что полагаться на промпты и инженерную настройку контекста для преодоления разрыва в возможностях в основном неэффективно в рамках этого нового benchmarkа.
LoHoSearch включает 544 вопроса, охватывающих 11 областей знаний, структурированных в виде дерева и графа, и был опубликован с открытым исходным кодом. По мере того как старые benchmarkы достигают плато, реальные вызовы для поисковых агентов только начинаются, и LoHoSearch может вскоре стать необходимым стандартом оценки.
Связанная статья
Набор чипов Baidu Kunlun для публичного размещения в Гонконге с целевой оценкой в 50 миллиардов долларов
29 июня финансовые рынки были потрясены важными новостями: дочерняя компания Baidu по производству ИИ-чипов, Kunlun Tech, ускоряет процесс выхода на биржу в Гонконге (IPO), стремясь к оценке до 50 миллиардов долларов. Этот шаг Kunlun Tech — ключевого
Instinct запускает ИИ-агента в групповых чатах, включая те, где есть неавторизованные пользователи
Instinct, агент искусственного интеллекта, стоимость которого после последнего раунда финансирования достигла 10 миллиардов долларов, расширяет свое присутствие в групповых чатах. Студия объявила в понедельник, что пользователи могут добавлять агента
MiniMax представила мультимодельную модель H3, снизив стоимость генерации 15-секундного видео в разрешении 2K до менее чем одной трети от отраслевого стандарта
Компания MiniMax официально представила модель генерации MiniMax H3, универсальную мультимодальную модель, предназначенную для объединения понимания и создания текстов, изображений, видео и аудио. Связывая исторический разрыв между задачами и модальн
Рекомендации по связанным специальным темам
Комментарии (0)
Возможности поисковых агентов в значительной степени определялись benchmarkом BrowseComp на протяжении последнего года. Однако этот тест теряет свою актуальность: он обеспечил рост производительности моделей с 30% до 90% всего за десять месяцев, и его ценность стремительно снижается. 17 июля компания Meituan представила более строгую систему оценки LoHoSearch, разработанную для того, чтобы заново стимулировать значимый прогресс в разработке поисковых агентов.

Задачи LoHoSearch не создаются вручную, а генерируются автоматически на основе графа знаний Wikipedia, содержащего 7,62 миллиона сущностей. Поскольку они создаются машиной, эти задачи достигают такого уровня пространства поиска и структурной сложности, который человеческие аннотаторы не могли бы воспроизвести последовательно. Короче говоря, если предыдущие benchmarkы ограничивались «потолком», заданным человеком, то LoHoSearch делегирует генерацию вопросов графу знаний, эффективно устраняя это верхнее ограничение.

Результаты впечатляют. Среди 11 ведущих моделей максимальный балл составил лишь 34,74%, а следующие три модели набрали от 15% до 16%. Для сравнения, те же самые модели показывают около 90% на BrowseComp. Этот разрыв подчеркивает истинные ограничения современных поисковых агентов. Примечательно, что стратегии контекста дают убывающую отдачу: лучший подход к использованию контекста в LoHoSearch улучшил результаты всего на 6,8 процентных пункта, по сравнению с 14 процентными пунктами на BrowseComp. Это указывает на то, что полагаться на промпты и инженерную настройку контекста для преодоления разрыва в возможностях в основном неэффективно в рамках этого нового benchmarkа.
LoHoSearch включает 544 вопроса, охватывающих 11 областей знаний, структурированных в виде дерева и графа, и был опубликован с открытым исходным кодом. По мере того как старые benchmarkы достигают плато, реальные вызовы для поисковых агентов только начинаются, и LoHoSearch может вскоре стать необходимым стандартом оценки.
Набор чипов Baidu Kunlun для публичного размещения в Гонконге с целевой оценкой в 50 миллиардов долларов
29 июня финансовые рынки были потрясены важными новостями: дочерняя компания Baidu по производству ИИ-чипов, Kunlun Tech, ускоряет процесс выхода на биржу в Гонконге (IPO), стремясь к оценке до 50 миллиардов долларов. Этот шаг Kunlun Tech — ключевого
Instinct запускает ИИ-агента в групповых чатах, включая те, где есть неавторизованные пользователи
Instinct, агент искусственного интеллекта, стоимость которого после последнего раунда финансирования достигла 10 миллиардов долларов, расширяет свое присутствие в групповых чатах. Студия объявила в понедельник, что пользователи могут добавлять агента
MiniMax представила мультимодельную модель H3, снизив стоимость генерации 15-секундного видео в разрешении 2K до менее чем одной трети от отраслевого стандарта
Компания MiniMax официально представила модель генерации MiniMax H3, универсальную мультимодальную модель, предназначенную для объединения понимания и создания текстов, изображений, видео и аудио. Связывая исторический разрыв между задачами и модальн





Дом






