Дом
Компания ZeroDrift привлекла 10 миллионов долларов для защиты ИИ-моделей от собственных ошибок.

Пока компании пытаются устранить проблемы в своих ИИ-системах, вопросы управления ими становятся серьезной сложностью. Некоторые из них прибегают к двойному подходу: одна модель обрабатывает поступающие запросы, а вторая обеспечивает, чтобы первая не попадала в трудности.
Именно на этой идеи основан сервис ZeroDrift — новый инструмент для соблюдения стандартов в ИИ, который во вторник объявил о привлечении 10 миллионов долларов в рамках первого раунда финансирования. (Среди инвесторов — A16z Speedrun, Reign Ventures, PitchDrive Ventures и U&I Ventures.) Компания сосредотачивается исключительно на второй части системы, расположенной между ИИ-моделями и конечными пользователями, и отслеживает, а затем заменяет любые сообщения, которые могут создать проблемы с соблюдением норм.
Создание ИИ-системы для исправления ошибок других ИИ-систем может показаться странным, однако система коррекции от ZeroDrift обладает рядом архитектурных преимуществ по сравнению с моделями, которые она исправляет. Система запускается с помощью традиционных программ, которые детерминированно применяют известные стандарты соответствия, такие как SOC 2 или GDPR. Языковая модель активируется только тогда, когда сообщение отмечено как нарушающее нормы, и затем переписывает его в версию, соответствующую требованиям.
«Мы можем детерминированно выявить все регулируемые области и конкретные нарушения, а затем использовать языковые модели для переписывания содержимого», — говорит Арумуган.
Важно отметить, что вся система может работать с более низкой задержкой и высокой надежностью по сравнению с обычными языковыми моделями. Это главное преимущество компании перед крупными лабораториями, такими как OpenAI и Anthropic, которые часто уже интегрированы в основные системы.
Самый очевидный сценарий применения — это чат-боты на базе ИИ, уже используемые у потребителей, где ошибочные ответы могут иметь серьезные последствия. Однако Арумуган считает, что общий рынок потенциально гораздо больше и может включать сообщения, созданные ИИ, которые люди никогда не видят и формируются только в автоматизированных системах. На данный момент это относительно небольшой рынок, но он будет расти по мере распространения ИИ.
Если судить по этому раунду привлечения капитала, спрос на данный продукт значительно выше, чем можно было ожидать. «Это, вероятно, был самый быстрый раунд финансирования в моей жизни», — говорит генеральный директор Кумеш Арумуган, отмечая помощь компании Andressen Horowitz в организации первого раунда. «Мы закрыли сбор средств за три недели, и количество заявок превысило запланированную сумму в три раза».
Связанная статья
Google тестирует агента Remy AI для Gemini по мере смещения фокуса на управление пользователями
Согласно Business Insider, Google тестирует Remy, нового ИИ-персонального агента для Gemini. Этот инструмент предназначен для выполнения задач от имени пользователей, упрощая как профессиональные рабочие процессы, так и повседневные рутины.В настоящ
Олли делает ставку на приватность, чтобы выиграть гонку за лидерство в сфере ИИ-помощников
Чтобы быть по-настоящему полезным, ИИ-помощник должен глубоко понимать своего пользователя. Ollie — личный помощник, разработанный для повседневной жизни, — работает по принципу, согласно которому для
Как на мероприятии AI LIVE: London будут рассматриваться темы искусственного интеллекта и промышленной автоматизации
На саммите соберутся руководители высшего звена со всего мира, чтобы обсудить актуальные проблемы мировых отраслей — от радикальных изменений, вызванных искусственным интеллектом, до экономической нес
Рекомендации по связанным специальным темам
Комментарии (0)

Пока компании пытаются устранить проблемы в своих ИИ-системах, вопросы управления ими становятся серьезной сложностью. Некоторые из них прибегают к двойному подходу: одна модель обрабатывает поступающие запросы, а вторая обеспечивает, чтобы первая не попадала в трудности.
Именно на этой идеи основан сервис ZeroDrift — новый инструмент для соблюдения стандартов в ИИ, который во вторник объявил о привлечении 10 миллионов долларов в рамках первого раунда финансирования. (Среди инвесторов — A16z Speedrun, Reign Ventures, PitchDrive Ventures и U&I Ventures.) Компания сосредотачивается исключительно на второй части системы, расположенной между ИИ-моделями и конечными пользователями, и отслеживает, а затем заменяет любые сообщения, которые могут создать проблемы с соблюдением норм.
Создание ИИ-системы для исправления ошибок других ИИ-систем может показаться странным, однако система коррекции от ZeroDrift обладает рядом архитектурных преимуществ по сравнению с моделями, которые она исправляет. Система запускается с помощью традиционных программ, которые детерминированно применяют известные стандарты соответствия, такие как SOC 2 или GDPR. Языковая модель активируется только тогда, когда сообщение отмечено как нарушающее нормы, и затем переписывает его в версию, соответствующую требованиям.
«Мы можем детерминированно выявить все регулируемые области и конкретные нарушения, а затем использовать языковые модели для переписывания содержимого», — говорит Арумуган.
Важно отметить, что вся система может работать с более низкой задержкой и высокой надежностью по сравнению с обычными языковыми моделями. Это главное преимущество компании перед крупными лабораториями, такими как OpenAI и Anthropic, которые часто уже интегрированы в основные системы.
Самый очевидный сценарий применения — это чат-боты на базе ИИ, уже используемые у потребителей, где ошибочные ответы могут иметь серьезные последствия. Однако Арумуган считает, что общий рынок потенциально гораздо больше и может включать сообщения, созданные ИИ, которые люди никогда не видят и формируются только в автоматизированных системах. На данный момент это относительно небольшой рынок, но он будет расти по мере распространения ИИ.
Если судить по этому раунду привлечения капитала, спрос на данный продукт значительно выше, чем можно было ожидать. «Это, вероятно, был самый быстрый раунд финансирования в моей жизни», — говорит генеральный директор Кумеш Арумуган, отмечая помощь компании Andressen Horowitz в организации первого раунда. «Мы закрыли сбор средств за три недели, и количество заявок превысило запланированную сумму в три раза».
Олли делает ставку на приватность, чтобы выиграть гонку за лидерство в сфере ИИ-помощников
Чтобы быть по-настоящему полезным, ИИ-помощник должен глубоко понимать своего пользователя. Ollie — личный помощник, разработанный для повседневной жизни, — работает по принципу, согласно которому для
Как на мероприятии AI LIVE: London будут рассматриваться темы искусственного интеллекта и промышленной автоматизации
На саммите соберутся руководители высшего звена со всего мира, чтобы обсудить актуальные проблемы мировых отраслей — от радикальных изменений, вызванных искусственным интеллектом, до экономической нес











