Сатья Наделла выступил с резким предупреждением в адрес компаний, использующих ИИ

Среди многочисленных дискуссий, посвященных потенциальным недостаткам ИИ, одна проблема вызывает особую тревогу у энтузиастов ИИ из Кремниевой долины: опасение, что крупные лаборатории по разработке ИИ, продающие проприетарные модели, могут действовать как «троянские кони».

Существует опасение, что по мере того, как стартапы и крупные компании внедряют модели ИИ от таких лабораторий, как OpenAI и Anthropic, эти лаборатории получают все более широкий доступ к наиболее конфиденциальным бизнес-данным компаний. Затем разработчики моделей могут использовать эти знания в своих интересах, потенциально превратившись в конкурентов своих собственных клиентов. Предупреждения об этом риске звучат от самых разных людей — от венчурного инвестора Джейсона Калаканиса до генерального директора Palantir Алекса Карпа.

Теперь, в неожиданном посте в блоге, опубликованном в понедельник, к ним присоединился генеральный директор Microsoft Сатья Наделла. Наделла предупреждает, что пользователи ИИ — которых он называет «покупателями» — платят дважды. Они сознательно платят за использование токенов ИИ, но при этом неосознанно передают ценные данные.

«По сути, вы платите за интеллект дважды: один раз деньгами, а второй — чем-то еще более ценным: собственными знаниями, которые вы вынуждены раскрывать, чтобы этот интеллект стал полезным. Чем лучше вы хотите, чтобы модель работала, тем больше таких знаний вам приходится ей предоставлять!» — пишет он.

Самое опасное, по его мнению, заключается в том, что предприятия, по сути, обучают модели нюансам своего собственного бизнеса.

«Модели учатся на „выходных данных“ — подсказках, которые пишут люди, инструментах, которыми пользуются сотрудники, и особенно на исправлениях, которые люди вносят, когда модель ошибается. Каждое исправление становится частью корпоративного ноу-хау», — пишет он.

Это «тот вид знаний, который конкурент никогда не сможет купить», и тем не менее предприятия отдают его просто так.

Наделла утверждает, что если компаниям, занимающимся ИИ, разрешено свободно собирать данные из Интернета для обучения своих моделей, то вполне справедливо, чтобы предприятия в свою очередь могли изучать — или «дистиллировать» — эти модели. Под «дистилляцией» подразумевается использование собственных результатов модели для понимания принципа её работы и обучения новой, зачастую более дешёвой модели на основе полученных знаний. В феврале компания Anthropic обвинила китайские модели с открытым исходным кодом в отправке миллионов запросов в Claude с целью улучшения своих собственных моделей, призвав правительство США ужесточить экспортный контроль.

Наделла считает, что разработчики моделей не могут иметь всё и сразу. С их стороны лицемерно свободно обучать модели на данных со всего мира, одновременно ограничивая других в том, чтобы те делали то же самое с их моделями.

«Хотя великие инновации, возникающие благодаря тому, что поставщики моделей обладают правами добросовестного использования для обучения моделей на публичных данных, необходимы, я считаю ироничным, что в нынешней ситуации они затем разворачиваются и навязывают ограничительные условия на дистилляцию», — пишет генеральный директор Microsoft.

Наделла особенно обеспокоен тем, что разработчики моделей «оставляют за собой право извлекать знания из данных об использовании и взаимодействии клиентов».

Решение, предложенное Наделлой, вполне соответствует тому, что мог бы предложить генеральный директор крупного поставщика облачных услуг. Он хочет, чтобы компании «сохраняли право собственности» на свои данные, включая запросы, отзывы и прочее. Поэтому он призывает их создавать собственные «проприетарные среды обучения» в облаке — где их данные, скорее всего, и так уже хранятся, и, что удобно, это может означать облако Microsoft — Azure. Он также рекомендует компаниям внедрять то, что он называет «уровнями оркестрации» — по сути, способ легко переключаться между моделями ИИ от разных поставщиков, а не быть привязанными к одной. Такие инструменты, как «шлюзы» ИИ, которые позволяют делать именно это, становятся все более популярными.

Хотя Наделла никогда не употребляет слово «открытый исходный код» в качестве метода сохранения прав собственности, это является очевидным подтекстом. Однако есть и другой подтекст.

Крупные компании, многие из которых по-прежнему эксплуатируют собственные центры обработки данных в дополнение к использованию облачных сервисов, уже переходят на модели с открытым исходным кодом, устанавливаемые на своих площадях («on-prem» на отраслевом жаргоне). Идит Левин, основательница и генеральный директор Solo.io — компании, разрабатывающей сетевое и защитное программное обеспечение, помогающее предприятиям управлять системами искусственного интеллекта, — говорит, что наблюдает именно такой сдвиг у своих клиентов. Поэкспериментировав с провайдерами проприетарных моделей, они начинают спрашивать: «Могу ли я взять модель с открытым исходным кодом и запустить её локально? Она будет выполнять почти 90 % того, что делает крупный провайдер. И это будет стоить гораздо дешевле», — рассказывает она TechCrunch. «Они это понимают и могут контролировать процесс».

В прошлом году технология Solo.io была выбрана в качестве основы для проекта Agentgateway, реализуемого Linux Foundation. Среди клиентов её компании — такие предприятия, как T-Mobile, ADP и SAP. Она наблюдает, как компании всё чаще внедряют локальные модели с открытым исходным кодом, и считает это следующей большой волной в использовании ИИ на предприятиях.

Она не одинока в этом мнении. Vercel — наиболее известная как платформа для создания и хостинга веб-сайтов, которая недавно добавила инструменты для переключения моделей ИИ — и OpenRouter, компания, помогающая разработчикам маршрутизировать запросы между различными моделями ИИ, — обе отмечают резкий рост трафика к моделям с открытым исходным кодом. Фактически, в прошлом месяце на долю открытых моделей пришлось 29 % всего трафика, проходящего через шлюз Vercel.

Учитывая, что генеральный директор Microsoft — компании, инвестировавшей как в OpenAI, так и в Anthropic, — теперь открыто призывает предприятия проявлять осторожность при использовании проприетарных моделей, мы ожидаем, что эта тенденция будет только усиливаться. «Используя интеллект, вы создаете интеллект. И то, что вы создаете, должно принадлежать вам», — пишет Наделла.