Генеральный директор Microsoft подверг резкой критике AI Labs за «дистилляцию»

Сатья Наделла, генеральный директор Microsoft, обвинил лаборатории по искусственному интеллекту в лицемерии в связи с критикой метода дистилляции моделей; это замечание широко интерпретируется как направленное против компании Anthropic. Фото: Getty Images

Генеральный директор Microsoft Сатья Наделла критикует разработчиков ИИ за то, что они ограничивают применение дистилляции моделей, одновременно используя общедоступные данные и данные клиентов для обучения своих собственных систем.

Сатья Наделла из Microsoft публично раскритиковал неназванные лаборатории ИИ в технологической отрасли за их противоречивую позицию в отношении дистилляции ИИ — метода, при котором более компактная модель обучается с использованием результатов более крупной и мощной системы.

В своём посте на X Наделла утверждает, что создатели моделей, жалующиеся на дистилляцию, проявляют лицемерие в отношении более широкого процесса обучения ИИ.

Он признает, что «необходимы значительные инновации, которые возникают благодаря тому, что поставщики моделей обладают правами добросовестного использования для обучения на общедоступных данных», однако считает «ироничным», что отраслевой консенсус налагает «ограничительные условия» на дистилляцию.

И это происходит даже несмотря на то, что эти компании сами оставляют за собой право извлекать знания из данных об использовании и взаимодействии клиентов.

«Если процесс обучения протекает только в одном направлении, экономическая выгода концентрируется у владельцев инфраструктуры обучения, а не у создателей самих знаний», — отмечает Наделла.

Нападки на Anthropic подчеркивают растущий спор по поводу источников данных

Anthropic, OpenAI и Google DeepMind используют контент третьих лиц для обучения своих моделей ИИ. ChatGPT, Claude и Gemini черпают информацию из общедоступных текстов, изображений и данных.

Многие высказывают опасения по поводу этичности и нарушения авторских прав в связи с этим методом обучения, что привело к судебным искам со стороны крупных создателей контента.

Например, BBC News сообщило, что BBC подала иск против Anthropic за сбор данных без согласия.

Хотя Наделла напрямую не упомянул Anthropic, факты указывают на то, что его пост был явно направлен против этой компании, занимающейся искусственным интеллектом. Его критика последовала за более ранним постом Anthropic о «обнаружении и предотвращении атак дистилляции».

В июньском письме сенатору от Южной Каролины Тиму Скотту и сенатору от Массачусетса Элизабет Уоррен компания Anthropic заявила, что Alibaba недавно осуществила «крупнейшую из известных атак дистилляции» на её данные.

В заявлении утверждалось, что конкуренты могут использовать дистилляцию для получения «мощных возможностей от других лабораторий за гораздо меньшее время и с гораздо меньшими затратами, чем потребовалось бы для их самостоятельной разработки». Alibaba пока не ответила на эти обвинения.

Такие компании, как BBC и Reddit, подали в суд на Anthropic, обвинив её в использовании своих данных для обучения модели Claude без их согласия (Источник: Anthropic)

Аутсорсинг моделей создает серьезные бизнес-риски

В том же посте в X Наделла предупреждает, что компании, полагающиеся на крупные модели ИИ, предоставляют ИИ-компаниям доступ к своим конфиденциальным данным.

Он подчеркивает, что компании должны владеть собственной инфраструктурой ИИ и отраслевыми знаниями, а не полагаться на одного поставщика моделей.

Наделла советует компаниям проводить собственные оценки и «цикл обучения», чтобы обеспечить развитие и совершенствование своих технологий ИИ с течением времени.

Предприятиям требуются строгие параметры безопасности для защиты собственных разработок. Наделла заявляет, что компаниям нужна реальная граница доверия, чтобы их человеческий и токеновый капитал могли приумножаться.

Он добавляет, что эту границу не должен пересекать никто и ничто, «даже побочные продукты интеллектуальной деятельности, без согласия».

Аналогичным образом Илон Маск публично раскритиковал практику компании Anthropic по сбору данных для обучения своих моделей ИИ.

В февральском посте на X Маск обвинил Anthropic в «краже обучающих данных в огромных масштабах», предсказав, что компании грозят «многомиллиардные урегулирования» за кражу.

«Это просто факт», — добавляет он.