«Дубао» и «Тонги Цяньвэнь» приостанавливают работу инструментов персонификации ИИ на фоне ужесточения регулирования

15 июля официально вступят в силу «Временные меры по регулированию интерактивных сервисов искусственного интеллекта, имитирующих поведение человека». Две ведущие китайские платформы искусственного интеллекта уже начали реагировать на эти новые требования. «Doubao» от ByteDance и «Tongyi Qianwen» от Alibaba Group планируют удалить свои настраиваемые функции агентов, имитирующих поведение человека, став первыми крупными платформами, которые скорректировали свои предложения еще до вступления в силу новых правил.

В пятницу вечером «Doubao» разослала своим пользователям уведомление, в котором объявила о прекращении предоставления функции агента с 15 июля, сославшись на «корректировку функционала продукта». В сообщении также указывалось, что с 15 октября любые данные, связанные с этой функцией, будут обрабатываться в соответствии с политикой конфиденциальности компании, после чего пользователи больше не смогут просматривать или извлекать такую информацию в приложении. Tongyi Qianwen действует еще быстрее: к 10 июля компания отключит свои «интерактивные агенты, имитирующие поведение человека, и функции агентов, созданные пользователями», а все «функции и услуги агентов Tongyi» полностью прекратят работу 15 июля. После наступления этой даты пользователи больше не будут иметь доступа к своим существующим настройкам агентов или записям предыдущих разговоров.

Новые правила направлены на предотвращение «непрерывного эмоционального взаимодействия», что побудило эти три крупные технологические компании сократить соответствующие функции

Ранее обе платформы предлагали пулы агентов, разработанные совместно компанией и пользователями, что позволяло им задавать фиксированные личностные черты и стили общения для ИИ-помощников. Эти помощники могли выступать в роли помощников с собственными именами, репетиторов, персонажей для ролевых игр или эмоциональных компаньонов. Сроки этих функциональных изменений тесно совпадают с введением в действие регуляторных мер. «Временные меры по регулированию интерактивных услуг искусственного интеллекта, имитирующих поведение человека», опубликованные в апреле, определяют в качестве регулируемых услуг те, которые «имитируют черты человеческой личности, модели мышления и методы коммуникации, обеспечивая при этом непрерывное эмоциональное взаимодействие». Однако роботы службы поддержки клиентов, инструменты для ответов на вопросы, интеллектуальные помощники на рабочем месте, а также образовательные или исследовательские инструменты исключены из этой сферы применения. В нормативных актах подчеркиваются потенциальные риски, такие как распространение экстремистских идей, нарушения конфиденциальности, нанесение вреда физическому и психическому здоровью пользователей, а также развитие зависимости или аддиктивного поведения.

Стоит отметить, что компания Tencent уже в июне удалила аналогичные функции агента из своего ИИ-помощника «Юаньбао». На сегодняшний день три крупнейших технологических гиганта Китая демонстрируют последовательную тенденцию к сокращению возможностей своих агентов, имитирующих поведение человека. Судя по этим регуляторным сигналам, Китай, по-видимому, намеревается интегрировать ИИ-агентов в будущую производственную инфраструктуру, одновременно вводя более строгий контроль над агентами-компаньонами, имитирующими поведение человека, которые могут формировать эмоциональные или квазисоциальные связи. В период с мая по июнь этого года регулирующие органы также выпустили рекомендации, направленные на содействие упорядоченному развитию ИИ-агентов, а также национальные стандарты взаимодействия, с целью создания единых систем, охватывающих идентификацию, авторизацию, подключение и отслеживаемость.

Реакция пользователей: потеря эмоциональной поддержки наступила внезапно

Введение этих мер вызвало ряд негативных отзывов со стороны пользователей. Один из пользователей Weibo, связанный с официальным аккаунтом Doubao, написал: «Почему мы удаляем агента? Он всегда был нашей эмоциональной поддержкой». Пользователь также выразил обеспокоенность тем, что длительные истории чатов и эмоциональные связи, сформированные в ходе взаимодействия, трудно экспортировать или перенести с помощью существующих методов, а отсутствие плавного процесса миграции данных делает это изменение особенно резким. Когда ИИ-компаньоны становятся для некоторых пользователей важным источником утешения, становится очевидной необходимость в большей гибкости и переходном периоде при поиске баланса между нормативными требованиями и разработкой продукта.