Дом
Программа для бухгалтерского учета с ИИ сравнила одежду пользователя с погребальным саваном; представитель компании принес извинения и исправил ошибку

Недавний инцидент, связанный с неуместным ответом ИИ-помощника, привлек к себе внимание. Пользователь в социальных сетях сообщил, что при использовании приложения «Feiya AI Accounting» для регистрации расходов в размере 159 юаней на покупку одежды для отца ИИ высказал обидное замечание. После того как пользователь ввёл сумму, ИИ не только не обработал транзакцию должным образом, но и заметил, что одежда напоминает «похоронный костюм».
В последующем общении ИИ не осознал свою ошибку и продолжал давать подобные ответы. Оскорбительный и лишенный сочувствия ответ возмутил пользователя, который решил отменить подписку и запросить возврат средств.
В ответ на неудовлетворительный пользовательский опыт поставщик программного обеспечения выпустил официальное заявление 6 мая. Служба поддержки объяснила, что неуместный ответ был вызван не вмешательством человека, а недостатком в базе данных диалогов ИИ. С тех пор техническая команда внесла экстренные исправления в соответствующие модели и усилила контроль и ограничения на сценарии разговоров ИИ, чтобы предотвратить подобные нетактичные или неуважительные замечания.
Во второй половине дня 6 мая компания опубликовала письмо с извинениями, публично признав существенные недостатки в контроле границ ИИ и понимании культурных табу. В заявлении говорилось, что модель ИИ не смогла распознать эмоциональные ограничения в конкретных контекстах и что платформа готова взять на себя полную ответственность.
В своем плане по исправлению ситуации компания заявила, что примет такие меры, как блокировка чувствительных слов и усиление механизмов проверки всех сценариев. Что касается трудностей, с которыми столкнулись пользователи при отмене подписки, компания разъяснила ситуацию и пообещала оптимизировать процесс возврата средств, искренне извиниться перед затронутыми пользователями и предоставить соответствующую компенсацию.
Связанная статья
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её
Google тестирует агента Remy AI для Gemini по мере смещения фокуса на управление пользователями
Согласно Business Insider, Google тестирует Remy, нового ИИ-персонального агента для Gemini. Этот инструмент предназначен для выполнения задач от имени пользователей, упрощая как профессиональные рабочие процессы, так и повседневные рутины.В настоящ
Как исправить Core Web Vitals для улучшения позиций в поисковой выдаче
Оптимизация написания комментариев в отчетных карточках с помощью ИИ-инструментовВведениеИИ-инструменты для генерации комментариев в отчетных карточкахMagic SchoolAlmanac AIChat GPTИспользование Magic School для генерации комментариев в отчетны
Рекомендации по связанным специальным темам
Комментарии (0)

Недавний инцидент, связанный с неуместным ответом ИИ-помощника, привлек к себе внимание. Пользователь в социальных сетях сообщил, что при использовании приложения «Feiya AI Accounting» для регистрации расходов в размере 159 юаней на покупку одежды для отца ИИ высказал обидное замечание. После того как пользователь ввёл сумму, ИИ не только не обработал транзакцию должным образом, но и заметил, что одежда напоминает «похоронный костюм».
В последующем общении ИИ не осознал свою ошибку и продолжал давать подобные ответы. Оскорбительный и лишенный сочувствия ответ возмутил пользователя, который решил отменить подписку и запросить возврат средств.
В ответ на неудовлетворительный пользовательский опыт поставщик программного обеспечения выпустил официальное заявление 6 мая. Служба поддержки объяснила, что неуместный ответ был вызван не вмешательством человека, а недостатком в базе данных диалогов ИИ. С тех пор техническая команда внесла экстренные исправления в соответствующие модели и усилила контроль и ограничения на сценарии разговоров ИИ, чтобы предотвратить подобные нетактичные или неуважительные замечания.
Во второй половине дня 6 мая компания опубликовала письмо с извинениями, публично признав существенные недостатки в контроле границ ИИ и понимании культурных табу. В заявлении говорилось, что модель ИИ не смогла распознать эмоциональные ограничения в конкретных контекстах и что платформа готова взять на себя полную ответственность.
В своем плане по исправлению ситуации компания заявила, что примет такие меры, как блокировка чувствительных слов и усиление механизмов проверки всех сценариев. Что касается трудностей, с которыми столкнулись пользователи при отмене подписки, компания разъяснила ситуацию и пообещала оптимизировать процесс возврата средств, искренне извиниться перед затронутыми пользователями и предоставить соответствующую компенсацию.
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её
Как исправить Core Web Vitals для улучшения позиций в поисковой выдаче
Оптимизация написания комментариев в отчетных карточках с помощью ИИ-инструментовВведениеИИ-инструменты для генерации комментариев в отчетных карточкахMagic SchoolAlmanac AIChat GPTИспользование Magic School для генерации комментариев в отчетны











