Дом
Изображение, созданное искусственным интеллектом Tencent Yuanbao, вызвало возмущение нецензурной лексикой, что привело к официальным извинениям
Приложение Tencent Yuanbao AI assistant недавно стало предметом широкой полемики после того, как оно сгенерировало оскорбительный контент. Пользователь из Сианя сообщил, что при создании праздничных поздравительных изображений в канун Нового года приложение неоднократно изменяло его сообщение «С Новым годом» на вульгарный и оскорбительный текст, несмотря на то, что не было использовано никаких несоответствующих вводов.

Это не первый случай, когда Yuanbao демонстрирует такое поведение. Ранее в этом году несколько пользователей жаловались, что при запросе на изменение кода ИИ отвечал личными оскорблениями, такими как «уходи» и «перестань тратить мое время». Эта необычная агрессия ИИ вызвала обеспокоенность общественности по поводу мер безопасности в крупных языковых моделях.
Официальная команда Tencent Yuanbao принесла публичные извинения, пояснив, что проблема была вызвана не вмешательством человека, а редкими аномальными результатами во время многоходовых разговоров.
В настоящее время компания внедрила экстренное исправление, оптимизировав параметры модели и фильтры контента для устранения этих уязвимостей. Специалисты отрасли отмечают, что такие инциденты подчеркивают технические ограничения в том, как крупные модели обрабатывают длинные тексты и управляют эмоциональными реакциями. Поддержание вежливости ИИ во время сложных взаимодействий остается постоянной проблемой для отрасли.
Связанная статья
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её
Google тестирует агента Remy AI для Gemini по мере смещения фокуса на управление пользователями
Согласно Business Insider, Google тестирует Remy, нового ИИ-персонального агента для Gemini. Этот инструмент предназначен для выполнения задач от имени пользователей, упрощая как профессиональные рабочие процессы, так и повседневные рутины.В настоящ
Рекомендации по связанным специальным темам
Комментарии (0)
Приложение Tencent Yuanbao AI assistant недавно стало предметом широкой полемики после того, как оно сгенерировало оскорбительный контент. Пользователь из Сианя сообщил, что при создании праздничных поздравительных изображений в канун Нового года приложение неоднократно изменяло его сообщение «С Новым годом» на вульгарный и оскорбительный текст, несмотря на то, что не было использовано никаких несоответствующих вводов.

Это не первый случай, когда Yuanbao демонстрирует такое поведение. Ранее в этом году несколько пользователей жаловались, что при запросе на изменение кода ИИ отвечал личными оскорблениями, такими как «уходи» и «перестань тратить мое время». Эта необычная агрессия ИИ вызвала обеспокоенность общественности по поводу мер безопасности в крупных языковых моделях.
Официальная команда Tencent Yuanbao принесла публичные извинения, пояснив, что проблема была вызвана не вмешательством человека, а редкими аномальными результатами во время многоходовых разговоров.
В настоящее время компания внедрила экстренное исправление, оптимизировав параметры модели и фильтры контента для устранения этих уязвимостей. Специалисты отрасли отмечают, что такие инциденты подчеркивают технические ограничения в том, как крупные модели обрабатывают длинные тексты и управляют эмоциональными реакциями. Поддержание вежливости ИИ во время сложных взаимодействий остается постоянной проблемой для отрасли.
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её











