Дом
Растут опасения по поводу социального регулирования искусственного интеллекта из-за отсутствия мер по защите молодежи в продуктах с виртуальными партнерами
В последнее время несколько приложений с виртуальными компаньонами на базе искусственного интеллекта оказались в центре внимания СМИ в связи с рисками несоблюдения нормативных требований и этическими проблемами. Опросы показывают, что приложения для эмоционального общения, такие как «Hoshino», «Mingdao» и «EchoMe», быстро набирают популярность среди пользователей, при этом содержат множество уязвимостей в системе безопасности. Некоторые из этих приложений не только привлекают пользователей платными разблокировками для интимных сценариев, но и не обеспечивают надлежащую защиту несовершеннолетних: в них присутствуют такие проблемы, как легко обходимые настройки «подросткового режима» и неясная маркировка контента, сгенерированного ИИ.

Если посмотреть на корпоративную среду, то компании, стоящие за этими приложениями, зачастую являются недавно созданными и имеют концентрированную структуру собственности. Компания, стоящая за «Hoshino», Shanghai Jizhi Zongheng Technology Co., Ltd., была основана в апреле 2025 года и полностью принадлежит Shanghai Jizhi Wujie Technology Co., Ltd. Компания, стоящая за «Mingdao», Shanghai Mingdao Artificial Intelligence Technology Co., Ltd., была создана в марте 2024 года и находится в совместном владении Хун Исю и Гэ Вэньбиня. «EchoMe» управляется компанией Hangzhou Nixiang Information Technology Co., Ltd., основанной в январе 2022 года. Хотя эти стартапы указывают в сфере своей деятельности разработку программного обеспечения на базе ИИ и телекоммуникационные услуги с добавленной стоимостью, дизайн их персонажей и контент взаимодействия зачастую граничат с вульгарностью, включая большое количество сомнительных персонажей.

Сектор ИИ-компаньонов в настоящее время переживает критический этап регулирования после периода взрывного роста. По мере все более широкого распространения технологий генеративного ИИ имитация эмоций стала областью, которая быстрее всего нашла практическое применение, однако она также остается наиболее подверженной практикам, находящимся в «серой зоне». Эти целенаправленные меры регулирования сигнализируют о том, что социальные продукты на базе ИИ перейдут от бесконтрольного расширения к развитию, ориентированному на соблюдение нормативных требований. Повышение прозрачности алгоритмов и укрепление систем проверки контента станут обязательными условиями для компаний, стремящихся выжить в этой сфере.
Связанная статья
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её
Google тестирует агента Remy AI для Gemini по мере смещения фокуса на управление пользователями
Согласно Business Insider, Google тестирует Remy, нового ИИ-персонального агента для Gemini. Этот инструмент предназначен для выполнения задач от имени пользователей, упрощая как профессиональные рабочие процессы, так и повседневные рутины.В настоящ
Рекомендации по связанным специальным темам
Комментарии (0)
В последнее время несколько приложений с виртуальными компаньонами на базе искусственного интеллекта оказались в центре внимания СМИ в связи с рисками несоблюдения нормативных требований и этическими проблемами. Опросы показывают, что приложения для эмоционального общения, такие как «Hoshino», «Mingdao» и «EchoMe», быстро набирают популярность среди пользователей, при этом содержат множество уязвимостей в системе безопасности. Некоторые из этих приложений не только привлекают пользователей платными разблокировками для интимных сценариев, но и не обеспечивают надлежащую защиту несовершеннолетних: в них присутствуют такие проблемы, как легко обходимые настройки «подросткового режима» и неясная маркировка контента, сгенерированного ИИ.

Если посмотреть на корпоративную среду, то компании, стоящие за этими приложениями, зачастую являются недавно созданными и имеют концентрированную структуру собственности. Компания, стоящая за «Hoshino», Shanghai Jizhi Zongheng Technology Co., Ltd., была основана в апреле 2025 года и полностью принадлежит Shanghai Jizhi Wujie Technology Co., Ltd. Компания, стоящая за «Mingdao», Shanghai Mingdao Artificial Intelligence Technology Co., Ltd., была создана в марте 2024 года и находится в совместном владении Хун Исю и Гэ Вэньбиня. «EchoMe» управляется компанией Hangzhou Nixiang Information Technology Co., Ltd., основанной в январе 2022 года. Хотя эти стартапы указывают в сфере своей деятельности разработку программного обеспечения на базе ИИ и телекоммуникационные услуги с добавленной стоимостью, дизайн их персонажей и контент взаимодействия зачастую граничат с вульгарностью, включая большое количество сомнительных персонажей.

Сектор ИИ-компаньонов в настоящее время переживает критический этап регулирования после периода взрывного роста. По мере все более широкого распространения технологий генеративного ИИ имитация эмоций стала областью, которая быстрее всего нашла практическое применение, однако она также остается наиболее подверженной практикам, находящимся в «серой зоне». Эти целенаправленные меры регулирования сигнализируют о том, что социальные продукты на базе ИИ перейдут от бесконтрольного расширения к развитию, ориентированному на соблюдение нормативных требований. Повышение прозрачности алгоритмов и укрепление систем проверки контента станут обязательными условиями для компаний, стремящихся выжить в этой сфере.
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её











