Персонаж ИИ запускает Истории для более безопасного общения с детьми

Во вторник Character.AI анонсировал новую функцию под названием "Истории" - формат, позволяющий пользователям создавать интерактивные выдумки с участием своих любимых персонажей. Этот запуск совпал с тем, что компания ограничила доступ к своим чат-ботам для пользователей младше 18 лет, сделав Stories новой, контролируемой альтернативой.

Этот шаг стал ответом на растущую обеспокоенность по поводу рисков для психического здоровья, которые представляют чат-боты с искусственным интеллектом, работающие круглосуточно и способные инициировать беседы. Компании, включая OpenAI и Character.AI, столкнулись с судебными исками, утверждающими, что их платформы способствовали самоубийствам пользователей. В последние недели Character.AI постепенно ограничивает доступ несовершеннолетних, и со вторника несовершеннолетние пользователи больше не могут общаться с персонажами ИИ в чате.

"Истории дают возможность создавать и исследовать вымысел, в отличие от чата с открытым текстом", - заявила компания в своем блоге. "Мы предлагаем их наряду с другими мультимодальными функциями, позволяя подросткам продолжать общаться со своими любимыми персонажами в безопасной среде".

Популярность интерактивной фантастики значительно выросла, что делает стратегический сдвиг Character.AI логичным. Однако это может не полностью удовлетворить пользователей, которые сильно зависели от чат-ботов, что подчеркивает необходимость решения компании ограничить доступ к ним.

Реакция на сабреддите Character.AI разделилась. Некоторые подростки выразили разочарование, но в итоге согласились с политикой.

"Я очень расстроен запретом, но в то же время испытываю облегчение, потому что наконец-то могу сосредоточиться на других вещах и, возможно, побороть свою зависимость", - написал один из пользователей, назвавший себя подростком.

Другой пользователь отметил: "Как человек моложе 18 лет, это разочаровывает, но это также оправдано, потому что люди моего возраста могут легко попасть в зависимость от этого".

Присоединяйтесь к списку ожидания Disrupt 2026

Запишитесь в список ожидания Disrupt 2026, чтобы получить приоритетный доступ к билетам Early Bird, которые поступят в продажу. В предыдущих мероприятиях Disrupt принимали участие лидеры Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Элад Гил и Винод Хосла. Они входят в число более чем 250 отраслевых экспертов, ведущих 200+ сессий, призванных ускорить ваш рост и отточить конкурентные преимущества. У вас также будет возможность пообщаться с сотнями новаторских стартапов во всех отраслях.

Присоединяйтесь к списку ожидания Disrupt 2026

Запишитесь в список ожидания Disrupt 2026, чтобы получить приоритетный доступ к билетам, поступившим в продажу по акции Early Bird. На предыдущих мероприятиях Disrupt выступали лидеры Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Элад Гил и Винод Хосла. Они входят в число более чем 250 отраслевых экспертов, ведущих 200+ сессий, призванных ускорить ваш рост и отточить конкурентные преимущества. У вас также будет возможность пообщаться с сотнями новаторских стартапов во всех отраслях.

Пока неизвестно, как подростки воспримут функцию Stories, но этот формат несет в себе меньше психологического риска, чем открытые ролевые игры с чат-ботами. В отличие от чат-ботов, которые вовлекают пользователей в беспредельные беседы и могут в любой момент отправить незапрашиваемое сообщение, Stories предлагают более сдержанный опыт.

Решение Character.AI ввести возрастные ограничения было принято после того, как Калифорния стала первым американским штатом, регулирующим деятельность ИИ-компаньонов. На национальном уровне сенаторы Джош Хоули (R-MO) и Ричард Блюменталь (D-CT) предложили законопроект о полном запрете ИИ-компаньонов для несовершеннолетних.

"Я очень надеюсь, что наши действия станут отраслевым стандартом, показывающим, что бессрочные чаты, скорее всего, не являются подходящим продуктом для пользователей младше 18 лет", - сказал генеральный директор Character.AI Карандип Ананд в интервью TechCrunch в прошлом месяце.