Character AI lance des histoires pour des discussions plus sûres avec les enfants

Character.AI a annoncé mardi une nouvelle fonctionnalité appelée "Stories", un format qui permet aux utilisateurs de créer des fictions interactives mettant en scène leurs personnages préférés. Ce lancement coïncide avec la restriction par l'entreprise de l'accès à ses chatbots pour les utilisateurs de moins de 18 ans, ce qui fait de Stories une nouvelle alternative contrôlée.

Cette décision répond aux préoccupations croissantes concernant les risques pour la santé mentale posés par les chatbots d'IA qui fonctionnent 24 heures sur 24 et 7 jours sur 7 et peuvent engager des conversations. Des entreprises, dont OpenAI et Character.AI, ont fait l'objet de poursuites judiciaires alléguant que leurs plateformes avaient contribué aux suicides d'utilisateurs. Au cours des dernières semaines, Character.AI a progressivement limité l'accès des mineurs et, depuis mardi, les utilisateurs mineurs ne peuvent plus interagir avec ses personnages d'IA dans les chats.

"Les histoires offrent un chemin guidé pour créer et explorer la fiction, par opposition au chat ouvert", a déclaré l'entreprise dans un billet de blog. "Nous l'offrons avec nos autres fonctionnalités multimodales, permettant aux adolescents de continuer à s'engager avec leurs personnages préférés dans un environnement où la sécurité est primordiale.

La popularité des fictions interactives s'est considérablement accrue, ce qui rend logique le changement de stratégie de Character.AI. Cependant, il ne satisfera peut-être pas entièrement les utilisateurs qui ont développé une forte dépendance aux chatbots, ce qui souligne la nécessité de la décision de l'entreprise de limiter cet accès.

Les réactions sur le subreddit Character.AI sont partagées. Certains adolescents ont exprimé leur déception, mais ont fini par accepter la politique de l'entreprise.

"Je suis vraiment contrarié par l'interdiction, mais aussi soulagé parce que je peux enfin me concentrer sur d'autres choses et peut-être briser mon addiction", a écrit un utilisateur qui s'est identifié comme un adolescent.

Un autre a commenté : "En tant que personne de moins de 18 ans, c'est décevant, mais c'est aussi justifié parce que les gens de mon âge peuvent facilement devenir dépendants."

Rejoignez la liste d'attente de Disrupt 2026

Inscrivez-vous sur la liste d'attente de Disrupt 2026 pour bénéficier d'un accès prioritaire lorsque les billets Early Bird seront mis en vente. Les précédents événements Disrupt ont accueilli des dirigeants de Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil et Vinod Khosla. Ils font partie des 250 experts de l'industrie qui animent plus de 200 sessions conçues pour accélérer votre croissance et aiguiser votre avantage concurrentiel. Vous aurez également l'occasion d'entrer en contact avec des centaines de startups pionnières dans tous les secteurs.

Rejoindre la liste d'attente de Disrupt 2026

Inscrivez-vous sur la liste d'attente de Disrupt 2026 pour bénéficier d'un accès prioritaire lorsque les billets Early Bird seront mis en vente. Les précédents événements Disrupt ont accueilli des dirigeants de Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil et Vinod Khosla. Ils font partie des 250 experts de l'industrie qui animent plus de 200 sessions conçues pour accélérer votre croissance et aiguiser votre avantage concurrentiel. Vous aurez également l'occasion d'entrer en contact avec des centaines de startups pionnières dans tous les secteurs.

Il reste à voir comment les adolescents adopteront la fonction "Stories", mais le format comporte moins de risques psychologiques que les jeux de rôle ouverts avec les chatbots. Contrairement aux chatbots, qui engagent les utilisateurs dans des conversations illimitées et peuvent envoyer des messages non sollicités à tout moment, les Stories offrent une expérience plus limitée.

La décision de Character.AI de mettre en place des restrictions d'âge intervient alors que la Californie est devenue le premier État américain à réglementer les compagnons d'IA. Au niveau national, les sénateurs Josh Hawley (R-MO) et Richard Blumenthal (D-CT) ont proposé un projet de loi visant à interdire complètement les compagnons IA pour les mineurs.

"J'espère vraiment que notre action établira une norme pour l'industrie, en montrant que les chats à durée indéterminée ne sont probablement pas le produit approprié pour les utilisateurs de moins de 18 ans", a déclaré Karandeep Anand, PDG de Character.AI, à TechCrunch le mois dernier.