Maison
OpenAI lance une version plus sûre de ChatGPT pour les adolescents, plusieurs années après qu’ils ont commencé à l’utiliser
À la suite d’une série de poursuites judiciaires liées à l’absence de protocoles de sécurité dans les chatbots basés sur l’IA — qui ont contribué à des suicides d’adolescents et à d’autres crises de santé mentale —, OpenAI a dévoilé lundi « ChatGPT for Teens ». Cette nouvelle offre intègre des fonctionnalités de sécurité renforcées et s’attaque au problème croissant de la tricherie scolaire facilitée par les outils d’IA dans les établissements scolaires.
D’un point de vue pédagogique, ChatGPT for Teens introduit un « mode Étude » ainsi que d’autres outils visant à stimuler la curiosité et les compétences en résolution de problèmes, en encourageant les utilisateurs à s’immerger profondément dans le contenu plutôt que de rechercher des réponses immédiates.
Selon un article de blog publié par OpenAI, le « Mode Étude » propose des questions guides et une assistance étape par étape pour aider les adolescents à appréhender des sujets complexes. De plus, la plateforme inclut des rappels de devoirs qui se déclenchent lorsque le système détecte une tentative de tricherie, invitant alors les utilisateurs à passer en « Mode Étude ».
L’application propose également des quiz et des visualisations pédagogiques, ainsi que des paramètres permettant aux parents ou tuteurs d’activer le « Mode Étude » par défaut, a précisé l’entreprise.
Cependant, on ignore encore dans quelle mesure les adolescents pourraient contourner facilement ces mesures de sécurité s’ils décidaient de ne pas s’y conformer. Les jeunes utilisateurs sont souvent habiles à contourner les contrôles parentaux et autres restrictions numériques. Tant que le mode adolescent de ChatGPT n’aura pas fait l’objet de tests rigoureux, l’efficacité concrète de ces mesures de sécurité restera incertaine.

Crédits image :OpenAI
OpenAI précise que des protections adaptées à l’application sont activées par défaut dans ChatGPT for Teens, afin de minimiser l’exposition à des contenus préjudiciables ou inadaptés au développement des adolescents. Ces mesures de sécurité s’appuient sur les « Principes pour les moins de 18 ans » d’OpenAI, intégrés à la spécification du modèle (Model Spec), qui, selon l’entreprise, s’appuient sur la science du développement et les conseils d’experts.
Les parents peuvent utiliser les outils familiaux et les contrôles parentaux, déjà mis en place, pour gérer les paramètres, recevoir des notifications de sécurité et configurer les « heures calmes », entre autres fonctionnalités.
OpenAI a annoncé un partenariat avec CodeAI afin d’aider les adolescents à mieux comprendre l’IA, notamment son fonctionnement, la manière de la diriger ou de la questionner, et comment l’utiliser efficacement. Dans le cadre éducatif, OpenAI propose déjà ChatGPT for Teachers afin d’offrir aux établissements scolaires un accès à l’IA et une assistance gérés par l’établissement.
Article connexe
La tête robotique d'OpenAI, Caitlin Kalinowski, démissionne en raison du partenariat avec le Pentagone
Caitlin Kalinowski, responsable de la robotique chez OpenAI, a démissionné à la suite du partenariat controversé de l’entreprise avec le département de la Défense.« Ce n’était pas une décision facile », a expliqué Kalinowski dans une déclaration sur
OpenAI comble l’écart avec Anthropic parmi les utilisateurs professionnels, selon de nouvelles données
Avec OpenAI et Anthropic encore loin de leurs IPOes anticipées et de la publication de rapports financiers détaillés, nous devons nous tourner vers des indicateurs alternatifs pour évaluer leurs performances commerciales. Ramp, une plateforme de cart
Frontier AI Labs refuse de dévoiler ses stratégies de confinement des modèles indésirables
Des recherches récentes indiquent que très peu de grands laboratoires spécialisés dans l’IA ont publié ou présenté des plans d’intervention en cas de défaillance. Un plan d’intervention définit les pr
Recommandations de sujets spéciaux liés
commentaires (0)
À la suite d’une série de poursuites judiciaires liées à l’absence de protocoles de sécurité dans les chatbots basés sur l’IA — qui ont contribué à des suicides d’adolescents et à d’autres crises de santé mentale —, OpenAI a dévoilé lundi « ChatGPT for Teens ». Cette nouvelle offre intègre des fonctionnalités de sécurité renforcées et s’attaque au problème croissant de la tricherie scolaire facilitée par les outils d’IA dans les établissements scolaires.
D’un point de vue pédagogique, ChatGPT for Teens introduit un « mode Étude » ainsi que d’autres outils visant à stimuler la curiosité et les compétences en résolution de problèmes, en encourageant les utilisateurs à s’immerger profondément dans le contenu plutôt que de rechercher des réponses immédiates.
Selon un article de blog publié par OpenAI, le « Mode Étude » propose des questions guides et une assistance étape par étape pour aider les adolescents à appréhender des sujets complexes. De plus, la plateforme inclut des rappels de devoirs qui se déclenchent lorsque le système détecte une tentative de tricherie, invitant alors les utilisateurs à passer en « Mode Étude ».
L’application propose également des quiz et des visualisations pédagogiques, ainsi que des paramètres permettant aux parents ou tuteurs d’activer le « Mode Étude » par défaut, a précisé l’entreprise.
Cependant, on ignore encore dans quelle mesure les adolescents pourraient contourner facilement ces mesures de sécurité s’ils décidaient de ne pas s’y conformer. Les jeunes utilisateurs sont souvent habiles à contourner les contrôles parentaux et autres restrictions numériques. Tant que le mode adolescent de ChatGPT n’aura pas fait l’objet de tests rigoureux, l’efficacité concrète de ces mesures de sécurité restera incertaine.

Crédits image :OpenAI
OpenAI précise que des protections adaptées à l’application sont activées par défaut dans ChatGPT for Teens, afin de minimiser l’exposition à des contenus préjudiciables ou inadaptés au développement des adolescents. Ces mesures de sécurité s’appuient sur les « Principes pour les moins de 18 ans » d’OpenAI, intégrés à la spécification du modèle (Model Spec), qui, selon l’entreprise, s’appuient sur la science du développement et les conseils d’experts.
Les parents peuvent utiliser les outils familiaux et les contrôles parentaux, déjà mis en place, pour gérer les paramètres, recevoir des notifications de sécurité et configurer les « heures calmes », entre autres fonctionnalités.
OpenAI a annoncé un partenariat avec CodeAI afin d’aider les adolescents à mieux comprendre l’IA, notamment son fonctionnement, la manière de la diriger ou de la questionner, et comment l’utiliser efficacement. Dans le cadre éducatif, OpenAI propose déjà ChatGPT for Teachers afin d’offrir aux établissements scolaires un accès à l’IA et une assistance gérés par l’établissement.
La tête robotique d'OpenAI, Caitlin Kalinowski, démissionne en raison du partenariat avec le Pentagone
Caitlin Kalinowski, responsable de la robotique chez OpenAI, a démissionné à la suite du partenariat controversé de l’entreprise avec le département de la Défense.« Ce n’était pas une décision facile », a expliqué Kalinowski dans une déclaration sur
OpenAI comble l’écart avec Anthropic parmi les utilisateurs professionnels, selon de nouvelles données
Avec OpenAI et Anthropic encore loin de leurs IPOes anticipées et de la publication de rapports financiers détaillés, nous devons nous tourner vers des indicateurs alternatifs pour évaluer leurs performances commerciales. Ramp, une plateforme de cart
Frontier AI Labs refuse de dévoiler ses stratégies de confinement des modèles indésirables
Des recherches récentes indiquent que très peu de grands laboratoires spécialisés dans l’IA ont publié ou présenté des plans d’intervention en cas de défaillance. Un plan d’intervention définit les pr











