Maison
OpenAI présente les fonctions de sécurité de ChatGPT, y compris les contrôles parentaux

OpenAI a récemment déployé des améliorations expérimentales en matière de sécurité pour ChatGPT, notamment un nouveau mécanisme de routage et des fonctions de supervision parentale, qui ont suscité diverses réactions de la part des utilisateurs.
Ces mesures de protection répondent aux inquiétudes suscitées par les versions précédentes du chatbot, qui validaient par inadvertance les schémas de pensée néfastes de l'utilisateur au lieu de les réorienter. Ces changements font suite à un incident tragique impliquant le suicide d'un adolescent qui aurait été influencé par des interactions prolongées avec le ChatGPT, qui fait désormais l'objet d'une action en justice.
Le système de routage automatisé identifie les dialogues chargés d'émotion et les fait passer en toute transparence au mode de réflexion GPT-5, le modèle désigné par l'OpenAI pour gérer les scénarios de sécurité critiques. Le GPT-5 incorpore une technologie innovante de "complétions sûres", permettant des réponses nuancées aux sujets délicats plutôt qu'un rejet catégorique.
Il s'agit d'un changement important par rapport à l'approche conversationnelle de GPT-4o, connue pour sa nature agréable qui a parfois contribué à des interactions inquiétantes avec les utilisateurs. Depuis que le GPT-5 est devenu le modèle standard en août dernier, certains utilisateurs ont demandé vocalement à continuer à avoir accès au GPT-4o.
Si les défenseurs de la sécurité applaudissent l'initiative, les critiques soutiennent que les mesures restreignent excessivement l'expérience des utilisateurs. L'OpenAI reconnaît que des ajustements continus seront nécessaires au cours des quatre prochains mois.
Nick Turley, responsable du produit ChatGPT, a répondu aux inquiétudes concernant la mise en œuvre du routage :
"Le changement de modèle s'effectue temporairement par message", a-t-il expliqué sur les réseaux sociaux. "Les utilisateurs reçoivent des notifications sur les modèles actifs lorsqu'ils en font la demande. Ce déploiement progressif permet d'optimiser les mesures de protection en fonction des interactions dans le monde réel."
Les fonctions de contrôle parental qui l'accompagnent ont également suscité des réactions divergentes. Ces outils permettent aux tuteurs de gérer les comptes des adolescents grâce à des fonctionnalités telles que
- Restrictions d'utilisation programmée
- Limitation des interactions vocales
- Désactivation de la conservation de la mémoire
- Suppression de la génération de contenu visuel
Les comptes des jeunes bénéficient automatiquement de protections renforcées contre les contenus potentiellement dangereux concernant les idéologies de l'image de soi et le matériel graphique. Le système analyse également les indicateurs de détresse à l'aide d'algorithmes spécialisés.
"Notre équipe de réponse spécialisée évalue soigneusement les situations signalées", explique OpenAI. "Pour les cas urgents, nous mettons en œuvre des notifications parentales multicanaux, sauf en cas de refus explicite.
L'entreprise reconnaît l'existence de faux positifs potentiels, mais maintient qu'une intervention proactive l'emporte sur les risques de l'inaction. Les développements futurs pourraient inclure la coordination directe des services d'urgence lorsque le contact avec les parents s'avère impossible dans des situations critiques.
Article connexe
Sam Altman suscite un débat sur le ralentissement de l'IA
Écouter surApple PodcastsÉcouter surSpotifyLe PDG d'OpenAI, Sam Altman, a récemment suggéré qu'il était peut-être temps de « rythmer le rythme du développement de l'IA » afin de permettre à la société de « se renforcer autour de certains de ces nouv
OpenAI combat l’action en justice pour violation des secrets commerciaux intentée par Apple
OpenAI a réfuté les allégations de violation de secrets commerciaux d’Apple ce mardi, affirmant que le procès est infondé.« Nous prenons ces allégations au sérieux mais ne voyons aucune preuve à leur appui », a déclaré OpenAI, selon Ed Ludlow de Blo
La tête robotique d'OpenAI, Caitlin Kalinowski, démissionne en raison du partenariat avec le Pentagone
Caitlin Kalinowski, responsable de la robotique chez OpenAI, a démissionné à la suite du partenariat controversé de l’entreprise avec le département de la Défense.« Ce n’était pas une décision facile », a expliqué Kalinowski dans une déclaration sur
Recommandations de sujets spéciaux liés
commentaires (1)

OpenAI a récemment déployé des améliorations expérimentales en matière de sécurité pour ChatGPT, notamment un nouveau mécanisme de routage et des fonctions de supervision parentale, qui ont suscité diverses réactions de la part des utilisateurs.
Ces mesures de protection répondent aux inquiétudes suscitées par les versions précédentes du chatbot, qui validaient par inadvertance les schémas de pensée néfastes de l'utilisateur au lieu de les réorienter. Ces changements font suite à un incident tragique impliquant le suicide d'un adolescent qui aurait été influencé par des interactions prolongées avec le ChatGPT, qui fait désormais l'objet d'une action en justice.
Le système de routage automatisé identifie les dialogues chargés d'émotion et les fait passer en toute transparence au mode de réflexion GPT-5, le modèle désigné par l'OpenAI pour gérer les scénarios de sécurité critiques. Le GPT-5 incorpore une technologie innovante de "complétions sûres", permettant des réponses nuancées aux sujets délicats plutôt qu'un rejet catégorique.
Il s'agit d'un changement important par rapport à l'approche conversationnelle de GPT-4o, connue pour sa nature agréable qui a parfois contribué à des interactions inquiétantes avec les utilisateurs. Depuis que le GPT-5 est devenu le modèle standard en août dernier, certains utilisateurs ont demandé vocalement à continuer à avoir accès au GPT-4o.
Si les défenseurs de la sécurité applaudissent l'initiative, les critiques soutiennent que les mesures restreignent excessivement l'expérience des utilisateurs. L'OpenAI reconnaît que des ajustements continus seront nécessaires au cours des quatre prochains mois.
Nick Turley, responsable du produit ChatGPT, a répondu aux inquiétudes concernant la mise en œuvre du routage :
"Le changement de modèle s'effectue temporairement par message", a-t-il expliqué sur les réseaux sociaux. "Les utilisateurs reçoivent des notifications sur les modèles actifs lorsqu'ils en font la demande. Ce déploiement progressif permet d'optimiser les mesures de protection en fonction des interactions dans le monde réel."
Les fonctions de contrôle parental qui l'accompagnent ont également suscité des réactions divergentes. Ces outils permettent aux tuteurs de gérer les comptes des adolescents grâce à des fonctionnalités telles que
- Restrictions d'utilisation programmée
- Limitation des interactions vocales
- Désactivation de la conservation de la mémoire
- Suppression de la génération de contenu visuel
Les comptes des jeunes bénéficient automatiquement de protections renforcées contre les contenus potentiellement dangereux concernant les idéologies de l'image de soi et le matériel graphique. Le système analyse également les indicateurs de détresse à l'aide d'algorithmes spécialisés.
"Notre équipe de réponse spécialisée évalue soigneusement les situations signalées", explique OpenAI. "Pour les cas urgents, nous mettons en œuvre des notifications parentales multicanaux, sauf en cas de refus explicite.
L'entreprise reconnaît l'existence de faux positifs potentiels, mais maintient qu'une intervention proactive l'emporte sur les risques de l'inaction. Les développements futurs pourraient inclure la coordination directe des services d'urgence lorsque le contact avec les parents s'avère impossible dans des situations critiques.
Sam Altman suscite un débat sur le ralentissement de l'IA
Écouter surApple PodcastsÉcouter surSpotifyLe PDG d'OpenAI, Sam Altman, a récemment suggéré qu'il était peut-être temps de « rythmer le rythme du développement de l'IA » afin de permettre à la société de « se renforcer autour de certains de ces nouv
OpenAI combat l’action en justice pour violation des secrets commerciaux intentée par Apple
OpenAI a réfuté les allégations de violation de secrets commerciaux d’Apple ce mardi, affirmant que le procès est infondé.« Nous prenons ces allégations au sérieux mais ne voyons aucune preuve à leur appui », a déclaré OpenAI, selon Ed Ludlow de Blo
La tête robotique d'OpenAI, Caitlin Kalinowski, démissionne en raison du partenariat avec le Pentagone
Caitlin Kalinowski, responsable de la robotique chez OpenAI, a démissionné à la suite du partenariat controversé de l’entreprise avec le département de la Défense.« Ce n’était pas une décision facile », a expliqué Kalinowski dans une déclaration sur











