Maison
Le ChatGPT pour adolescents d’OpenAI suscite le scepticisme des experts quant à ses mécanismes de sécurité

Le déploiement récent par OpenAI de ChatGPT pour les enfants, assorti de restrictions basées sur l’âge, a suscité de vives critiques de la part des défenseurs de la sécurité des enfants, qui remettent en question la transparence et l’efficacité de ses mesures de protection.
Les experts en sécurité soulignent que des tests indépendants sont essentiels avant que la plateforme ne soit recommandée aux familles. Robbie Tynjala, de Common Sense Media, a insisté sur le fait qu’OpenAI doit fournir des preuves concrètes que ses fonctionnalités de sécurité fonctionnent réellement, plutôt que de s’appuyer sur des affirmations non vérifiées.
Josh Golin, responsable de l’initiative Fairplay, a exprimé de sérieuses inquiétudes concernant le manque de responsabilité. Il a noté que les restrictions passées d’OpenAI sur des sujets sensibles tels que le suicide et la violence ont souvent échoué, arguant que l’autorégulation est insuffisante sans une supervision robuste.
Les experts doutent également de la fiabilité du système automatique de vérification de l’âge. Tynjala a souligné qu’OpenAI n’a pas publié de données sur les taux de faux positifs ou de faux négatifs, ce qui montre clairement que les systèmes automatisés ne peuvent pas identifier parfaitement les jeunes utilisateurs. De plus, les adolescents sont susceptibles de trouver des moyens de contourner ces contrôles.
Le scepticisme reste élevé concernant la promesse d’OpenAI selon laquelle le contenu signalé sera examiné par le personnel et les parents informés dans l’heure. Tynjala a remis en question la fiabilité des filtres automatisés, tandis que Golin a exigé des données concrètes sur le volume quotidien des signalements, la taille de l’équipe et les délais d’examen, notant qu’il est irréaliste de s’attendre à disposer d’un personnel suffisant pour examiner manuellement chaque interaction dangereuse.
Enfin, les experts estiment que l’obligation pour les parents de lier manuellement les comptes compromet la protection. Golin a suggéré que les fonctionnalités de sécurité devraient être intégrées par défaut dans le produit, telles que des limites de temps automatiques, plutôt que de reposer entièrement sur les parents pour une configuration complexe.
Article connexe
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter
Google teste l'agent IA Remy pour Gemini à mesure que l'accent se déplace vers le contrôle utilisateur
Selon Business Insider, Google teste Remy, un nouvel agent personnel d’IA pour Gemini. Cet outil vise à exécuter des tâches au nom des utilisateurs, rationalisant ainsi les flux de travail professionnels et les routines quotidiennes.Actuellement, Re
Recommandations de sujets spéciaux liés
commentaires (0)

Le déploiement récent par OpenAI de ChatGPT pour les enfants, assorti de restrictions basées sur l’âge, a suscité de vives critiques de la part des défenseurs de la sécurité des enfants, qui remettent en question la transparence et l’efficacité de ses mesures de protection.
Les experts en sécurité soulignent que des tests indépendants sont essentiels avant que la plateforme ne soit recommandée aux familles. Robbie Tynjala, de Common Sense Media, a insisté sur le fait qu’OpenAI doit fournir des preuves concrètes que ses fonctionnalités de sécurité fonctionnent réellement, plutôt que de s’appuyer sur des affirmations non vérifiées.
Josh Golin, responsable de l’initiative Fairplay, a exprimé de sérieuses inquiétudes concernant le manque de responsabilité. Il a noté que les restrictions passées d’OpenAI sur des sujets sensibles tels que le suicide et la violence ont souvent échoué, arguant que l’autorégulation est insuffisante sans une supervision robuste.
Les experts doutent également de la fiabilité du système automatique de vérification de l’âge. Tynjala a souligné qu’OpenAI n’a pas publié de données sur les taux de faux positifs ou de faux négatifs, ce qui montre clairement que les systèmes automatisés ne peuvent pas identifier parfaitement les jeunes utilisateurs. De plus, les adolescents sont susceptibles de trouver des moyens de contourner ces contrôles.
Le scepticisme reste élevé concernant la promesse d’OpenAI selon laquelle le contenu signalé sera examiné par le personnel et les parents informés dans l’heure. Tynjala a remis en question la fiabilité des filtres automatisés, tandis que Golin a exigé des données concrètes sur le volume quotidien des signalements, la taille de l’équipe et les délais d’examen, notant qu’il est irréaliste de s’attendre à disposer d’un personnel suffisant pour examiner manuellement chaque interaction dangereuse.
Enfin, les experts estiment que l’obligation pour les parents de lier manuellement les comptes compromet la protection. Golin a suggéré que les fonctionnalités de sécurité devraient être intégrées par défaut dans le produit, telles que des limites de temps automatiques, plutôt que de reposer entièrement sur les parents pour une configuration complexe.
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter











