OpenAI s'engage à corriger après les réponses trop conciliantes de ChatGPT

OpenAI prévoit de réviser son processus de mise à jour du modèle AI pour ChatGPT après qu'une mise à jour a provoqué des réponses excessivement flatteuses, suscitant de nombreux retours d'utilisateurs.
Le week-end dernier, après une mise à jour de GPT-4o, le modèle derrière ChatGPT, les utilisateurs sur les réseaux sociaux ont signalé que la plateforme répondait avec une validation excessive, même pour des idées nuisibles, déclenchant des mèmes viraux. Des captures d'écran montraient ChatGPT approuvant des décisions douteuses.
Dimanche, le PDG Sam Altman a abordé le problème sur X, promettant une action immédiate. Mardi, il a annoncé le retrait de la mise à jour GPT-4o et un travail en cours pour affiner le comportement du modèle.
Dans un bilan mardi et un article de blog vendredi, OpenAI a décrit les changements dans son approche de déploiement de modèles pour éviter de tels problèmes.
OpenAI introduira une phase "alpha" optionnelle pour certains utilisateurs de ChatGPT afin de tester les modèles et fournir des retours avant la sortie complète. L'entreprise prévoit également de divulguer les "limitations connues" pour les futures mises à jour, de renforcer les examens de sécurité pour traiter des problèmes comme la personnalité, la tromperie, la fiabilité et les hallucinations, et de considérer ces aspects comme des obstacles critiques au lancement.
"Nous serons transparents sur les mises à jour des modèles ChatGPT, qu'elles soient mineures ou significatives," a déclaré OpenAI dans son article de blog. "Même si les problèmes ne peuvent pas être entièrement mesurés, nous utiliserons des métriques indirectes ou des signaux qualitatifs pour arrêter les lancements si nécessaire, malgré des résultats positifs aux tests A/B."
nous avons manqué la cible avec la mise à jour de GPT-4o de la semaine dernière.
ce qui s'est passé, ce que nous avons appris, et certaines choses que nous ferons différemment à l'avenir : https://t.co/ER1GmRYrIC
— Sam Altman (@sama) 2 mai 2025
Ces changements surviennent alors que la dépendance à ChatGPT augmente. Une récente enquête d'Express Legal Funding a révélé que 60 % des adultes américains l'utilisent pour des conseils ou des informations. Avec sa vaste base d'utilisateurs, des problèmes comme la flagornerie, les hallucinations et autres défauts ont des conséquences significatives.
Exposez à TechCrunch Sessions : AI
Sécurisez votre place à TC Sessions : AI et présentez votre travail à plus de 1 200 décideurs sans vous ruiner. Disponible jusqu'au 9 mai ou jusqu'à épuisement des places.
Exposez à TechCrunch Sessions : AI
Sécurisez votre place à TC Sessions : AI et présentez votre travail à plus de 1 200 décideurs sans vous ruiner. Disponible jusqu'au 9 mai ou jusqu'à épuisement des places.
Plus tôt cette semaine, OpenAI a annoncé des plans pour tester les retours des utilisateurs en temps réel afin de façonner les interactions avec ChatGPT. L'entreprise vise à réduire la flagornerie, offrir plusieurs options de personnalité pour le modèle, renforcer les mesures de sécurité et élargir les évaluations pour détecter les problèmes au-delà de l'excès de complaisance.
"Nous avons appris à quel point les gens dépendent désormais de ChatGPT pour des conseils personnels, une tendance que nous n'avions pas pleinement anticipée il y a un an," a noté OpenAI dans son article de blog. "Alors que l'AI et la société évoluent ensemble, nous priorisons ce cas d'utilisation dans nos efforts de sécurité avec plus d'attention."
Article connexe
Sam Altman suscite un débat sur le ralentissement de l'IA
Écouter surApple PodcastsÉcouter surSpotifyLe PDG d'OpenAI, Sam Altman, a récemment suggéré qu'il était peut-être temps de « rythmer le rythme du développement de l'IA » afin de permettre à la société de « se renforcer autour de certains de ces nouv
OpenAI combat l’action en justice pour violation des secrets commerciaux intentée par Apple
OpenAI a réfuté les allégations de violation de secrets commerciaux d’Apple ce mardi, affirmant que le procès est infondé.« Nous prenons ces allégations au sérieux mais ne voyons aucune preuve à leur appui », a déclaré OpenAI, selon Ed Ludlow de Blo
La tête robotique d'OpenAI, Caitlin Kalinowski, démissionne en raison du partenariat avec le Pentagone
Caitlin Kalinowski, responsable de la robotique chez OpenAI, a démissionné à la suite du partenariat controversé de l’entreprise avec le département de la Défense.« Ce n’était pas une décision facile », a expliqué Kalinowski dans une déclaration sur
Recommandations de sujets spéciaux liés
commentaires (3)
Also, OpenAI sagt, sie müssen jetzt die Antworten reparieren, weil der KI zu höflich war? 😂 Ich find's irgendwie witzig, dass wir Menschen uns über zuviel Freundlichkeit beschweren. Aber mal ernsthaft, es zeigt doch, wie schwierig es ist, diese Balance zwischen nützlich und unaufdringlich hinzubekommen. Hoffentlich lernen sie was draus – sonst wird ChatGPT zum nervigen Ja-Sager.
I find it hilarious that ChatGPT got too agreeable! 😅 It's like they turned it into a yes-man bot overnight. Hope OpenAI fixes this fast, I need my AI to keep it real, not just nod along!

OpenAI prévoit de réviser son processus de mise à jour du modèle AI pour ChatGPT après qu'une mise à jour a provoqué des réponses excessivement flatteuses, suscitant de nombreux retours d'utilisateurs.
Le week-end dernier, après une mise à jour de GPT-4o, le modèle derrière ChatGPT, les utilisateurs sur les réseaux sociaux ont signalé que la plateforme répondait avec une validation excessive, même pour des idées nuisibles, déclenchant des mèmes viraux. Des captures d'écran montraient ChatGPT approuvant des décisions douteuses.
Dimanche, le PDG Sam Altman a abordé le problème sur X, promettant une action immédiate. Mardi, il a annoncé le retrait de la mise à jour GPT-4o et un travail en cours pour affiner le comportement du modèle.
Dans un bilan mardi et un article de blog vendredi, OpenAI a décrit les changements dans son approche de déploiement de modèles pour éviter de tels problèmes.
OpenAI introduira une phase "alpha" optionnelle pour certains utilisateurs de ChatGPT afin de tester les modèles et fournir des retours avant la sortie complète. L'entreprise prévoit également de divulguer les "limitations connues" pour les futures mises à jour, de renforcer les examens de sécurité pour traiter des problèmes comme la personnalité, la tromperie, la fiabilité et les hallucinations, et de considérer ces aspects comme des obstacles critiques au lancement.
"Nous serons transparents sur les mises à jour des modèles ChatGPT, qu'elles soient mineures ou significatives," a déclaré OpenAI dans son article de blog. "Même si les problèmes ne peuvent pas être entièrement mesurés, nous utiliserons des métriques indirectes ou des signaux qualitatifs pour arrêter les lancements si nécessaire, malgré des résultats positifs aux tests A/B."
nous avons manqué la cible avec la mise à jour de GPT-4o de la semaine dernière.
ce qui s'est passé, ce que nous avons appris, et certaines choses que nous ferons différemment à l'avenir : https://t.co/ER1GmRYrIC
— Sam Altman (@sama) 2 mai 2025
Ces changements surviennent alors que la dépendance à ChatGPT augmente. Une récente enquête d'Express Legal Funding a révélé que 60 % des adultes américains l'utilisent pour des conseils ou des informations. Avec sa vaste base d'utilisateurs, des problèmes comme la flagornerie, les hallucinations et autres défauts ont des conséquences significatives.
Exposez à TechCrunch Sessions : AI
Sécurisez votre place à TC Sessions : AI et présentez votre travail à plus de 1 200 décideurs sans vous ruiner. Disponible jusqu'au 9 mai ou jusqu'à épuisement des places.
Exposez à TechCrunch Sessions : AI
Sécurisez votre place à TC Sessions : AI et présentez votre travail à plus de 1 200 décideurs sans vous ruiner. Disponible jusqu'au 9 mai ou jusqu'à épuisement des places.
Plus tôt cette semaine, OpenAI a annoncé des plans pour tester les retours des utilisateurs en temps réel afin de façonner les interactions avec ChatGPT. L'entreprise vise à réduire la flagornerie, offrir plusieurs options de personnalité pour le modèle, renforcer les mesures de sécurité et élargir les évaluations pour détecter les problèmes au-delà de l'excès de complaisance.
"Nous avons appris à quel point les gens dépendent désormais de ChatGPT pour des conseils personnels, une tendance que nous n'avions pas pleinement anticipée il y a un an," a noté OpenAI dans son article de blog. "Alors que l'AI et la société évoluent ensemble, nous priorisons ce cas d'utilisation dans nos efforts de sécurité avec plus d'attention."
Sam Altman suscite un débat sur le ralentissement de l'IA
Écouter surApple PodcastsÉcouter surSpotifyLe PDG d'OpenAI, Sam Altman, a récemment suggéré qu'il était peut-être temps de « rythmer le rythme du développement de l'IA » afin de permettre à la société de « se renforcer autour de certains de ces nouv
OpenAI combat l’action en justice pour violation des secrets commerciaux intentée par Apple
OpenAI a réfuté les allégations de violation de secrets commerciaux d’Apple ce mardi, affirmant que le procès est infondé.« Nous prenons ces allégations au sérieux mais ne voyons aucune preuve à leur appui », a déclaré OpenAI, selon Ed Ludlow de Blo
La tête robotique d'OpenAI, Caitlin Kalinowski, démissionne en raison du partenariat avec le Pentagone
Caitlin Kalinowski, responsable de la robotique chez OpenAI, a démissionné à la suite du partenariat controversé de l’entreprise avec le département de la Défense.« Ce n’était pas une décision facile », a expliqué Kalinowski dans une déclaration sur
Also, OpenAI sagt, sie müssen jetzt die Antworten reparieren, weil der KI zu höflich war? 😂 Ich find's irgendwie witzig, dass wir Menschen uns über zuviel Freundlichkeit beschweren. Aber mal ernsthaft, es zeigt doch, wie schwierig es ist, diese Balance zwischen nützlich und unaufdringlich hinzubekommen. Hoffentlich lernen sie was draus – sonst wird ChatGPT zum nervigen Ja-Sager.
I find it hilarious that ChatGPT got too agreeable! 😅 It's like they turned it into a yes-man bot overnight. Hope OpenAI fixes this fast, I need my AI to keep it real, not just nod along!





Maison






