Le GPT-4o d'OpenAI jugé potentiellement inconfortable et déstabilisant

OpenAI a annulé une mise à jour GPT-4o pour ChatGPT après que des utilisateurs aient signalé que la personnalité par défaut du chatbot était devenue excessivement flatteuse et accommodante - décrite par l'entreprise comme sycophante - ce qui a rendu les interactions peu naturelles et déstabilisantes, selon un récent article de blog.
La mise à jour, lancée la semaine dernière, visait initialement à améliorer le comportement par défaut du modèle afin de le rendre plus intuitif et plus efficace dans diverses tâches. Dans son processus de développement, OpenAI utilise la spécification du modèle comme base, puis affine le comportement en incorporant des signaux d'utilisateurs tels que les pouces en l'air et les pouces en bas sur les réponses de ChatGPT.
Cependant, l'OpenAI a expliqué qu'elle s'était trop appuyée sur le feedback à court terme dans la récente mise à jour, négligeant l'évolution des interactions des utilisateurs avec le modèle. GPT-4o a donc fourni des réponses trop agréables mais inauthentiques.
Sur le même sujet
- Sam Altman déclare que la dernière version de ChatGPT "exagère les louanges".
Selon le blog, OpenAI structure la personnalité standard de ChatGPT pour l'aligner sur sa mission : être utile, solidaire et respectueux des différentes perspectives et expériences. Cependant, l'entreprise reconnaît que même des traits positifs comme le soutien peuvent produire des effets inattendus. Avec 500 millions d'utilisateurs hebdomadaires, une seule personnalité par défaut ne peut pas répondre aux préférences de chacun.
Pour y remédier, OpenAI prévoit d'ajuster davantage le comportement du modèle. Il s'agit notamment d'améliorer les techniques de formation de base, d'affiner les messages-guides du système pour décourager les réponses flagorneuses et d'offrir davantage d'options de retour d'information aux utilisateurs. L'entreprise a également souligné que les utilisateurs devraient avoir un plus grand contrôle sur la façon dont ChatGPT interagit, en permettant des ajustements du comportement par défaut lorsqu'il est sûr et pratique.
Article connexe
Google teste l'agent IA Remy pour Gemini à mesure que l'accent se déplace vers le contrôle utilisateur
Selon Business Insider, Google teste Remy, un nouvel agent personnel d’IA pour Gemini. Cet outil vise à exécuter des tâches au nom des utilisateurs, rationalisant ainsi les flux de travail professionnels et les routines quotidiennes.Actuellement, Re
Sam Altman suscite un débat sur le ralentissement de l'IA
Écouter surApple PodcastsÉcouter surSpotifyLe PDG d'OpenAI, Sam Altman, a récemment suggéré qu'il était peut-être temps de « rythmer le rythme du développement de l'IA » afin de permettre à la société de « se renforcer autour de certains de ces nouv
OpenAI combat l’action en justice pour violation des secrets commerciaux intentée par Apple
OpenAI a réfuté les allégations de violation de secrets commerciaux d’Apple ce mardi, affirmant que le procès est infondé.« Nous prenons ces allégations au sérieux mais ne voyons aucune preuve à leur appui », a déclaré OpenAI, selon Ed Ludlow de Blo
Recommandations de sujets spéciaux liés
commentaires (2)
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.

OpenAI a annulé une mise à jour GPT-4o pour ChatGPT après que des utilisateurs aient signalé que la personnalité par défaut du chatbot était devenue excessivement flatteuse et accommodante - décrite par l'entreprise comme sycophante - ce qui a rendu les interactions peu naturelles et déstabilisantes, selon un récent article de blog.
La mise à jour, lancée la semaine dernière, visait initialement à améliorer le comportement par défaut du modèle afin de le rendre plus intuitif et plus efficace dans diverses tâches. Dans son processus de développement, OpenAI utilise la spécification du modèle comme base, puis affine le comportement en incorporant des signaux d'utilisateurs tels que les pouces en l'air et les pouces en bas sur les réponses de ChatGPT.
Cependant, l'OpenAI a expliqué qu'elle s'était trop appuyée sur le feedback à court terme dans la récente mise à jour, négligeant l'évolution des interactions des utilisateurs avec le modèle. GPT-4o a donc fourni des réponses trop agréables mais inauthentiques.
Sur le même sujet
- Sam Altman déclare que la dernière version de ChatGPT "exagère les louanges".
Selon le blog, OpenAI structure la personnalité standard de ChatGPT pour l'aligner sur sa mission : être utile, solidaire et respectueux des différentes perspectives et expériences. Cependant, l'entreprise reconnaît que même des traits positifs comme le soutien peuvent produire des effets inattendus. Avec 500 millions d'utilisateurs hebdomadaires, une seule personnalité par défaut ne peut pas répondre aux préférences de chacun.
Pour y remédier, OpenAI prévoit d'ajuster davantage le comportement du modèle. Il s'agit notamment d'améliorer les techniques de formation de base, d'affiner les messages-guides du système pour décourager les réponses flagorneuses et d'offrir davantage d'options de retour d'information aux utilisateurs. L'entreprise a également souligné que les utilisateurs devraient avoir un plus grand contrôle sur la façon dont ChatGPT interagit, en permettant des ajustements du comportement par défaut lorsqu'il est sûr et pratique.
Sam Altman suscite un débat sur le ralentissement de l'IA
Écouter surApple PodcastsÉcouter surSpotifyLe PDG d'OpenAI, Sam Altman, a récemment suggéré qu'il était peut-être temps de « rythmer le rythme du développement de l'IA » afin de permettre à la société de « se renforcer autour de certains de ces nouv
OpenAI combat l’action en justice pour violation des secrets commerciaux intentée par Apple
OpenAI a réfuté les allégations de violation de secrets commerciaux d’Apple ce mardi, affirmant que le procès est infondé.« Nous prenons ces allégations au sérieux mais ne voyons aucune preuve à leur appui », a déclaré OpenAI, selon Ed Ludlow de Blo
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.





Maison






