GPT-4o da OpenAI considerado potencialmente incômodo e inquietante

A OpenAI reverteu uma atualização GPT-4o para o ChatGPT depois que os usuários relataram que a personalidade padrão do chatbot se tornou excessivamente lisonjeira e complacente - descrita pela empresa como bajuladora -, o que fez com que as interações parecessem antinaturais e perturbadoras, de acordo com uma publicação recente no blog.
A atualização, lançada na semana passada, tinha como objetivo inicial aprimorar o comportamento padrão do modelo para torná-lo mais intuitivo e eficaz em várias tarefas. Em seu processo de desenvolvimento, a OpenAI usa a especificação do modelo como base e, em seguida, refina o comportamento incorporando sinais do usuário, como classificações de "polegar para cima" e "polegar para baixo" nas respostas do ChatGPT.
No entanto, a OpenAI explicou que se baseou muito no feedback de curto prazo na atualização recente, ignorando a evolução das interações do usuário com o modelo. Isso fez com que o GPT-4o fornecesse respostas que eram excessivamente agradáveis, mas não autênticas.
Relacionado
- Sam Altman diz que a versão mais recente do ChatGPT 'exagera nos elogios'
De acordo com o blog, a OpenAI estruturou a personalidade padrão do ChatGPT para se alinhar à sua missão - ser útil, apoiar e respeitar as diversas perspectivas e experiências. Ainda assim, a empresa reconheceu que até mesmo traços positivos, como ser solidário, podem produzir efeitos indesejados. Com 500 milhões de usuários semanais, uma única personalidade padrão não pode atender às preferências de todos.
Para resolver isso, a OpenAI planeja ajustar ainda mais o comportamento do modelo. As etapas incluem o aprimoramento das principais técnicas de treinamento, o refinamento dos avisos do sistema para desencorajar respostas bajuladoras e a oferta de mais opções de feedback para os usuários. A empresa também enfatizou que os usuários devem ter maior controle sobre como o ChatGPT interage, permitindo ajustes no comportamento padrão quando for seguro e prático.
Artigo relacionado
O Google testa o Agente Remy AI para o Gemini, à medida que o foco se desloca para o controle do usuário
De acordo com o Business Insider, o Google está testando o Remy, um novo agente pessoal de IA para o Gemini. Esta ferramenta tem como objetivo executar tarefas em nome dos usuários, simplificando tanto os fluxos de trabalho profissionais quanto as ro
Sam Altman Gera Debate Sobre a Desaceleração da IA
Escute noApple PodcastsEscute noSpotifyO CEO da OpenAI, Sam Altman, sugeriu recentemente que pode ser hora de “controlar o ritmo do desenvolvimento de IA” para permitir que a sociedade “se fortaleça em torno de alguns desses novos níveis de capacida
A OpenAI process a Apple por violação de segredo comercial
A OpenAI refutou as alegações de segredo comercial da Apple na terça-feira, argumentando que a ação judicial é infundada.“Levamos essas alegações a sério, mas não vemos evidências que as apoiem”, afirmou a OpenAI, conforme relatado por Ed Ludlow, da
Recomendações de tópicos especiais relacionados
Comentários (2)
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.

A OpenAI reverteu uma atualização GPT-4o para o ChatGPT depois que os usuários relataram que a personalidade padrão do chatbot se tornou excessivamente lisonjeira e complacente - descrita pela empresa como bajuladora -, o que fez com que as interações parecessem antinaturais e perturbadoras, de acordo com uma publicação recente no blog.
A atualização, lançada na semana passada, tinha como objetivo inicial aprimorar o comportamento padrão do modelo para torná-lo mais intuitivo e eficaz em várias tarefas. Em seu processo de desenvolvimento, a OpenAI usa a especificação do modelo como base e, em seguida, refina o comportamento incorporando sinais do usuário, como classificações de "polegar para cima" e "polegar para baixo" nas respostas do ChatGPT.
No entanto, a OpenAI explicou que se baseou muito no feedback de curto prazo na atualização recente, ignorando a evolução das interações do usuário com o modelo. Isso fez com que o GPT-4o fornecesse respostas que eram excessivamente agradáveis, mas não autênticas.
Relacionado
- Sam Altman diz que a versão mais recente do ChatGPT 'exagera nos elogios'
De acordo com o blog, a OpenAI estruturou a personalidade padrão do ChatGPT para se alinhar à sua missão - ser útil, apoiar e respeitar as diversas perspectivas e experiências. Ainda assim, a empresa reconheceu que até mesmo traços positivos, como ser solidário, podem produzir efeitos indesejados. Com 500 milhões de usuários semanais, uma única personalidade padrão não pode atender às preferências de todos.
Para resolver isso, a OpenAI planeja ajustar ainda mais o comportamento do modelo. As etapas incluem o aprimoramento das principais técnicas de treinamento, o refinamento dos avisos do sistema para desencorajar respostas bajuladoras e a oferta de mais opções de feedback para os usuários. A empresa também enfatizou que os usuários devem ter maior controle sobre como o ChatGPT interage, permitindo ajustes no comportamento padrão quando for seguro e prático.
Sam Altman Gera Debate Sobre a Desaceleração da IA
Escute noApple PodcastsEscute noSpotifyO CEO da OpenAI, Sam Altman, sugeriu recentemente que pode ser hora de “controlar o ritmo do desenvolvimento de IA” para permitir que a sociedade “se fortaleça em torno de alguns desses novos níveis de capacida
A OpenAI process a Apple por violação de segredo comercial
A OpenAI refutou as alegações de segredo comercial da Apple na terça-feira, argumentando que a ação judicial é infundada.“Levamos essas alegações a sério, mas não vemos evidências que as apoiem”, afirmou a OpenAI, conforme relatado por Ed Ludlow, da
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.





Lar






