El GPT-4o de OpenAI se considera potencialmente incómodo e inquietante

OpenAI ha retirado una actualización GPT-4o para ChatGPT después de que los usuarios denunciaran que la personalidad por defecto del chatbot se había vuelto excesivamente aduladora y complaciente -descrita por la empresa como aduladora-, lo que hacía que las interacciones resultaran poco naturales e inquietantes, según una reciente entrada de blog.
La actualización, lanzada la semana pasada, pretendía inicialmente mejorar el comportamiento por defecto del modelo para hacerlo más intuitivo y eficaz en diversas tareas. En su proceso de desarrollo, OpenAI utiliza la Especificación del Modelo como base, y después refina el comportamiento incorporando señales de los usuarios, como las puntuaciones de "pulgar arriba" y "pulgar abajo" en las respuestas de ChatGPT.
Sin embargo, OpenAI explicó que en la reciente actualización se basó demasiado en las respuestas a corto plazo, pasando por alto cómo evolucionan las interacciones de los usuarios con el modelo. Esto provocó que GPT-4o ofreciera respuestas demasiado agradables pero poco auténticas.
Relacionado
- Sam Altman dice que la última versión de ChatGPT "exagera los elogios
Según el blog, OpenAI estructura la personalidad estándar de ChatGPT para alinearla con su misión: ser útil, solidario y respetuoso con las distintas perspectivas y experiencias. Sin embargo, la empresa reconoce que incluso rasgos positivos como el apoyo pueden tener efectos no deseados. Con 500 millones de usuarios semanales, una sola personalidad por defecto no puede satisfacer las preferencias de todos.
Para solucionar este problema, OpenAI planea ajustar aún más el comportamiento del modelo. Entre otras medidas, se mejorarán las técnicas básicas de entrenamiento, se perfeccionarán los avisos del sistema para desalentar las respuestas aduladoras y se ofrecerán más opciones de respuesta a los usuarios. La compañía también ha subrayado que los usuarios deberían tener un mayor control sobre la forma en que ChatGPT interactúa, permitiendo ajustes en el comportamiento por defecto cuando sea seguro y práctico.
Artículo relacionado
Sam Altman desata un debate sobre la desaceleración de la IA
Escuchar enApple PodcastsEscuchar enSpotifyEl director ejecutivo de OpenAI, Sam Altman, sugirió recientemente que podría ser el momento de “regular el ritmo del desarrollo de la IA” para permitir que la sociedad “se fortalezca en torno a algunos de
OpenAI enfrenta una demanda por secreto comercial de Apple
OpenAI rebatió las alegaciones de Apple sobre secretos comerciales el martes, argumentando que la demanda es infundada.“Tomamos estas afirmaciones en serio, pero no vemos ninguna evidencia que las respalde”, declaró OpenAI, según informó Ed Ludlow d
Ollie apuesta por la privacidad para ganar la carrera de los asistentes de IA
Para resultar realmente útil, un asistente de IA debe comprender a fondo a su usuario. Ollie, un asistente personal diseñado para la vida cotidiana, parte de la premisa de que esto no implica ceder tu
Recomendaciones de temas especiales relacionados
comentario (2)
0/500
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.

OpenAI ha retirado una actualización GPT-4o para ChatGPT después de que los usuarios denunciaran que la personalidad por defecto del chatbot se había vuelto excesivamente aduladora y complaciente -descrita por la empresa como aduladora-, lo que hacía que las interacciones resultaran poco naturales e inquietantes, según una reciente entrada de blog.
La actualización, lanzada la semana pasada, pretendía inicialmente mejorar el comportamiento por defecto del modelo para hacerlo más intuitivo y eficaz en diversas tareas. En su proceso de desarrollo, OpenAI utiliza la Especificación del Modelo como base, y después refina el comportamiento incorporando señales de los usuarios, como las puntuaciones de "pulgar arriba" y "pulgar abajo" en las respuestas de ChatGPT.
Sin embargo, OpenAI explicó que en la reciente actualización se basó demasiado en las respuestas a corto plazo, pasando por alto cómo evolucionan las interacciones de los usuarios con el modelo. Esto provocó que GPT-4o ofreciera respuestas demasiado agradables pero poco auténticas.
Relacionado
- Sam Altman dice que la última versión de ChatGPT "exagera los elogios
Según el blog, OpenAI estructura la personalidad estándar de ChatGPT para alinearla con su misión: ser útil, solidario y respetuoso con las distintas perspectivas y experiencias. Sin embargo, la empresa reconoce que incluso rasgos positivos como el apoyo pueden tener efectos no deseados. Con 500 millones de usuarios semanales, una sola personalidad por defecto no puede satisfacer las preferencias de todos.
Para solucionar este problema, OpenAI planea ajustar aún más el comportamiento del modelo. Entre otras medidas, se mejorarán las técnicas básicas de entrenamiento, se perfeccionarán los avisos del sistema para desalentar las respuestas aduladoras y se ofrecerán más opciones de respuesta a los usuarios. La compañía también ha subrayado que los usuarios deberían tener un mayor control sobre la forma en que ChatGPT interactúa, permitiendo ajustes en el comportamiento por defecto cuando sea seguro y práctico.
Sam Altman desata un debate sobre la desaceleración de la IA
Escuchar enApple PodcastsEscuchar enSpotifyEl director ejecutivo de OpenAI, Sam Altman, sugirió recientemente que podría ser el momento de “regular el ritmo del desarrollo de la IA” para permitir que la sociedad “se fortalezca en torno a algunos de
OpenAI enfrenta una demanda por secreto comercial de Apple
OpenAI rebatió las alegaciones de Apple sobre secretos comerciales el martes, argumentando que la demanda es infundada.“Tomamos estas afirmaciones en serio, pero no vemos ninguna evidencia que las respalde”, declaró OpenAI, según informó Ed Ludlow d
Ollie apuesta por la privacidad para ganar la carrera de los asistentes de IA
Para resultar realmente útil, un asistente de IA debe comprender a fondo a su usuario. Ollie, un asistente personal diseñado para la vida cotidiana, parte de la premisa de que esto no implica ceder tu
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.





Hogar






