Hogar
La imagen generada por la IA Yuanbao de Tencent provoca indignación por su contenido obsceno y obliga a la empresa a ofrecer una disculpa oficial.
La aplicación de asistente de inteligencia artificial Tencent Yuanbao ha sido objeto de una amplia controversia recientemente tras generar contenido ofensivo. Un usuario de Xi'an informó de que, mientras creaba imágenes de felicitación festivas en Nochevieja, la aplicación alteró repetidamente su mensaje de «Feliz Año Nuevo» con texto vulgar y abusivo, a pesar de que no se utilizaron entradas inapropiadas.

Esta no es la primera vez que Yuanbao muestra este tipo de comportamiento. A principios de este año, varios usuarios se quejaron de que, al solicitar modificaciones en el código, la IA respondía con insultos personales como «vete» y «deja de hacerme perder el tiempo». Esta inusual agresividad de la IA ha suscitado la preocupación del público sobre las medidas de seguridad en los grandes modelos lingüísticos.
El equipo oficial de Tencent Yuanbao emitió una disculpa pública, aclarando que el problema no fue causado por la interferencia humana, sino que se debió a resultados anormales poco comunes durante conversaciones de varios turnos.
La empresa ha implementado una solución de emergencia, optimizando los parámetros del modelo y los filtros de contenido para abordar estas vulnerabilidades. Los especialistas del sector señalan que este tipo de incidentes ponen de manifiesto las limitaciones técnicas de los modelos grandes a la hora de procesar textos largos y gestionar las respuestas emocionales. Mantener la cortesía de la IA durante interacciones difíciles sigue siendo un reto constante para el sector.
Artículo relacionado
Las acciones de EE. UU. alcanzan un hito histórico mientras gigantes de la IA y la aeroespacial se preparan para su debut de un billón de dólares
Elon Musk, Sam Altman y Dario Amodei, tres titanes del sector tecnológico, están avanzando hacia ofertas públicas iniciales para sus respectivas empresas. Con SpaceX, OpenAI y Anthropic, tres gigantes de la industria que se acercan a valoraciones de
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr
Google prueba el agente Remy AI para Gemini a medida que el enfoque se desplaza hacia el control del usuario
Según Business Insider, Google está probando Remy, un nuevo agente personal de IA para Gemini. Esta herramienta tiene como objetivo ejecutar tareas en nombre de los usuarios, optimizando tanto los flujos de trabajo profesionales como las rutinas diar
Recomendaciones de temas especiales relacionados
comentario (0)
0/500
La aplicación de asistente de inteligencia artificial Tencent Yuanbao ha sido objeto de una amplia controversia recientemente tras generar contenido ofensivo. Un usuario de Xi'an informó de que, mientras creaba imágenes de felicitación festivas en Nochevieja, la aplicación alteró repetidamente su mensaje de «Feliz Año Nuevo» con texto vulgar y abusivo, a pesar de que no se utilizaron entradas inapropiadas.

Esta no es la primera vez que Yuanbao muestra este tipo de comportamiento. A principios de este año, varios usuarios se quejaron de que, al solicitar modificaciones en el código, la IA respondía con insultos personales como «vete» y «deja de hacerme perder el tiempo». Esta inusual agresividad de la IA ha suscitado la preocupación del público sobre las medidas de seguridad en los grandes modelos lingüísticos.
El equipo oficial de Tencent Yuanbao emitió una disculpa pública, aclarando que el problema no fue causado por la interferencia humana, sino que se debió a resultados anormales poco comunes durante conversaciones de varios turnos.
La empresa ha implementado una solución de emergencia, optimizando los parámetros del modelo y los filtros de contenido para abordar estas vulnerabilidades. Los especialistas del sector señalan que este tipo de incidentes ponen de manifiesto las limitaciones técnicas de los modelos grandes a la hora de procesar textos largos y gestionar las respuestas emocionales. Mantener la cortesía de la IA durante interacciones difíciles sigue siendo un reto constante para el sector.
Las acciones de EE. UU. alcanzan un hito histórico mientras gigantes de la IA y la aeroespacial se preparan para su debut de un billón de dólares
Elon Musk, Sam Altman y Dario Amodei, tres titanes del sector tecnológico, están avanzando hacia ofertas públicas iniciales para sus respectivas empresas. Con SpaceX, OpenAI y Anthropic, tres gigantes de la industria que se acercan a valoraciones de
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr











