Hogar
Un programa de contabilidad con IA compara la ropa de un usuario con un sudario; un responsable se disculpa y corrige el error

Un incidente reciente relacionado con la respuesta inapropiada de un asistente de IA ha llamado la atención. Un usuario de las redes sociales denunció que, mientras utilizaba la aplicación «Feiya AI Accounting» para registrar un gasto de 159 yuanes por la compra de ropa para su padre, la IA hizo un comentario hiriente. Después de que el usuario introdujera el importe, la IA no procesó la transacción correctamente; en su lugar, comentó que la ropa se parecía a un «traje de funeral».
En los intercambios posteriores, la IA no se dio cuenta de su error y continuó con respuestas similares. La respuesta insultante y poco empática enfureció al usuario, quien decidió cancelar su suscripción y solicitar un reembolso.
En respuesta a la mala experiencia del usuario, el proveedor del software emitió un comunicado oficial el 6 de mayo. El servicio de atención al cliente explicó que la respuesta inapropiada no se debió a una intervención humana, sino a un fallo en la base de datos de diálogo de la IA. Desde entonces, el equipo técnico ha aplicado correcciones de emergencia a los modelos pertinentes y ha reforzado la supervisión y las restricciones en los escenarios de conversación de la IA para evitar comentarios insensibles o irrespetuosos similares.
En la tarde del 6 de mayo, la empresa publicó una carta de disculpa, en la que reconocía públicamente importantes deficiencias en el control de los límites de la IA y en la comprensión de los tabúes culturales. La declaración indicaba que el modelo de IA no había sabido reconocer los límites emocionales en contextos específicos y que la plataforma estaba dispuesta a asumir toda la responsabilidad.
En su plan de medidas correctivas, la empresa declaró que implementaría medidas como el bloqueo de palabras sensibles y el refuerzo de los mecanismos de revisión de todos los escenarios. En cuanto a las dificultades de los usuarios durante la cancelación de la suscripción, la empresa aclaró la situación y prometió optimizar el proceso de reembolso, pedir disculpas sinceras a los usuarios afectados y ofrecer una compensación adecuada.
Artículo relacionado
Musk admite que Grok filtró código de usuarios, promete borrar todos los datos históricos
Elon Musk abordó directamente la controversia por privacidad relacionada con Grok Build, comenzando con un simple "Verdadero" para confirmar la validez del incidente. Se comprometió a que todos los datos de usuario cargados previamente en SpaceXAI se
Las acciones de EE. UU. alcanzan un hito histórico mientras gigantes de la IA y la aeroespacial se preparan para su debut de un billón de dólares
Elon Musk, Sam Altman y Dario Amodei, tres titanes del sector tecnológico, están avanzando hacia ofertas públicas iniciales para sus respectivas empresas. Con SpaceX, OpenAI y Anthropic, tres gigantes de la industria que se acercan a valoraciones de
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

Un incidente reciente relacionado con la respuesta inapropiada de un asistente de IA ha llamado la atención. Un usuario de las redes sociales denunció que, mientras utilizaba la aplicación «Feiya AI Accounting» para registrar un gasto de 159 yuanes por la compra de ropa para su padre, la IA hizo un comentario hiriente. Después de que el usuario introdujera el importe, la IA no procesó la transacción correctamente; en su lugar, comentó que la ropa se parecía a un «traje de funeral».
En los intercambios posteriores, la IA no se dio cuenta de su error y continuó con respuestas similares. La respuesta insultante y poco empática enfureció al usuario, quien decidió cancelar su suscripción y solicitar un reembolso.
En respuesta a la mala experiencia del usuario, el proveedor del software emitió un comunicado oficial el 6 de mayo. El servicio de atención al cliente explicó que la respuesta inapropiada no se debió a una intervención humana, sino a un fallo en la base de datos de diálogo de la IA. Desde entonces, el equipo técnico ha aplicado correcciones de emergencia a los modelos pertinentes y ha reforzado la supervisión y las restricciones en los escenarios de conversación de la IA para evitar comentarios insensibles o irrespetuosos similares.
En la tarde del 6 de mayo, la empresa publicó una carta de disculpa, en la que reconocía públicamente importantes deficiencias en el control de los límites de la IA y en la comprensión de los tabúes culturales. La declaración indicaba que el modelo de IA no había sabido reconocer los límites emocionales en contextos específicos y que la plataforma estaba dispuesta a asumir toda la responsabilidad.
En su plan de medidas correctivas, la empresa declaró que implementaría medidas como el bloqueo de palabras sensibles y el refuerzo de los mecanismos de revisión de todos los escenarios. En cuanto a las dificultades de los usuarios durante la cancelación de la suscripción, la empresa aclaró la situación y prometió optimizar el proceso de reembolso, pedir disculpas sinceras a los usuarios afectados y ofrecer una compensación adecuada.
Musk admite que Grok filtró código de usuarios, promete borrar todos los datos históricos
Elon Musk abordó directamente la controversia por privacidad relacionada con Grok Build, comenzando con un simple "Verdadero" para confirmar la validez del incidente. Se comprometió a que todos los datos de usuario cargados previamente en SpaceXAI se
Las acciones de EE. UU. alcanzan un hito histórico mientras gigantes de la IA y la aeroespacial se preparan para su debut de un billón de dólares
Elon Musk, Sam Altman y Dario Amodei, tres titanes del sector tecnológico, están avanzando hacia ofertas públicas iniciales para sus respectivas empresas. Con SpaceX, OpenAI y Anthropic, tres gigantes de la industria que se acercan a valoraciones de
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr











