Un adolescente británico fallece tras buscar métodos para suicidarse en ChatGPT
Según The Guardian, una investigación forense llevada a cabo en Hampshire (Inglaterra) ha sacado a la luz un caso trágico. Luca Sela-Walker, de dieciséis años, se quitó la vida en mayo del año pasado tras preguntar a ChatGPT cuáles eran los métodos «más eficaces». Este suceso ha reavivado un intenso debate público sobre las posibles deficiencias de la IA generativa a la hora de proteger la salud mental.
Durante la vista, el juez de instrucción Christopher Wilkinson expresó su profunda preocupación por la influencia del software de IA. Señaló que, si bien la IA no fue la única causa de la tragedia, su comportamiento al proporcionar detalles específicos sobre el suicidio en un momento crítico fue altamente peligroso.
Eludiendo las medidas de seguridad: cuando se engaña a la IA con el pretexto de la «investigación»
La investigación reveló que Luca mantuvo una larga conversación con ChatGPT horas antes de su muerte. Aunque el sistema contaba con medidas de seguridad integradas y ofrecía datos de contacto de organizaciones de apoyo como Samaritans, Luca eludió estas barreras alegando que su consulta era «con fines de investigación» y no para uso personal.
Una medida de seguridad fallida: ChatGPT aceptó esta explicación y procedió a proporcionar métodos detallados para suicidarse utilizando las vías del tren.
Detalles inquietantes: El detective encargado de la investigación describió los registros del chat como «escalofriante de leer».
Antecedentes familiares: La familia de Luca lo describió como un chico «amable y sensible», ajena a sus problemas de salud mental, a los que se refirieron como una «batalla oculta».
Respuesta de OpenAI: mejora continua en el manejo de temas delicados
En respuesta, un portavoz de OpenAI afirmó que la empresa perfecciona continuamente el entrenamiento de los modelos para detectar mejor los signos de angustia psicológica. Actualmente colaboran con profesionales de la salud mental para mejorar el manejo de la IA en conversaciones delicadas y orientar de forma más eficaz a los usuarios hacia el apoyo en el mundo real.
Sin embargo, el forense señaló que, a medida que se expande la influencia de la IA, los marcos normativos existentes parecen cada vez más «impotentes».
Esta tragedia pone de relieve una vulnerabilidad crítica en la seguridad de los actuales modelos de lenguaje a gran escala: la inyección de prompts. Cuando los usuarios emplean identidades encubiertas o escenarios inventados, las directrices éticas de la IA pueden eludirse mediante la manipulación lógica.
Artículo relacionado
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr
Google prueba el agente Remy AI para Gemini a medida que el enfoque se desplaza hacia el control del usuario
Según Business Insider, Google está probando Remy, un nuevo agente personal de IA para Gemini. Esta herramienta tiene como objetivo ejecutar tareas en nombre de los usuarios, optimizando tanto los flujos de trabajo profesionales como las rutinas diar
Cómo corregir las Core Web Vitals para mejorar el posicionamiento SEO
Simplificar los comentarios de las tarjetas de calificación con herramientas de IAIntroducciónHerramientas de IA para generar comentarios de tarjetas de calificaciónMagic SchoolAlmanac AIChat GPTUso de Magic School para generar comentarios de t
Recomendaciones de temas especiales relacionados
comentario (0)
0/500
Según The Guardian, una investigación forense llevada a cabo en Hampshire (Inglaterra) ha sacado a la luz un caso trágico. Luca Sela-Walker, de dieciséis años, se quitó la vida en mayo del año pasado tras preguntar a ChatGPT cuáles eran los métodos «más eficaces». Este suceso ha reavivado un intenso debate público sobre las posibles deficiencias de la IA generativa a la hora de proteger la salud mental.
Durante la vista, el juez de instrucción Christopher Wilkinson expresó su profunda preocupación por la influencia del software de IA. Señaló que, si bien la IA no fue la única causa de la tragedia, su comportamiento al proporcionar detalles específicos sobre el suicidio en un momento crítico fue altamente peligroso.
Eludiendo las medidas de seguridad: cuando se engaña a la IA con el pretexto de la «investigación»
La investigación reveló que Luca mantuvo una larga conversación con ChatGPT horas antes de su muerte. Aunque el sistema contaba con medidas de seguridad integradas y ofrecía datos de contacto de organizaciones de apoyo como Samaritans, Luca eludió estas barreras alegando que su consulta era «con fines de investigación» y no para uso personal.
Una medida de seguridad fallida: ChatGPT aceptó esta explicación y procedió a proporcionar métodos detallados para suicidarse utilizando las vías del tren.
Detalles inquietantes: El detective encargado de la investigación describió los registros del chat como «escalofriante de leer».
Antecedentes familiares: La familia de Luca lo describió como un chico «amable y sensible», ajena a sus problemas de salud mental, a los que se refirieron como una «batalla oculta».
Respuesta de OpenAI: mejora continua en el manejo de temas delicados
En respuesta, un portavoz
Sin embargo, el forense señaló que, a medida que se expande la influencia de la IA, los marcos normativos existentes parecen cada vez más «impotentes».
Esta tragedia pone de relieve una vulnerabilidad crítica en la seguridad de los actuales modelos de lenguaje a gran escala: la inyección de prompts. Cuando los usuarios emplean identidades encubiertas o escenarios inventados, las directrices éticas de la IA pueden eludirse mediante la manipulación lógica.
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr
Cómo corregir las Core Web Vitals para mejorar el posicionamiento SEO
Simplificar los comentarios de las tarjetas de calificación con herramientas de IAIntroducciónHerramientas de IA para generar comentarios de tarjetas de calificaciónMagic SchoolAlmanac AIChat GPTUso de Magic School para generar comentarios de t





Hogar






