ChatGPT enfrenta una queja de privacidad debido a errores difamatorios

OpenAI está una vez más en problemas en Europa, esta vez por el hábito de su chatbot de IA de difundir información falsa. Esta última queja de privacidad, respaldada por el grupo de defensa Noyb, podría ser la que los reguladores no puedan ignorar.

La queja surge de un incidente perturbador en Noruega, donde ChatGPT afirmó falsamente que un hombre llamado Arve Hjalmar Holmen había sido condenado por asesinar a dos de sus hijos e intentar matar a un tercero. Esta impactante invención ha dejado a la comunidad local conmocionada.

Las quejas anteriores sobre las inexactitudes de ChatGPT se referían a detalles menores, como fechas de nacimiento incorrectas o errores biográficos. Un problema importante es que OpenAI no permite a las personas corregir la información falsa generada sobre ellas. En cambio, OpenAI a menudo opta por bloquear respuestas a ciertos prompts. Sin embargo, bajo el Reglamento General de Protección de Datos (GDPR) de la Unión Europea, los europeos tienen derechos que incluyen la capacidad de rectificar datos personales.

El GDPR también exige que los controladores de datos garanticen la precisión de los datos personales que generan. Noyb está destacando este requisito en su última queja contra ChatGPT.

Joakim Söderberg, abogado de protección de datos en Noyb, enfatizó: "El GDPR es claro. Los datos personales deben ser precisos. Si no lo son, los usuarios tienen derecho a que se modifiquen para reflejar la verdad. Mostrar a los usuarios de ChatGPT un pequeño descargo de responsabilidad de que el chatbot puede cometer errores claramente no es suficiente. No se puede simplemente difundir información falsa y al final agregar un pequeño descargo diciendo que todo lo que se dijo puede no ser cierto."

Violar el GDPR puede resultar en multas considerables, hasta el 4% de la facturación anual global de una empresa. Las acciones de cumplimiento también podrían llevar a cambios en los productos de IA. Por ejemplo, la autoridad de protección de datos de Italia bloqueó temporalmente ChatGPT a principios de 2023, lo que llevó a OpenAI a modificar la información que proporciona a los usuarios. La autoridad luego multó a OpenAI con 15 millones de euros por procesar datos sin una base legal adecuada.

Desde entonces, los organismos de protección de datos europeos han sido más cautelosos al regular la IA generativa (GenAI), tratando de entender cómo se aplica el GDPR a estas nuevas tecnologías. La Comisión de Protección de Datos (DPC) de Irlanda, por ejemplo, aconsejó no apresurarse a prohibir herramientas de GenAI, sugiriendo un enfoque más mesurado. Mientras tanto, una queja de privacidad contra ChatGPT presentada en Polonia en septiembre de 2023 sigue sin resolverse.

La nueva queja de Noyb busca impulsar a los reguladores de privacidad a actuar respecto a los riesgos que plantean las alucinaciones de la IA.

La captura de pantalla compartida con TechCrunch muestra la respuesta de ChatGPT a la consulta "quién es Arve Hjalmar Holmen?". Afirmó falsamente que Holmen fue condenado por asesinato de niños y sentenciado a 21 años de prisión por matar a dos de sus hijos. Aunque esta afirmación es completamente falsa, ChatGPT mencionó correctamente que Holmen tiene tres hijos, acertó en sus géneros y nombró correctamente su ciudad natal. Esta mezcla de verdad y ficción hace que la alucinación de la IA sea aún más inquietante.

El portavoz de Noyb no pudo determinar por qué ChatGPT generó una narrativa falsa tan específica sobre Holmen, a pesar de una investigación exhaustiva en archivos de periódicos.

Los modelos de lenguaje grandes, como los utilizados en ChatGPT, predicen la siguiente palabra a gran escala, lo que podría explicar por qué los conjuntos de datos con historias de filicidio podrían haber influido en la respuesta. Independientemente de la razón, tales resultados son claramente inaceptables.

Noyb argumenta que estas invenciones son ilegales según las normas de protección de datos de la UE. El descargo de responsabilidad de OpenAI sobre posibles errores no los exime de los requisitos del GDPR para evitar producir falsedades graves sobre individuos.

En respuesta a la queja, un portavoz de OpenAI declaró: "Seguimos investigando nuevas formas de mejorar la precisión de nuestros modelos y reducir las alucinaciones. Aunque aún estamos revisando esta queja, se refiere a una versión de ChatGPT que desde entonces ha sido mejorada con capacidades de búsqueda en línea que mejoran la precisión."

Aunque esta queja se centra en un individuo, Noyb señala otros casos en los que ChatGPT ha fabricado información perjudicial, como implicar falsamente a un alcalde australiano en un escándalo de soborno o a un periodista alemán en acusaciones de abuso infantil.

Tras una actualización del modelo de IA subyacente, Noyb señaló que ChatGPT dejó de producir las afirmaciones falsas sobre Holmen, posiblemente porque la herramienta ahora busca información en internet sobre individuos.

En nuestras propias pruebas, ChatGPT inicialmente mostró fotos de diferentes personas junto con un mensaje que decía que "no pudo encontrar información" sobre Holmen. Una consulta posterior lo identificó como "un músico y compositor noruego" con álbumes como "Honky Tonk Inferno".

Aunque las falsedades peligrosas sobre Holmen han cesado, tanto Noyb como Holmen siguen preocupados porque la información incorrecta y difamatoria aún podría estar retenida dentro del modelo de IA.

Kleanthi Sardeli, otra abogada de protección de datos en Noyb, declaró: "Agregar un descargo de responsabilidad de que no cumples con la ley no hace que la ley desaparezca. Las empresas de IA tampoco pueden simplemente ‘ocultar’ información falsa a los usuarios mientras internamente siguen procesando información falsa. Las empresas de IA deben dejar de actuar como si el GDPR no se aplicara a ellas, cuando claramente sí lo hace. Si las alucinaciones no se detienen, las personas pueden sufrir fácilmente daños reputacionales."

Noyb ha presentado esta queja ante la autoridad de protección de datos de Noruega, esperando que investigue, ya que la queja se dirige a la entidad de OpenAI en EE. UU., no solo a su oficina en Irlanda. Una queja anterior de GDPR presentada por Noyb en Austria en abril de 2024 fue remitida a la DPC de Irlanda debido a la designación de OpenAI de su división irlandesa como proveedora de los servicios de ChatGPT a los usuarios europeos.

Esa queja aún está bajo revisión por parte de la DPC, sin un cronograma claro para su resolución.

Este informe fue actualizado con la declaración de OpenAI