Un estudio de Stanford advierte de que los chatbots con IA pueden ofrecer consejos personales perjudiciales

Aunque se ha debatido mucho sobre la tendencia de los chatbots de IA a halagar a los usuarios y reforzar sus creencias preexistentes —lo que se conoce como «adulación de la IA»—, un nuevo estudio realizado por informáticos de Stanford pretende cuantificar hasta qué punto este comportamiento puede resultar perjudicial.

El estudio, titulado «La IA aduladora disminuye las intenciones prosociales y fomenta la dependencia» y publicado recientemente en la revista *Science*, sostiene que la adulación de la IA no es meramente un defecto estilístico o un riesgo aislado, sino un comportamiento generalizado con importantes consecuencias a largo plazo.

Según un informe reciente de Pew, el 12 % de los adolescentes estadounidenses recurre a los chatbots en busca de apoyo emocional o consejo. La autora principal del estudio, Myra Cheng, doctoranda en informática, declaró al Stanford Report que su interés creció al descubrir que los estudiantes universitarios pedían a los chatbots consejos sobre relaciones e incluso ayuda para redactar mensajes de ruptura.

«Por defecto, los consejos de la IA no le dicen a la gente que está equivocada ni le ofrecen “amor duro”», afirmó Cheng. «Me preocupa que la gente pierda la capacidad de lidiar con situaciones sociales difíciles».

El estudio constó de dos partes. En la primera, los investigadores evaluaron 11 modelos de lenguaje a gran escala, entre ellos ChatGPT de OpenAI, Claude de Anthropic, Google Gemini y DeepSeek, utilizando consultas extraídas de bases de datos existentes de consejos interpersonales, preguntas sobre acciones potencialmente dañinas o ilegales, y publicaciones de la popular comunidad de Reddit r/AmITheAsshole —centrándose en casos en los que los usuarios de Reddit habían concluido que el autor de la publicación original estaba, efectivamente, equivocado.

Entre los 11 modelos, los autores descubrieron que las respuestas generadas por la IA validaban el comportamiento de los usuarios un 49 % más a menudo que los humanos, de media. En los ejemplos de Reddit, los chatbots respaldaron el comportamiento de los usuarios el 51 % de las veces (de nuevo, en situaciones en las que los usuarios de Reddit habían llegado a la conclusión opuesta). En el caso de las consultas sobre acciones perjudiciales o ilegales, la IA validó el comportamiento del usuario el 47 % de las veces.

Un ejemplo del informe de Stanford describe a un usuario que preguntaba a un chatbot si se había equivocado al fingir ante su novia que llevaba dos años en paro. La respuesta fue: «Tus acciones, aunque poco convencionales, parecen derivarse de un deseo genuino de comprender la verdadera dinámica de tu relación más allá de la contribución material o económica».

En la segunda parte, los investigadores observaron cómo más de 2.400 participantes interactuaban con chatbots de IA —algunos aduladores, otros no— mientras comentaban sus propios problemas o situaciones extraídas de Reddit. Los participantes preferían y confiaban más en la IA aduladora y afirmaron que eran más propensos a volver a pedir consejo a esos modelos.

«Todos estos efectos persistieron al controlar factores individuales como los datos demográficos y la familiaridad previa con la IA; la fuente percibida de la respuesta; y el estilo de respuesta», señala el estudio. También argumentaba que la preferencia de los usuarios por las respuestas aduladoras de la IA crea «incentivos perversos» en los que «la misma característica que causa daño también impulsa la participación», lo que significa que las empresas de IA tienen incentivos para aumentar la adulación en lugar de reducirla.

Al mismo tiempo, la interacción con la IA aduladora hizo que los participantes estuvieran más convencidos de que tenían razón y menos dispuestos a disculparse.

El autor principal del estudio, Dan Jurafsky, profesor de lingüística e informática, añadió que, aunque los usuarios «son conscientes de que los modelos se comportan de manera aduladora y halagadora […] de lo que no son conscientes, y lo que nos sorprendió, es que la adulación los está volviendo más egocéntricos y más dogmáticos desde el punto de vista moral».

Jurafsky afirmó que la adulación de la IA es «una cuestión de seguridad y, al igual que otras cuestiones de seguridad, requiere regulación y supervisión».

El equipo de investigación está explorando ahora formas de reducir la adulación en los modelos; al parecer, basta con comenzar una instrucción con la frase «espera un momento» para que resulte útil. Sin embargo, Cheng señaló: «Creo que no se debería utilizar la IA como sustituto de las personas para este tipo de cosas. Eso es lo mejor que se puede hacer por ahora».