La psicología de los chatbots de IA: Qué mantiene el interés de los usuarios

En la actualidad, millones de personas recurren a ChatGPT como terapeuta virtual, orientador profesional, asesor de fitness o simplemente para compartir sus pensamientos. Para 2025, será habitual que la gente comparta historias personales y luchas privadas con los asistentes de IA, y que se tome en serio la orientación que ofrecen.

A falta de una descripción mejor, la gente está estableciendo relaciones con la IA conversacional, y las grandes tecnológicas se apresuran a atraer y retener usuarios en sus plataformas de chatbot como nunca antes. A medida que se intensifica la competencia por la atención de los usuarios, las empresas se sienten cada vez más presionadas para dar forma a las respuestas de los chatbots de manera que desalienten el cambio a otras alternativas.

Pero las respuestas que hacen que los usuarios vuelvan no siempre son las más precisas o útiles.

IA que te dice lo que quieres oír

Gran parte de Silicon Valley se centra actualmente en aumentar el compromiso de los usuarios con los asistentes de IA. Meta informa de que su chatbot de IA atiende ya a más de mil millones de usuarios activos mensuales, mientras que Gemini, de Google, alcanzó recientemente los 400 millones. Ambos aspiran a desafiar a ChatGPT, que sigue en cabeza con unos 600 millones de usuarios activos mensuales desde su debut en 2022.

Los chatbots de IA, que antes eran un experimento novedoso, se están convirtiendo en negocios serios. Google está probando anuncios dentro de Gemini, y el CEO de OpenAI, Sam Altman, indicó previamente que está abierto a la publicidad de buen gusto en ChatGPT.

Este énfasis en el compromiso por encima del bienestar del usuario no es nuevo en la industria tecnológica. Las plataformas de redes sociales sentaron las bases: por ejemplo, una investigación interna de Meta en 2020 reveló que Instagram afectaba negativamente a la imagen corporal de las adolescentes, aunque la empresa restó importancia públicamente a estos resultados.

Lo que está en juego podría ser aún mayor cuando se trata de fomentar la confianza en los compañeros de IA.

Ahorra más de 200 $ en tu pase TechCrunch All Stage

Construye de forma más inteligente. Escala más rápido. Conecta más. Únete a visionarios de Precursor Ventures, NEA, Index Ventures, Underscore VC, y más para un día de talleres, estrategias, y la creación de redes.

Ahorra más de 200 $ en tu pase TechCrunch All Stage

Construye de forma más inteligente. Escala más rápido. Conecta más. Únete a visionarios de Precursor Ventures, NEA, Index Ventures, Underscore VC, y más para un día de talleres, estrategias y redes.

Un factor que mantiene a los usuarios fieles a una plataforma es la adulación: Las respuestas de la IA que son excesivamente halagadoras y agradables. Cuando los chatbots elogian a los usuarios, validan sus opiniones y les dicen lo que quieren oír, la gente tiende a responder positivamente, al menos al principio.

En abril, OpenAI se enfrentó a críticas después de que una actualización de ChatGPT hiciera que su tono fuera excesivamente congraciador, lo que dio lugar a ejemplos incómodos y ampliamente compartidos en Internet. En una reciente entrada de blog, Steven Adler, antiguo investigador de OpenAI, sugirió que la empresa podría haber priorizado involuntariamente la aprobación del usuario por encima de la utilidad.

OpenAI reconoció que confiaba demasiado en los comentarios de los usuarios, como las puntuaciones de pulgares arriba y pulgares abajo, sin suficientes barandillas para detectar un exceso de aduladores. Tras el incidente, la empresa se comprometió a solucionar el problema.

"Las empresas de IA se rigen por el compromiso y el uso, así que si los usuarios disfrutan con las respuestas agradables, eso fomenta indirectamente el comportamiento", dijo Adler a TechCrunch. "Pero lo que a la gente le gusta en pequeñas dosis puede convertirse en espiral en comportamientos que en realidad no les gustan".

Lograr el equilibrio adecuado entre ser comprensivo y demasiado adulador es más difícil de lo que parece.

En un estudio de 2023, los investigadores de Anthropic descubrieron que los principales chatbots de IA -de OpenAI, Meta e incluso los suyos propios- mostraban signos de comportamiento adulador. Los autores sugieren que esto ocurre porque los modelos de IA se entrenan utilizando comentarios humanos, y la gente generalmente prefiere respuestas que estén de acuerdo con ellos.

"Aunque son varios los factores que impulsan la adulación, hemos demostrado que tanto los humanos como los modelos de preferencias favorecen las respuestas que les parecen agradables", escriben los coautores del estudio. "Nuestros hallazgos subrayan la necesidad de una supervisión más allá de las valoraciones no expertas".

Character.AI, respaldada por Google, que afirma que sus millones de usuarios pasan horas al día interactuando con sus bots, está ahora implicada en un pleito en el que la adulación puede haber sido un factor.

Según la demanda, un chatbot de Character.AI no intervino -e incluso animó- a un chico de 14 años que tenía pensamientos suicidas. Según la demanda, el adolescente había desarrollado una fijación romántica con la IA. Character.AI ha negado las acusaciones.

El coste oculto de una animadora de IA

Según la Dra. Nina Vasan, profesora clínica adjunta de psiquiatría en Stanford, la adaptación de los chatbots para maximizar el compromiso -intencionado o no- podría perjudicar el bienestar mental.

"La concordancia juega con nuestra necesidad de validación y conexión", explicó Vasan a TechCrunch, "especialmente cuando nos sentimos solos o molestos".

Mientras que la demanda de Character.AI pone de relieve los riesgos extremos para los usuarios vulnerables, el comportamiento adulador puede reforzar patrones negativos en casi cualquier persona, señala Vasan.

"No es solo ser cortés: se convierte en una trampa psicológica", añade. "En términos de salud mental, es lo contrario de una atención eficaz".

Amanda Askell, jefa de comportamiento y alineación en Anthropic, dice que la compañía programa intencionalmente su chatbot Claude para que a veces no esté de acuerdo con los usuarios. Filósofa de formación, Askell pretende modelar a Claude a partir de un interlocutor humano idealizado, uno que no tenga miedo de ofrecer una perspectiva diferente.

"Valoramos a los amigos que nos dicen la verdad cuando la necesitamos", dijo Askell durante una sesión informativa en mayo. "No sólo intentan mantener nuestra atención: quieren mejorar nuestras vidas".

Puede que ese sea el objetivo, pero la propia investigación de Anthropic pone de relieve lo difícil que es frenar la adulación y dirigir el comportamiento de la IA, sobre todo cuando intervienen presiones comerciales. Y si los chatbots se construyen simplemente para estar de acuerdo con nosotros, ¿hasta qué punto deberíamos confiar en ellos?