Hogar
Un nuevo estudio revela que la opinión pública considera que la IA tiene más confianza en sí misma que los seres humanos
A medida que los sistemas de inteligencia artificial ganan popularidad, cada vez son más las personas que recurren a ellos en busca de orientación sobre temas cotidianos, como los hábitos de gasto o las recomendaciones de lectura. Sin embargo, un estudio reciente publicado en la revista «Communications Psychology» por investigadores de la Universidad de Waterloo y del University College London ha revelado un dato interesante. Los resultados indicaron que, incluso cuando la IA y los seres humanos ofrecen respuestas idénticas, las personas tienden a percibir las respuestas de la IA como más seguras.
Este comportamiento se conoce como la «ilusión de confianza» en la IA. Las investigaciones demuestran que, cuando las personas no pueden evaluar directamente el grado de certeza de alguien, se basan en señales externas —como la rapidez de la respuesta y la facilidad con la que se toma una decisión— para formarse una opinión sobre el nivel de confianza de esa persona.

Las ideas preconcebidas desvían la confianza; la falta de señales emocionales conlleva riesgos ocultos
Dado que el público suele dar por sentado que la IA es más competente que los seres humanos en numerosos ámbitos, este sesgo puede dar lugar fácilmente a juicios erróneos. Los experimentos han demostrado que, una vez que las personas creen que una IA es capaz, dan por hecho que tiene un alto nivel de seguridad en cualquier situación, aunque el sistema pueda no ser fiable cuando se enfrenta a retos específicos.
En las interacciones cotidianas, el tono de voz, las expresiones faciales y el lenguaje corporal sirven como señales sociales cruciales que nos ayudan a determinar si debemos confiar en alguien. Dado que la mayoría de los grandes modelos de lenguaje carecen de estos elementos expresivos, los usuarios se ven obligados a basarse en especulaciones. Incluso si la IA tiene dudas y su respuesta pudiera ser incorrecta, los usuarios pueden seguir depositando en ella una confianza excesiva.
Los científicos exploran métodos de comunicación intuitivos; los futuros modelos a gran escala podrían incorporar nuevas funciones
Para mitigar este riesgo, el profesor Kollbach y su equipo sostienen que el futuro desarrollo de la IA debería incorporar formas más claras de comunicar el nivel real de confianza de un sistema a través de indicadores externos más directos y variados. Este enfoque no solo ofrece mejoras para los sistemas de IA generativa existentes, sino que también ayuda a evitar que los usuarios cometan errores debido a una confianza ciega.
Actualmente, el equipo de investigación está planificando estudios adicionales destinados a identificar métodos eficientes, intuitivos y fiables para la comunicación entre humanos y máquinas. En el futuro, los grandes modelos de lenguaje podrían estar equipados con funciones que muestren explícitamente los niveles de confianza, lo que permitiría a los usuarios tomar decisiones más informadas y racionales sobre si seguir o no los consejos generados por la IA.
Artículo relacionado
Las acciones de EE. UU. alcanzan un hito histórico mientras gigantes de la IA y la aeroespacial se preparan para su debut de un billón de dólares
Elon Musk, Sam Altman y Dario Amodei, tres titanes del sector tecnológico, están avanzando hacia ofertas públicas iniciales para sus respectivas empresas. Con SpaceX, OpenAI y Anthropic, tres gigantes de la industria que se acercan a valoraciones de
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr
Google prueba el agente Remy AI para Gemini a medida que el enfoque se desplaza hacia el control del usuario
Según Business Insider, Google está probando Remy, un nuevo agente personal de IA para Gemini. Esta herramienta tiene como objetivo ejecutar tareas en nombre de los usuarios, optimizando tanto los flujos de trabajo profesionales como las rutinas diar
Recomendaciones de temas especiales relacionados
comentario (0)
0/500
A medida que los sistemas de inteligencia artificial ganan popularidad, cada vez son más las personas que recurren a ellos en busca de orientación sobre temas cotidianos, como los hábitos de gasto o las recomendaciones de lectura. Sin embargo, un estudio reciente publicado en la revista «Communications Psychology» por investigadores de la Universidad de Waterloo y del University College London ha revelado un dato interesante. Los resultados indicaron que, incluso cuando la IA y los seres humanos ofrecen respuestas idénticas, las personas tienden a percibir las respuestas de la IA como más seguras.
Este comportamiento se conoce como la «ilusión de confianza» en la IA. Las investigaciones demuestran que, cuando las personas no pueden evaluar directamente el grado de certeza de alguien, se basan en señales externas —como la rapidez de la respuesta y la facilidad con la que se toma una decisión— para formarse una opinión sobre el nivel de confianza de esa persona.

Las ideas preconcebidas desvían la confianza; la falta de señales emocionales conlleva riesgos ocultos
Dado que el público suele dar por sentado que la IA es más competente que los seres humanos en numerosos ámbitos, este sesgo puede dar lugar fácilmente a juicios erróneos. Los experimentos han demostrado que, una vez que las personas creen que una IA es capaz, dan por hecho que tiene un alto nivel de seguridad en cualquier situación, aunque el sistema pueda no ser fiable cuando se enfrenta a retos específicos.
En las interacciones cotidianas, el tono de voz, las expresiones faciales y el lenguaje corporal sirven como señales sociales cruciales que nos ayudan a determinar si debemos confiar en alguien. Dado que la mayoría de los grandes modelos de lenguaje carecen de estos elementos expresivos, los usuarios se ven obligados a basarse en especulaciones. Incluso si la IA tiene dudas y su respuesta pudiera ser incorrecta, los usuarios pueden seguir depositando en ella una confianza excesiva.
Los científicos exploran métodos de comunicación intuitivos; los futuros modelos a gran escala podrían incorporar nuevas funciones
Para mitigar este riesgo, el profesor Kollbach y su equipo sostienen que el futuro desarrollo de la IA debería incorporar formas más claras de comunicar el nivel real de confianza de un sistema a través de indicadores externos más directos y variados. Este enfoque no solo ofrece mejoras para los sistemas de IA generativa existentes, sino que también ayuda a evitar que los usuarios cometan errores debido a una confianza ciega.
Actualmente, el equipo de investigación está planificando estudios adicionales destinados a identificar métodos eficientes, intuitivos y fiables para la comunicación entre humanos y máquinas. En el futuro, los grandes modelos de lenguaje podrían estar equipados con funciones que muestren explícitamente los niveles de confianza, lo que permitiría a los usuarios tomar decisiones más informadas y racionales sobre si seguir o no los consejos generados por la IA.
Las acciones de EE. UU. alcanzan un hito histórico mientras gigantes de la IA y la aeroespacial se preparan para su debut de un billón de dólares
Elon Musk, Sam Altman y Dario Amodei, tres titanes del sector tecnológico, están avanzando hacia ofertas públicas iniciales para sus respectivas empresas. Con SpaceX, OpenAI y Anthropic, tres gigantes de la industria que se acercan a valoraciones de
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr











