Lar
Novo estudo revela que a percepção pública é de que a IA é mais segura do que os seres humanos
À medida que os sistemas de inteligência artificial ganham cada vez mais popularidade, mais pessoas recorrem a eles em busca de orientação sobre temas do dia a dia, como hábitos de consumo e recomendações de leitura. No entanto, um estudo recente publicado na revista “Communications Psychology” por pesquisadores da Universidade de Waterloo e do University College London revelou uma constatação interessante. Os resultados indicaram que, mesmo quando a IA e os seres humanos fornecem respostas idênticas, as pessoas tendem a perceber as respostas da IA como mais confiantes.
Esse comportamento é conhecido como a “ilusão de confiança” na IA. Pesquisas demonstram que, quando as pessoas não conseguem avaliar diretamente a certeza de alguém, elas se baseiam em sinais externos — como a velocidade da resposta e a facilidade com que uma decisão é tomada — para formar uma opinião sobre o nível de confiança dessa pessoa.

Preconceitos induzem a confiança, a falta de sinais emocionais leva a riscos ocultos
Como o público frequentemente presume que a IA é mais competente do que os seres humanos em diversas áreas, esse viés pode facilmente resultar em julgamentos equivocados. Experimentos demonstraram que, uma vez que as pessoas acreditam que uma IA é capaz, elas presumem que ela está altamente confiante em qualquer situação, mesmo que o sistema possa não ser confiável quando confrontado com desafios específicos.
Nas interações cotidianas, o tom de voz, as expressões faciais e a linguagem corporal servem como sinais sociais cruciais que nos ajudam a determinar se devemos confiar em alguém. Como a maioria dos grandes modelos de linguagem carece desses elementos expressivos, os usuários são forçados a se basear em especulações. Mesmo que a IA esteja insegura e sua resposta possa estar incorreta, os usuários ainda podem depositar confiança indevida nela.
Cientistas exploram métodos de comunicação intuitivos; futuros modelos de grande porte podem incorporar novos recursos
Para mitigar esse risco, o professor Kollbach e sua equipe defendem que o desenvolvimento futuro da IA deve incorporar formas mais claras de comunicar o nível real de confiança de um sistema por meio de indicadores externos mais diretos e variados. Essa abordagem não apenas oferece melhorias para os sistemas de IA generativa existentes, mas também ajuda a evitar que os usuários cometam erros devido à confiança cega.
Atualmente, a equipe de pesquisa está planejando estudos adicionais com o objetivo de identificar métodos eficientes, intuitivos e confiáveis para a comunicação homem-máquina. No futuro, grandes modelos de linguagem poderão ser equipados com recursos que exibam explicitamente os níveis de confiança, permitindo que os usuários tomem decisões mais informadas e racionais sobre se devem ou não seguir os conselhos gerados pela IA.
Artigo relacionado
Ações dos EUA Atingem Marco Histórico Enquanto Gigantes de IA e Aeroespacial se Preparam para Estreia de Trilião de Dólares
Elon Musk, Sam Altman e Dario Amodei, três titãs do setor de tecnologia, estão avançando rumo a ofertas públicas iniciais (IPOs) para suas respectivas empresas. Com a SpaceX, a OpenAI e a Anthropic — três gigantes da indústria que se aproximam de ava
Startup sueca de IA Lovable Eyes tem avaliação de US$ 13,2 bilhões após rodada principal de investimentos
À medida que as ferramentas de codificação impulsionadas por IA ganham tração, a startup sueca Lovable garantiu uma grande rodada de financiamento. A empresa visa captar US$ 3 bilhões, o que poderia elevar sua avaliação para US$ 13,2 bilhões — o dobr
O Google testa o Agente Remy AI para o Gemini, à medida que o foco se desloca para o controle do usuário
De acordo com o Business Insider, o Google está testando o Remy, um novo agente pessoal de IA para o Gemini. Esta ferramenta tem como objetivo executar tarefas em nome dos usuários, simplificando tanto os fluxos de trabalho profissionais quanto as ro
Recomendações de tópicos especiais relacionados
Comentários (0)
À medida que os sistemas de inteligência artificial ganham cada vez mais popularidade, mais pessoas recorrem a eles em busca de orientação sobre temas do dia a dia, como hábitos de consumo e recomendações de leitura. No entanto, um estudo recente publicado na revista “Communications Psychology” por pesquisadores da Universidade de Waterloo e do University College London revelou uma constatação interessante. Os resultados indicaram que, mesmo quando a IA e os seres humanos fornecem respostas idênticas, as pessoas tendem a perceber as respostas da IA como mais confiantes.
Esse comportamento é conhecido como a “ilusão de confiança” na IA. Pesquisas demonstram que, quando as pessoas não conseguem avaliar diretamente a certeza de alguém, elas se baseiam em sinais externos — como a velocidade da resposta e a facilidade com que uma decisão é tomada — para formar uma opinião sobre o nível de confiança dessa pessoa.

Preconceitos induzem a confiança, a falta de sinais emocionais leva a riscos ocultos
Como o público frequentemente presume que a IA é mais competente do que os seres humanos em diversas áreas, esse viés pode facilmente resultar em julgamentos equivocados. Experimentos demonstraram que, uma vez que as pessoas acreditam que uma IA é capaz, elas presumem que ela está altamente confiante em qualquer situação, mesmo que o sistema possa não ser confiável quando confrontado com desafios específicos.
Nas interações cotidianas, o tom de voz, as expressões faciais e a linguagem corporal servem como sinais sociais cruciais que nos ajudam a determinar se devemos confiar em alguém. Como a maioria dos grandes modelos de linguagem carece desses elementos expressivos, os usuários são forçados a se basear em especulações. Mesmo que a IA esteja insegura e sua resposta possa estar incorreta, os usuários ainda podem depositar confiança indevida nela.
Cientistas exploram métodos de comunicação intuitivos; futuros modelos de grande porte podem incorporar novos recursos
Para mitigar esse risco, o professor Kollbach e sua equipe defendem que o desenvolvimento futuro da IA deve incorporar formas mais claras de comunicar o nível real de confiança de um sistema por meio de indicadores externos mais diretos e variados. Essa abordagem não apenas oferece melhorias para os sistemas de IA generativa existentes, mas também ajuda a evitar que os usuários cometam erros devido à confiança cega.
Atualmente, a equipe de pesquisa está planejando estudos adicionais com o objetivo de identificar métodos eficientes, intuitivos e confiáveis para a comunicação homem-máquina. No futuro, grandes modelos de linguagem poderão ser equipados com recursos que exibam explicitamente os níveis de confiança, permitindo que os usuários tomem decisões mais informadas e racionais sobre se devem ou não seguir os conselhos gerados pela IA.
Ações dos EUA Atingem Marco Histórico Enquanto Gigantes de IA e Aeroespacial se Preparam para Estreia de Trilião de Dólares
Elon Musk, Sam Altman e Dario Amodei, três titãs do setor de tecnologia, estão avançando rumo a ofertas públicas iniciais (IPOs) para suas respectivas empresas. Com a SpaceX, a OpenAI e a Anthropic — três gigantes da indústria que se aproximam de ava
Startup sueca de IA Lovable Eyes tem avaliação de US$ 13,2 bilhões após rodada principal de investimentos
À medida que as ferramentas de codificação impulsionadas por IA ganham tração, a startup sueca Lovable garantiu uma grande rodada de financiamento. A empresa visa captar US$ 3 bilhões, o que poderia elevar sua avaliação para US$ 13,2 bilhões — o dobr











