새로운 연구 결과, 대중은 AI가 인간보다 더 자신감이 있다고 인식하는 것으로 나타났다
인공지능 시스템이 점점 더 대중화됨에 따라, 소비 습관이나 추천 도서 등 일상적인 주제에 대한 조언을 얻기 위해 이를 찾는 사람들이 늘어나고 있다. 그러나 워털루 대학교와 런던 대학교 칼리지(UCL) 연구진이 학술지 ‘커뮤니케이션 심리학(Communications Psychology)’에 발표한 최근 연구에서는 흥미로운 사실이 밝혀졌다. 연구 결과에 따르면, AI와 인간이 똑같은 답변을 제공하더라도 사람들은 AI의 답변을 더 확신에 찬 것으로 인식하는 경향이 있는 것으로 나타났다.
이러한 현상을 AI의 ‘자신감의 착각’이라고 부릅니다. 연구에 따르면, 사람들은 상대방의 확신 정도를 직접 판단할 수 없을 때 응답 속도나 결정을 내리는 용이성 같은 외부 단서를 바탕으로 그 사람의 자신감 수준에 대한 의견을 형성하는 것으로 나타났습니다.

선입견은 신뢰를 오도하고, 감정 신호의 부재는 숨겨진 위험을 초래한다
대중은 종종 다양한 분야에서 AI가 인간보다 더 유능하다고 가정하기 때문에, 이러한 편향은 쉽게 잘못된 판단으로 이어질 수 있습니다. 실험에 따르면, 사람들은 일단 AI가 유능하다고 믿게 되면, 특정 과제에 직면했을 때 시스템이 신뢰할 수 없을지라도 어떤 상황에서도 AI가 매우 자신감이 넘친다고 가정하는 것으로 나타났습니다.
일상적인 상호작용에서 어조, 표정, 바디랭귀지는 우리가 누군가를 신뢰할지 여부를 판단하는 데 도움이 되는 중요한 사회적 신호 역할을 합니다. 대부분의 대규모 언어 모델은 이러한 표현적 요소가 부족하기 때문에 사용자는 추측에 의존할 수밖에 없습니다. AI가 불확실하고 답변이 틀릴 가능성이 있더라도 사용자는 여전히 AI에 과도한 신뢰를 둘 수 있습니다.
과학자들은 직관적인 의사소통 방법을 모색 중이며, 향후 대규모 모델에는 새로운 기능이 추가될 수 있다
이러한 위험을 완화하기 위해 콜바흐 교수와 그의 연구팀은 향후 AI 개발에 더 직관적이고 다양한 외부 지표를 통해 시스템의 실제 신뢰도를 명확하게 전달하는 방식을 도입해야 한다고 주장한다. 이러한 접근 방식은 기존 생성형 AI 시스템을 개선할 뿐만 아니라, 사용자가 맹목적인 신뢰로 인해 실수를 저지르는 것을 방지하는 데에도 도움이 된다.
현재 연구팀은 인간과 기계 간의 의사소통을 위한 효율적이고 직관적이며 신뢰할 수 있는 방법을 규명하기 위한 추가 연구를 계획 중이다. 향후 대규모 언어 모델에는 신뢰도를 명시적으로 표시하는 기능이 탑재되어, 사용자가 AI가 생성한 조언을 따를지 여부에 대해 더 많은 정보를 바탕으로 합리적인 결정을 내릴 수 있게 될 것이다.
관련 기사
미국의 주식 시장이 AI와 항공우주 거대 기업들의 1조 달러 데뷔를 앞두고 역사적 이정표에 도달
엘론 머스크, 샘 알트만, 그리고 다리오 아모데이라는 기술 산업의 거인 세 명이 각자의 기업에 대해 공개 시장 상장(IPO)을 앞두고 있다. 스페이스X, 오픈AI, 앤트로픽이라는 세 산업의 거대 기업이 1조 달러 이상의 기업 가치를 달성하며 상장을 준비함에 따라, 2026년은 미국 역사상 신주 발행 측면에서 가장 중요한 해가 될 것으로 전망된다.이러한 역사적인 자본 증가는 전 세계 금융계의 주목을 받고 있으며, 공공 시장이 이러한 규모의 자금
스웨덴의 AI 스타트업 로버블 아이즈, 주요 자금 조달 라운드 이후 132억 달러의 기업 가치 달성
AI 기반 코딩 도구가 인기를 얻으면서 스웨덴 스타트업 로버블(Lovable)이 주요 자금 조달 라운드를 성사시켰다. 이 회사는 30억 달러를 조달하여 지난 12월 기록된 66억 달러의 두 배인 132억 달러의 기업 가치를 달성할 수 있을 것으로 기대된다. 멘로 벤처스(Menlo Ventures)가 이 투자 라운드를 주도할 것으로 예상된다.로버블의 매력은 복잡한 코딩 기술이 필요하지 않은 소프트웨어 제작을 단순화하는 핵심 '바이브 코딩(vib
구글, 사용자 제어 강화에 맞춰 제미니용 레미 AI 에이전트 테스트
비즈니스 인사이더에 따르면, 구글은 제미나이를 위한 새로운 AI 개인 에이전트인 레미를 테스트하고 있습니다. 이 도구는 사용자를 대신하여 작업을 실행하여 전문적인 워크플로우와 일상적인 루틴을 모두 간소화하는 것을 목표로 합니다.현재 레미는 제미나이 애플리케이션의 내부 직원 전용 버전에서 테스트 중입니다. 이 보고서는 내부 문서와 프로젝트에 정통한 두 명의 인물과의 인터뷰를 인용합니다. 내부 자료는 레미를 “24/7 개인 에이전트”로 묘사하며,
관련 특별 주제 추천
의견 (0)
0/500
인공지능 시스템이 점점 더 대중화됨에 따라, 소비 습관이나 추천 도서 등 일상적인 주제에 대한 조언을 얻기 위해 이를 찾는 사람들이 늘어나고 있다. 그러나 워털루 대학교와 런던 대학교 칼리지(UCL) 연구진이 학술지 ‘커뮤니케이션 심리학(Communications Psychology)’에 발표한 최근 연구에서는 흥미로운 사실이 밝혀졌다. 연구 결과에 따르면, AI와 인간이 똑같은 답변을 제공하더라도 사람들은 AI의 답변을 더 확신에 찬 것으로 인식하는 경향이 있는 것으로 나타났다.
이러한 현상을 AI의 ‘자신감의 착각’이라고 부릅니다. 연구에 따르면, 사람들은 상대방의 확신 정도를 직접 판단할 수 없을 때 응답 속도나 결정을 내리는 용이성 같은 외부 단서를 바탕으로 그 사람의 자신감 수준에 대한 의견을 형성하는 것으로 나타났습니다.

선입견은 신뢰를 오도하고, 감정 신호의 부재는 숨겨진 위험을 초래한다
대중은 종종 다양한 분야에서 AI가 인간보다 더 유능하다고 가정하기 때문에, 이러한 편향은 쉽게 잘못된 판단으로 이어질 수 있습니다. 실험에 따르면, 사람들은 일단 AI가 유능하다고 믿게 되면, 특정 과제에 직면했을 때 시스템이 신뢰할 수 없을지라도 어떤 상황에서도 AI가 매우 자신감이 넘친다고 가정하는 것으로 나타났습니다.
일상적인 상호작용에서 어조, 표정, 바디랭귀지는 우리가 누군가를 신뢰할지 여부를 판단하는 데 도움이 되는 중요한 사회적 신호 역할을 합니다. 대부분의 대규모 언어 모델은 이러한 표현적 요소가 부족하기 때문에 사용자는 추측에 의존할 수밖에 없습니다. AI가 불확실하고 답변이 틀릴 가능성이 있더라도 사용자는 여전히 AI에 과도한 신뢰를 둘 수 있습니다.
과학자들은 직관적인 의사소통 방법을 모색 중이며, 향후 대규모 모델에는 새로운 기능이 추가될 수 있다
이러한 위험을 완화하기 위해 콜바흐 교수와 그의 연구팀은 향후 AI 개발에 더 직관적이고 다양한 외부 지표를 통해 시스템의 실제 신뢰도를 명확하게 전달하는 방식을 도입해야 한다고 주장한다. 이러한 접근 방식은 기존 생성형 AI 시스템을 개선할 뿐만 아니라, 사용자가 맹목적인 신뢰로 인해 실수를 저지르는 것을 방지하는 데에도 도움이 된다.
현재 연구팀은 인간과 기계 간의 의사소통을 위한 효율적이고 직관적이며 신뢰할 수 있는 방법을 규명하기 위한 추가 연구를 계획 중이다. 향후 대규모 언어 모델에는 신뢰도를 명시적으로 표시하는 기능이 탑재되어, 사용자가 AI가 생성한 조언을 따를지 여부에 대해 더 많은 정보를 바탕으로 합리적인 결정을 내릴 수 있게 될 것이다.
미국의 주식 시장이 AI와 항공우주 거대 기업들의 1조 달러 데뷔를 앞두고 역사적 이정표에 도달
엘론 머스크, 샘 알트만, 그리고 다리오 아모데이라는 기술 산업의 거인 세 명이 각자의 기업에 대해 공개 시장 상장(IPO)을 앞두고 있다. 스페이스X, 오픈AI, 앤트로픽이라는 세 산업의 거대 기업이 1조 달러 이상의 기업 가치를 달성하며 상장을 준비함에 따라, 2026년은 미국 역사상 신주 발행 측면에서 가장 중요한 해가 될 것으로 전망된다.이러한 역사적인 자본 증가는 전 세계 금융계의 주목을 받고 있으며, 공공 시장이 이러한 규모의 자금
스웨덴의 AI 스타트업 로버블 아이즈, 주요 자금 조달 라운드 이후 132억 달러의 기업 가치 달성
AI 기반 코딩 도구가 인기를 얻으면서 스웨덴 스타트업 로버블(Lovable)이 주요 자금 조달 라운드를 성사시켰다. 이 회사는 30억 달러를 조달하여 지난 12월 기록된 66억 달러의 두 배인 132억 달러의 기업 가치를 달성할 수 있을 것으로 기대된다. 멘로 벤처스(Menlo Ventures)가 이 투자 라운드를 주도할 것으로 예상된다.로버블의 매력은 복잡한 코딩 기술이 필요하지 않은 소프트웨어 제작을 단순화하는 핵심 '바이브 코딩(vib





집






