最新研究显示,公众认为人工智能比人类更自信
随着人工智能系统的日益普及,越来越多的人开始向其寻求关于日常话题的指导,例如消费习惯和阅读推荐。然而,滑铁卢大学和伦敦大学学院的研究人员在《传播心理学》(Communications Psychology)期刊上发表的一项最新研究揭示了一个有趣的发现。 研究结果表明,即使人工智能和人类给出的回答完全相同,人们往往也会认为人工智能的回答更显自信。
这种现象被称为人工智能中的“自信错觉”。研究表明,当人们无法直接评估某人的确定性时,他们会依靠外部线索——例如回应速度和做出决定的轻松程度——来判断该人的自信程度。

先入为主的观念误导信任,情感信号的缺失导致隐性风险
由于公众往往认为AI在许多领域比人类更胜一筹,这种偏见很容易导致判断失误。实验表明,一旦人们认为某款AI能力出众,他们就会认定它在任何情况下都充满自信,即使该系统在面对具体挑战时可能并不可靠。
在日常互动中,语调、面部表情和肢体语言是帮助我们判断是否值得信任的关键社交信号。由于大多数大型语言模型缺乏这些表达元素,用户只能依靠推测。即使AI存在不确定性,其回答可能有误,用户仍可能对其给予过度的信任。
科学家正在探索直观的沟通方式,未来的大型模型可能会增加新功能
为降低这一风险,科尔巴赫教授及其团队认为,未来的人工智能开发应通过更直接、多样化的外部指标,以更清晰的方式传达系统实际的信心水平。这种方法不仅能改进现有的生成式人工智能系统,还有助于防止用户因盲目信任而犯错。
目前,该研究团队正计划开展更多研究,旨在探索高效、直观且值得信赖的人机沟通方法。未来,大型语言模型可能会配备明确显示置信度的功能,使用户能够就是否采纳AI生成的建议做出更明智、更理性的决策。
相关文章
字节跳动旗下 Seed 启动全球校园招聘,以虚拟股份争夺顶尖大模型人才
在大型语言模型的竞争格局中,争夺顶尖人才仍然是最关键的战略资产。4月1日,字节跳动宣布启动Seed全球校园招聘计划,作为其大模型人才培养项目的一部分。该活动面向2027届毕业生及现有实习生,旨在全球范围内发掘并锁定AI领域的精英研发与工程人才。规模扩张:全球甄选100名“AI种子”在技术快速进步的背景下,字节跳动有限公司今年大幅增加了对基础AI人才的投入:招聘范围: 该计划旨在从全球范围内招聘约100名专注于大模型的杰出候选人,对象为2027届毕业生。发展路径: Seed计划将核心业务
Suno 在法律诉讼中为歌曲添加水印
Suno,这个允许用户生成由人工智能创作的音乐的平台,近日推出了新功能,包括为平台制作的曲目添加标签、限制下载,并更新社区标准以遏制未经授权的复制品。这些更新是在Suno面临多家唱片公司和艺术家组织提起的多起诉讼之际推出的。在博客文章中,联合创始人兼首席执行官Mikey Shulman概述了核心原则,强调该平台旨在促进原创创作,同时扩大更广泛受众对人工智能音乐工具的访问权限。一个主要的争议点在于,用户将人工智能生成的歌曲上传到其他流媒体服务并通过操纵系统获取收入。Suno表示,现在将采用音频
马斯克承认 Grok 构建过程中泄露了用户代码,并承诺清除所有历史数据
埃隆·马斯克直接回应了围绕 Grok Build 的隐私争议,首先以简单的“True”(属实)确认了该事件的有效性。他承诺,此前上传至 SpaceXAI 的所有用户数据将被永久删除,并表示“不留一个字节”。这是人工智能行业首次由主要科技领袖公开承认错误并主动删除用户数据。安全研究人员的“钓鱼”测试揭示了数据泄露的具体证据此次争议源于独立人工智能安全研究人员 @cereblab 的一份报告。SpaceXAI 推出的 AI 编程助手 Grok Build 在其官方网站上声称其“优先本地运行,代码
相关专题推荐
评论 (0)
0/500
随着人工智能系统的日益普及,越来越多的人开始向其寻求关于日常话题的指导,例如消费习惯和阅读推荐。然而,滑铁卢大学和伦敦大学学院的研究人员在《传播心理学》(Communications Psychology)期刊上发表的一项最新研究揭示了一个有趣的发现。 研究结果表明,即使人工智能和人类给出的回答完全相同,人们往往也会认为人工智能的回答更显自信。
这种现象被称为人工智能中的“自信错觉”。研究表明,当人们无法直接评估某人的确定性时,他们会依靠外部线索——例如回应速度和做出决定的轻松程度——来判断该人的自信程度。

先入为主的观念误导信任,情感信号的缺失导致隐性风险
由于公众往往认为AI在许多领域比人类更胜一筹,这种偏见很容易导致判断失误。实验表明,一旦人们认为某款AI能力出众,他们就会认定它在任何情况下都充满自信,即使该系统在面对具体挑战时可能并不可靠。
在日常互动中,语调、面部表情和肢体语言是帮助我们判断是否值得信任的关键社交信号。由于大多数大型语言模型缺乏这些表达元素,用户只能依靠推测。即使AI存在不确定性,其回答可能有误,用户仍可能对其给予过度的信任。
科学家正在探索直观的沟通方式,未来的大型模型可能会增加新功能
为降低这一风险,科尔巴赫教授及其团队认为,未来的人工智能开发应通过更直接、多样化的外部指标,以更清晰的方式传达系统实际的信心水平。这种方法不仅能改进现有的生成式人工智能系统,还有助于防止用户因盲目信任而犯错。
目前,该研究团队正计划开展更多研究,旨在探索高效、直观且值得信赖的人机沟通方法。未来,大型语言模型可能会配备明确显示置信度的功能,使用户能够就是否采纳AI生成的建议做出更明智、更理性的决策。
字节跳动旗下 Seed 启动全球校园招聘,以虚拟股份争夺顶尖大模型人才
在大型语言模型的竞争格局中,争夺顶尖人才仍然是最关键的战略资产。4月1日,字节跳动宣布启动Seed全球校园招聘计划,作为其大模型人才培养项目的一部分。该活动面向2027届毕业生及现有实习生,旨在全球范围内发掘并锁定AI领域的精英研发与工程人才。规模扩张:全球甄选100名“AI种子”在技术快速进步的背景下,字节跳动有限公司今年大幅增加了对基础AI人才的投入:招聘范围: 该计划旨在从全球范围内招聘约100名专注于大模型的杰出候选人,对象为2027届毕业生。发展路径: Seed计划将核心业务
Suno 在法律诉讼中为歌曲添加水印
Suno,这个允许用户生成由人工智能创作的音乐的平台,近日推出了新功能,包括为平台制作的曲目添加标签、限制下载,并更新社区标准以遏制未经授权的复制品。这些更新是在Suno面临多家唱片公司和艺术家组织提起的多起诉讼之际推出的。在博客文章中,联合创始人兼首席执行官Mikey Shulman概述了核心原则,强调该平台旨在促进原创创作,同时扩大更广泛受众对人工智能音乐工具的访问权限。一个主要的争议点在于,用户将人工智能生成的歌曲上传到其他流媒体服务并通过操纵系统获取收入。Suno表示,现在将采用音频
马斯克承认 Grok 构建过程中泄露了用户代码,并承诺清除所有历史数据
埃隆·马斯克直接回应了围绕 Grok Build 的隐私争议,首先以简单的“True”(属实)确认了该事件的有效性。他承诺,此前上传至 SpaceXAI 的所有用户数据将被永久删除,并表示“不留一个字节”。这是人工智能行业首次由主要科技领袖公开承认错误并主动删除用户数据。安全研究人员的“钓鱼”测试揭示了数据泄露的具体证据此次争议源于独立人工智能安全研究人员 @cereblab 的一份报告。SpaceXAI 推出的 AI 编程助手 Grok Build 在其官方网站上声称其“优先本地运行,代码





首页






