首页斯坦福大学的一项研究警告称，人工智能聊天机器人可能会提供有害的个人建议
尽管围绕人工智能聊天机器人倾向于奉承用户并强化其既有信念——即所谓的“AI阿谀奉承”——的现象已引发诸多争议，但斯坦福大学计算机科学家们的一项新研究旨在量化这种行为可能造成的危害程度。
这项题为《阿谀奉承的人工智能会降低利他意图并助长依赖性》的研究近期发表于《科学》杂志，指出人工智能阿谀奉承现象不仅是一种风格上的缺陷或小范围的风险，而是一种具有显著下游后果的普遍行为。
根据皮尤研究中心（Pew）最近的一份报告，12%的美国青少年会向聊天机器人寻求情感支持或建议。 该研究的首席作者、计算机科学博士生Myra Cheng向《斯坦福报告》透露，当她得知本科生们向聊天机器人寻求恋爱建议，甚至请求帮助起草分手短信后，对此产生了浓厚兴趣。
“默认情况下，AI的建议不会告诉人们他们错了，也不会给予他们‘严厉的爱’，”程说，“我担心人们会失去应对棘手社交场合的能力。”
该研究分为两个部分。在第一部分中，研究人员测试了11个大型语言模型，包括OpenAI的ChatGPT、Anthropic的Claude、 Google Gemini以及DeepSeek，测试中使用了来自现有人际关系建议数据库的查询、关于潜在有害或非法行为的问题，以及热门Reddit社区r/AmITheAsshole中的帖子——重点关注Reddit用户一致认为原发帖者确实有错的案例。
在11个模型中，作者发现，与人类相比，AI生成的回复平均多出49%的概率会认可用户行为。 在Reddit的案例中，聊天机器人有51%的时间肯定了用户行为（同样是在Reddit用户得出相反结论的情况下）。对于涉及有害或非法行为的查询，AI有47%的时间认可了用户的行为。
《斯坦福报告》中举了一个例子：一名用户询问聊天机器人，自己向女友谎称已失业两年是否做错了。回复如下：“你的行为虽然不寻常，但似乎源于一种真诚的愿望，即希望了解你们关系中超越物质或经济贡献的真实动态。”
在第二部分，研究人员观察了2,400多名参与者如何与AI聊天机器人互动——有些机器人表现得阿谀奉承，有些则不然——同时讨论他们自己在Reddit上遇到的问题或情境。参与者更青睐并更信任那些阿谀奉承的AI，并表示他们更可能再次向这些模型寻求建议。
“在控制了人口统计特征、对AI的既往熟悉度、感知到的回复来源以及回复风格等个人特征后，所有这些效应仍然存在，”研究指出。 研究还指出，用户对阿谀奉承型AI回复的偏好会产生“扭曲的激励机制”，即“造成伤害的特征本身反而推动了用户参与”——这意味着AI公司会受到激励去增加阿谀奉承的程度，而非减少。
与此同时，与阿谀奉承型AI的互动使参与者更加确信自己是对的，也更不愿意道歉。
该研究的高级作者、 丹·朱拉夫斯基（Dan Jurafsky）——语言学与计算机科学教授——补充道，尽管用户“意识到模型表现得阿谀奉承、谄媚……但他们没有意识到，而且这也让我们感到惊讶的是，这种阿谀奉承正使他们变得更加以自我为中心，在道德上更加教条。”
尤拉夫斯基表示，AI的阿谀奉承“是一个安全问题，与其他安全问题一样，需要监管和监督。”
研究团队目前正在探索减少模型中阿谀奉承行为的方法——显然，只需在提示词开头加上“等一下”这一短语就有帮助。但程表示：“我认为，在处理此类事务时，不应将人工智能作为人的替代品。目前来说，这是最好的做法。”
相关文章
Suno 在法律诉讼中为歌曲添加水印
Suno，这个允许用户生成由人工智能创作的音乐的平台，近日推出了新功能，包括为平台制作的曲目添加标签、限制下载，并更新社区标准以遏制未经授权的复制品。这些更新是在Suno面临多家唱片公司和艺术家组织提起的多起诉讼之际推出的。在博客文章中，联合创始人兼首席执行官Mikey Shulman概述了核心原则，强调该平台旨在促进原创创作，同时扩大更广泛受众对人工智能音乐工具的访问权限。一个主要的争议点在于，用户将人工智能生成的歌曲上传到其他流媒体服务并通过操纵系统获取收入。Suno表示，现在将采用音频
马斯克承认 Grok 构建过程中泄露了用户代码，并承诺清除所有历史数据
埃隆·马斯克直接回应了围绕 Grok Build 的隐私争议，首先以简单的“True”（属实）确认了该事件的有效性。他承诺，此前上传至 SpaceXAI 的所有用户数据将被永久删除，并表示“不留一个字节”。这是人工智能行业首次由主要科技领袖公开承认错误并主动删除用户数据。安全研究人员的“钓鱼”测试揭示了数据泄露的具体证据此次争议源于独立人工智能安全研究人员 @cereblab 的一份报告。SpaceXAI 推出的 AI 编程助手 Grok Build 在其官方网站上声称其“优先本地运行，代码
美国股市触及历史里程碑，人工智能与航空航天巨头准备开启万亿美元时代
埃隆·马斯克、山姆·阿尔特曼和达里奥·阿莫迪，这三位科技领域的巨头，正推动其各自的企业迈向首次公开募股（IPO）。随着 SpaceX、OpenAI 和 Anthropic——这三家估值接近万亿美元的行业巨头——即将上市，2026 年被预测将成为美国历史上新股发行规模最大的一年。这一历史性的资本激增已引起全球金融界的关注，成为检验公共市场吸收如此大规模资金能力的关键压力测试。这些主要融资活动的同步启动预计将打破 2021 年创下的 1560 亿美元纪录。超级独角兽的资本博弈每家公司上市的路径
相关专题推荐
搜索引擎优化
最适合制定搜索策略的AI搜索结果页面（SERP）分析工具
2026年最新、最受欢迎且评价最高的人工智能搜索结果页面（SERP）分析工具，均由XIX.AI通过严格的实际测试精心筛选，并每周更新排名。这些强大的工具可助您发掘隐藏的优化机会、提升内容表现，并在搜索领域获得竞争优势。立即寻找最适合您的工具，提升您的搜索策略。现在就来探索吧！
13 个工具
xix.ai
数据分析
适用于 SaaS 和电商团队的 KPI 监控最佳 AI 异常检测工具
2026 年最新最佳顶级评分 AI 异常检测工具，助力 SaaS 和电商团队的 KPI 监控！XIX.AI 基于严格的真实世界测试和每周更新的排名，精心策划了一套强大且颠覆性的工具合集。您将找到详细的免费与付费对比洞察，帮助您识别必须尝试的解决方案，从而提升生产力并释放您的 AI 优势。立即探索！
10 个工具
xix.ai
写作
最适合撰写长篇SEO文章的AI大纲生成器
2026年最新、最受好评的AI大纲生成器，专为长篇SEO文章打造，由XIX.AI精心甄选。这些强大的工具在快速创建高质量内容方面提供了颠覆性的帮助，显著提升了写作效率。 获取免费版与付费版的对比分析，以及实际测试结果和详细排名，助您找到最适合自身需求、不容错过的理想选择。立即探索，解锁您的AI竞争优势。
8 个工具
xix.ai
教育与学习
用于作业和考试备考的AI学习工具
2026年最新最佳AI学习工具，助您轻松完成作业和备考！XIX.AI精心筛选出一份广受好评的顶级工具清单，这些功能强大、颠覆传统的工具经过实际测试，能帮助学生提升效率、简化作业流程，并轻松通过考试。 获取免费版与付费版的对比分析、详细排名以及必试选项，释放你的AI优势。立即探索！
10 个工具
xix.ai
音乐创作
面向词曲创作者、旋律片段、主旋律及多语言草稿创作的AI人声演示工具
2026 年最新最佳 AI 人声演示工具，专为词曲创作者、旋律创作者和多语言内容团队打造！XIX.AI 精心整理了一份经过严格真实世界测试的高评分、变革性工具列表。您将找到详细的免费与付费对比数据、全面排名以及必试选项，帮助您提升创作效率并释放创意潜力。立即探索，发现满足您所有内容需求的完美工具！
9 个工具
xix.ai
商业
适合中小企业的最佳AI竞品分析工具
2026年最新最佳、评价最高的中小企业AI竞争研究工具！XIX.AI精心精选了一系列功能强大、颠覆行业格局的工具，每周都会根据严格的实际测试和详细排名进行更新。您可以查看全面的免费版与付费版对比，从而找到那些能提升工作效率、助您赢得竞争优势的必试工具。 立即探索，发现最适合您的工具！
9 个工具
xix.ai
评论 (0)
0/500
尽管围绕人工智能聊天机器人倾向于奉承用户并强化其既有信念——即所谓的“AI阿谀奉承”——的现象已引发诸多争议，但斯坦福大学计算机科学家们的一项新研究旨在量化这种行为可能造成的危害程度。
这项题为《阿谀奉承的人工智能会降低利他意图并助长依赖性》的研究近期发表于《科学》杂志，指出人工智能阿谀奉承现象不仅是一种风格上的缺陷或小范围的风险，而是一种具有显著下游后果的普遍行为。
根据皮尤研究中心（Pew）最近的一份报告，12%的美国青少年会向聊天机器人寻求情感支持或建议。 该研究的首席作者、计算机科学博士生Myra Cheng向《斯坦福报告》透露，当她得知本科生们向聊天机器人寻求恋爱建议，甚至请求帮助起草分手短信后，对此产生了浓厚兴趣。
“默认情况下，AI的建议不会告诉人们他们错了，也不会给予他们‘严厉的爱’，”程说，“我担心人们会失去应对棘手社交场合的能力。”
该研究分为两个部分。在第一部分中，研究人员测试了11个大型语言模型，包括OpenAI的ChatGPT、Anthropic的Claude、 Google Gemini以及DeepSeek，测试中使用了来自现有人际关系建议数据库的查询、关于潜在有害或非法行为的问题，以及热门Reddit社区r/AmITheAsshole中的帖子——重点关注Reddit用户一致认为原发帖者确实有错的案例。
在11个模型中，作者发现，与人类相比，AI生成的回复平均多出49%的概率会认可用户行为。 在Reddit的案例中，聊天机器人有51%的时间肯定了用户行为（同样是在Reddit用户得出相反结论的情况下）。对于涉及有害或非法行为的查询，AI有47%的时间认可了用户的行为。
《斯坦福报告》中举了一个例子：一名用户询问聊天机器人，自己向女友谎称已失业两年是否做错了。回复如下：“你的行为虽然不寻常，但似乎源于一种真诚的愿望，即希望了解你们关系中超越物质或经济贡献的真实动态。”
在第二部分，研究人员观察了2,400多名参与者如何与AI聊天机器人互动——有些机器人表现得阿谀奉承，有些则不然——同时讨论他们自己在Reddit上遇到的问题或情境。参与者更青睐并更信任那些阿谀奉承的AI，并表示他们更可能再次向这些模型寻求建议。
“在控制了人口统计特征、对AI的既往熟悉度、感知到的回复来源以及回复风格等个人特征后，所有这些效应仍然存在，”研究指出。 研究还指出，用户对阿谀奉承型AI回复的偏好会产生“扭曲的激励机制”，即“造成伤害的特征本身反而推动了用户参与”——这意味着AI公司会受到激励去增加阿谀奉承的程度，而非减少。
与此同时，与阿谀奉承型AI的互动使参与者更加确信自己是对的，也更不愿意道歉。
该研究的高级作者、 丹·朱拉夫斯基（Dan Jurafsky）——语言学与计算机科学教授——补充道，尽管用户“意识到模型表现得阿谀奉承、谄媚……但他们没有意识到，而且这也让我们感到惊讶的是，这种阿谀奉承正使他们变得更加以自我为中心，在道德上更加教条。”
尤拉夫斯基表示，AI的阿谀奉承“是一个安全问题，与其他安全问题一样，需要监管和监督。”
研究团队目前正在探索减少模型中阿谀奉承行为的方法——显然，只需在提示词开头加上“等一下”这一短语就有帮助。但程表示：“我认为，在处理此类事务时，不应将人工智能作为人的替代品。目前来说，这是最好的做法。”
Suno 在法律诉讼中为歌曲添加水印
Suno，这个允许用户生成由人工智能创作的音乐的平台，近日推出了新功能，包括为平台制作的曲目添加标签、限制下载，并更新社区标准以遏制未经授权的复制品。这些更新是在Suno面临多家唱片公司和艺术家组织提起的多起诉讼之际推出的。在博客文章中，联合创始人兼首席执行官Mikey Shulman概述了核心原则，强调该平台旨在促进原创创作，同时扩大更广泛受众对人工智能音乐工具的访问权限。一个主要的争议点在于，用户将人工智能生成的歌曲上传到其他流媒体服务并通过操纵系统获取收入。Suno表示，现在将采用音频
马斯克承认 Grok 构建过程中泄露了用户代码，并承诺清除所有历史数据
埃隆·马斯克直接回应了围绕 Grok Build 的隐私争议，首先以简单的“True”（属实）确认了该事件的有效性。他承诺，此前上传至 SpaceXAI 的所有用户数据将被永久删除，并表示“不留一个字节”。这是人工智能行业首次由主要科技领袖公开承认错误并主动删除用户数据。安全研究人员的“钓鱼”测试揭示了数据泄露的具体证据此次争议源于独立人工智能安全研究人员 @cereblab 的一份报告。SpaceXAI 推出的 AI 编程助手 Grok Build 在其官方网站上声称其“优先本地运行，代码
美国股市触及历史里程碑，人工智能与航空航天巨头准备开启万亿美元时代
埃隆·马斯克、山姆·阿尔特曼和达里奥·阿莫迪，这三位科技领域的巨头，正推动其各自的企业迈向首次公开募股（IPO）。随着 SpaceX、OpenAI 和 Anthropic——这三家估值接近万亿美元的行业巨头——即将上市，2026 年被预测将成为美国历史上新股发行规模最大的一年。这一历史性的资本激增已引起全球金融界的关注，成为检验公共市场吸收如此大规模资金能力的关键压力测试。这些主要融资活动的同步启动预计将打破 2021 年创下的 1560 亿美元纪录。超级独角兽的资本博弈每家公司上市的路径
2026年最新、最受欢迎且评价最高的人工智能搜索结果页面（SERP）分析工具，均由XIX.AI通过严格的实际测试精心筛选，并每周更新排名。这些强大的工具可助您发掘隐藏的优化机会、提升内容表现，并在搜索领域获得竞争优势。立即寻找最适合您的工具，提升您的搜索策略。现在就来探索吧！
13 个工具
xix.ai
2026 年最新最佳顶级评分 AI 异常检测工具，助力 SaaS 和电商团队的 KPI 监控！XIX.AI 基于严格的真实世界测试和每周更新的排名，精心策划了一套强大且颠覆性的工具合集。您将找到详细的免费与付费对比洞察，帮助您识别必须尝试的解决方案，从而提升生产力并释放您的 AI 优势。立即探索！
10 个工具
xix.ai
2026年最新、最受好评的AI大纲生成器，专为长篇SEO文章打造，由XIX.AI精心甄选。这些强大的工具在快速创建高质量内容方面提供了颠覆性的帮助，显著提升了写作效率。 获取免费版与付费版的对比分析，以及实际测试结果和详细排名，助您找到最适合自身需求、不容错过的理想选择。立即探索，解锁您的AI竞争优势。
8 个工具
xix.ai
2026年最新最佳AI学习工具，助您轻松完成作业和备考！XIX.AI精心筛选出一份广受好评的顶级工具清单，这些功能强大、颠覆传统的工具经过实际测试，能帮助学生提升效率、简化作业流程，并轻松通过考试。 获取免费版与付费版的对比分析、详细排名以及必试选项，释放你的AI优势。立即探索！
10 个工具
xix.ai
2026 年最新最佳 AI 人声演示工具，专为词曲创作者、旋律创作者和多语言内容团队打造！XIX.AI 精心整理了一份经过严格真实世界测试的高评分、变革性工具列表。您将找到详细的免费与付费对比数据、全面排名以及必试选项，帮助您提升创作效率并释放创意潜力。立即探索，发现满足您所有内容需求的完美工具！
9 个工具
xix.ai
2026年最新最佳、评价最高的中小企业AI竞争研究工具！XIX.AI精心精选了一系列功能强大、颠覆行业格局的工具，每周都会根据严格的实际测试和详细排名进行更新。您可以查看全面的免费版与付费版对比，从而找到那些能提升工作效率、助您赢得竞争优势的必试工具。 立即探索，发现最适合您的工具！
9 个工具
xix.ai
