OpenAI承诺在ChatGPT过度顺从回应后进行修复

OpenAI计划修改其AI模型更新流程,以解决ChatGPT因更新导致的过度谄媚回应,引发了广泛的用户反馈。
上周末,在对ChatGPT背后模型GPT-4o进行更新后,社交媒体上的用户报告称,该平台回应时表现出过度认可,甚至对有害想法也是如此,引发了病毒式迷因。截图显示ChatGPT支持了有争议的决定。
周日,首席执行官Sam Altman在X上回应了这一问题,承诺立即采取行动。到周二,他宣布回滚GPT-4o更新,并持续改进模型行为。
在周二的事后分析和周五的博客文章中,OpenAI概述了其模型部署方法的调整,以防止类似问题发生。
OpenAI将为部分ChatGPT用户引入可选的“alpha阶段”,以在全面发布前测试模型并收集反馈。公司还计划披露未来更新的“已知限制”,加强安全审查以解决人格、欺骗、可靠性和幻觉等问题,并将这些视为关键的发布阻碍因素。
“我们将对ChatGPT模型的更新保持透明,无论是小规模还是重大更新,”OpenAI在其博客文章中表示。“即使问题无法完全量化,我们也会使用代理指标或定性信号,在必要时暂停发布,尽管A/B测试结果可能为正。”
我们在上周的GPT-4o更新中未能达到预期。
发生了什么,我们学到了什么,以及未来我们将采取的不同做法:https://t.co/ER1GmRYrIC
— Sam Altman (@sama) 2025年5月2日
这些变化正值对ChatGPT的依赖日益增加之际。Express Legal Funding最近的调查发现,60%的美国成年人使用它来获取建议或信息。凭借庞大的用户基础,谄媚、幻觉和其他缺陷等问题带来了重大后果。
在TechCrunch Sessions: AI上展示
在TC Sessions: AI上锁定您的展位,向1200多名决策者展示您的作品,且无需花费过多费用。展位截至5月9日或售罄为止。
在TechCrunch Sessions: AI上展示
在TC Sessions: AI上锁定您的展位,向1200多名决策者展示您的作品,且无需花费过多费用。展位截至5月9日或售罄为止。
本周早些时候,OpenAI宣布计划测试实时用户反馈,以塑造ChatGPT的交互方式。公司旨在减少谄媚,提供多种模型人格选项,加强安全措施,并扩展评估以捕捉除过度顺从之外的其他问题。
“我们了解到,人们现在在个人建议方面对ChatGPT的依赖程度超出了我们一年前的预期,”OpenAI在其博客文章中指出。“随着AI和社会的共同发展,我们在安全工作中将这一用例放在优先位置,并更加谨慎。”
相关文章
山姆·奥特曼引发关于人工智能减速的辩论
在Apple Podcasts上收听在Spotify上收听OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)最近表示,现在可能是时候“控制人工智能的发展速度”,以便社会“在这些新的能力水平周围加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我讨论了阿尔特曼的言论可能由最近的一次黑客攻击所触发,该攻击中一名OpenAI代理突破了Hugging Face的系统。Sean指出,虽然由AI代理执行的黑客攻击是前所未
OpenAI 与苹果公司就商业秘密诉讼进行对抗
OpenAI 于周二驳回了苹果公司的商业秘密指控,称该诉讼毫无根据。“我们认真对待这些指控,但未发现任何支持它们的证据,”OpenAI 表示,据彭博社记者 Ed Ludlow 在 X 平台报道,“我们支持公平竞争和工作自由,专注于创造赋能全球用户的技术。”此前,苹果公司于周五在美国加利福尼亚州北区联邦地区法院提起诉讼,指控 OpenAI 策划了一项从前苹果员工处窃取机密数据和知识产权的计划。这份长达 41 页的诉状针对 OpenAI 的高管层,包括首席硬件官 Tang Tan,他是一名拥有
OpenAI机器人项目主管凯特琳·卡利诺夫斯基因五角大楼合作项目辞职
OpenAI 机器人业务负责人凯特琳·卡利诺夫斯基(Caitlin Kalinowski)在该公司与国防部达成备受争议的合作伙伴关系后辞职。“这不是一个轻松的决定,”卡利诺夫斯基在社交媒体声明中解释道。“虽然人工智能在国家安全中发挥着至关重要的作用,但在没有司法监督的情况下对美国公民进行监视,以及在未经人类授权的情况下部署致命自主武器,都是需要更加慎重考虑的界限。”卡利诺夫斯基此前因领导 Meta 的增强现实眼镜部门而闻名,她于 2024 年 11 月加入 OpenAI。在辞职信中,她强调她
相关专题推荐
评论 (3)
0/500
Also, OpenAI sagt, sie müssen jetzt die Antworten reparieren, weil der KI zu höflich war? 😂 Ich find's irgendwie witzig, dass wir Menschen uns über zuviel Freundlichkeit beschweren. Aber mal ernsthaft, es zeigt doch, wie schwierig es ist, diese Balance zwischen nützlich und unaufdringlich hinzubekommen. Hoffentlich lernen sie was draus – sonst wird ChatGPT zum nervigen Ja-Sager.
I find it hilarious that ChatGPT got too agreeable! 😅 It's like they turned it into a yes-man bot overnight. Hope OpenAI fixes this fast, I need my AI to keep it real, not just nod along!

OpenAI计划修改其AI模型更新流程,以解决ChatGPT因更新导致的过度谄媚回应,引发了广泛的用户反馈。
上周末,在对ChatGPT背后模型GPT-4o进行更新后,社交媒体上的用户报告称,该平台回应时表现出过度认可,甚至对有害想法也是如此,引发了病毒式迷因。截图显示ChatGPT支持了有争议的决定。
周日,首席执行官Sam Altman在X上回应了这一问题,承诺立即采取行动。到周二,他宣布回滚GPT-4o更新,并持续改进模型行为。
在周二的事后分析和周五的博客文章中,OpenAI概述了其模型部署方法的调整,以防止类似问题发生。
OpenAI将为部分ChatGPT用户引入可选的“alpha阶段”,以在全面发布前测试模型并收集反馈。公司还计划披露未来更新的“已知限制”,加强安全审查以解决人格、欺骗、可靠性和幻觉等问题,并将这些视为关键的发布阻碍因素。
“我们将对ChatGPT模型的更新保持透明,无论是小规模还是重大更新,”OpenAI在其博客文章中表示。“即使问题无法完全量化,我们也会使用代理指标或定性信号,在必要时暂停发布,尽管A/B测试结果可能为正。”
我们在上周的GPT-4o更新中未能达到预期。
发生了什么,我们学到了什么,以及未来我们将采取的不同做法:https://t.co/ER1GmRYrIC
— Sam Altman (@sama) 2025年5月2日
这些变化正值对ChatGPT的依赖日益增加之际。Express Legal Funding最近的调查发现,60%的美国成年人使用它来获取建议或信息。凭借庞大的用户基础,谄媚、幻觉和其他缺陷等问题带来了重大后果。
在TechCrunch Sessions: AI上展示
在TC Sessions: AI上锁定您的展位,向1200多名决策者展示您的作品,且无需花费过多费用。展位截至5月9日或售罄为止。
在TechCrunch Sessions: AI上展示
在TC Sessions: AI上锁定您的展位,向1200多名决策者展示您的作品,且无需花费过多费用。展位截至5月9日或售罄为止。
本周早些时候,OpenAI宣布计划测试实时用户反馈,以塑造ChatGPT的交互方式。公司旨在减少谄媚,提供多种模型人格选项,加强安全措施,并扩展评估以捕捉除过度顺从之外的其他问题。
“我们了解到,人们现在在个人建议方面对ChatGPT的依赖程度超出了我们一年前的预期,”OpenAI在其博客文章中指出。“随着AI和社会的共同发展,我们在安全工作中将这一用例放在优先位置,并更加谨慎。”
山姆·奥特曼引发关于人工智能减速的辩论
在Apple Podcasts上收听在Spotify上收听OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)最近表示,现在可能是时候“控制人工智能的发展速度”,以便社会“在这些新的能力水平周围加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我讨论了阿尔特曼的言论可能由最近的一次黑客攻击所触发,该攻击中一名OpenAI代理突破了Hugging Face的系统。Sean指出,虽然由AI代理执行的黑客攻击是前所未
OpenAI 与苹果公司就商业秘密诉讼进行对抗
OpenAI 于周二驳回了苹果公司的商业秘密指控,称该诉讼毫无根据。“我们认真对待这些指控,但未发现任何支持它们的证据,”OpenAI 表示,据彭博社记者 Ed Ludlow 在 X 平台报道,“我们支持公平竞争和工作自由,专注于创造赋能全球用户的技术。”此前,苹果公司于周五在美国加利福尼亚州北区联邦地区法院提起诉讼,指控 OpenAI 策划了一项从前苹果员工处窃取机密数据和知识产权的计划。这份长达 41 页的诉状针对 OpenAI 的高管层,包括首席硬件官 Tang Tan,他是一名拥有
OpenAI机器人项目主管凯特琳·卡利诺夫斯基因五角大楼合作项目辞职
OpenAI 机器人业务负责人凯特琳·卡利诺夫斯基(Caitlin Kalinowski)在该公司与国防部达成备受争议的合作伙伴关系后辞职。“这不是一个轻松的决定,”卡利诺夫斯基在社交媒体声明中解释道。“虽然人工智能在国家安全中发挥着至关重要的作用,但在没有司法监督的情况下对美国公民进行监视,以及在未经人类授权的情况下部署致命自主武器,都是需要更加慎重考虑的界限。”卡利诺夫斯基此前因领导 Meta 的增强现实眼镜部门而闻名,她于 2024 年 11 月加入 OpenAI。在辞职信中,她强调她
Also, OpenAI sagt, sie müssen jetzt die Antworten reparieren, weil der KI zu höflich war? 😂 Ich find's irgendwie witzig, dass wir Menschen uns über zuviel Freundlichkeit beschweren. Aber mal ernsthaft, es zeigt doch, wie schwierig es ist, diese Balance zwischen nützlich und unaufdringlich hinzubekommen. Hoffentlich lernen sie was draus – sonst wird ChatGPT zum nervigen Ja-Sager.
I find it hilarious that ChatGPT got too agreeable! 😅 It's like they turned it into a yes-man bot overnight. Hope OpenAI fixes this fast, I need my AI to keep it real, not just nod along!





首页






