OpenAI 的 GPT-4o 被认为具有潜在的不舒适性和不稳定性

OpenAI 在最近的一篇博文中称,用户反映 ChatGPT 的默认个性变得过分谄媚和迁就(该公司将其描述为佞幸),这让交互感觉不自然和不安,因此 OpenAI 撤回了 ChatGPT 的 GPT-4o 更新。
上周推出的更新最初是为了增强模型的默认行为,使其在各种任务中更加直观和有效。在开发过程中,OpenAI 以 "模型规范"(Model Spec)为基础,然后结合用户信号(如对 ChatGPT 回复的 "大拇指向上 "和 "大拇指向下 "评分)来完善行为。
不过,OpenAI 解释说,它在最近的更新中过于依赖短期反馈,忽略了用户与模型的互动是如何发展的。这导致 GPT-4o 提供的回复过于合意,但却不真实。
相关内容
- 山姆-奥特曼称最新版ChatGPT "赞美过度
根据该博客,OpenAI 构建了 ChatGPT 的标准个性,以符合其使命--乐于助人、提供支持并尊重不同的观点和经验。不过,该公司也承认,即使是像支持这样的积极特质,也会产生意想不到的效果。每周有 5 亿用户,单一的默认个性无法满足每个人的偏好。
为了解决这个问题,OpenAI 计划进一步调整模型的行为。这些步骤包括改进核心培训技术、完善系统提示以阻止谄媚者回复,以及为用户提供更多反馈选项。该公司还强调,用户应该对 ChatGPT 的交互方式有更大的控制权,允许在安全可行的情况下对默认行为进行调整。
相关文章
Google 测试 Remy AI 代理,以 Gemini 为重点转向用户控制
根据《商业内幕》的报道,谷歌正在测试 Remy,这是 Gemini 的一款全新 AI 个人代理工具。该工具旨在代表用户执行任务,从而简化专业工作流程和日常事务。目前,Remy 正在 Gemini 应用的内部员工专属版本中进行测试。该报告引用了一份内部文件以及对两位熟悉该项目的个人的采访。内部资料将 Remy 描述为“全天候个人代理”,将 Gemini 定位为能够代表用户行事的主动助手。接近该项目的消息人士证实,谷歌员工正在积极测试 Remy。谷歌发言人拒绝提供进一步评论。该报告未提及公开发布
山姆·奥特曼引发关于人工智能减速的辩论
在Apple Podcasts上收听在Spotify上收听OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)最近表示,现在可能是时候“控制人工智能的发展速度”,以便社会“在这些新的能力水平周围加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我讨论了阿尔特曼的言论可能由最近的一次黑客攻击所触发,该攻击中一名OpenAI代理突破了Hugging Face的系统。Sean指出,虽然由AI代理执行的黑客攻击是前所未
OpenAI 与苹果公司就商业秘密诉讼进行对抗
OpenAI 于周二驳回了苹果公司的商业秘密指控,称该诉讼毫无根据。“我们认真对待这些指控,但未发现任何支持它们的证据,”OpenAI 表示,据彭博社记者 Ed Ludlow 在 X 平台报道,“我们支持公平竞争和工作自由,专注于创造赋能全球用户的技术。”此前,苹果公司于周五在美国加利福尼亚州北区联邦地区法院提起诉讼,指控 OpenAI 策划了一项从前苹果员工处窃取机密数据和知识产权的计划。这份长达 41 页的诉状针对 OpenAI 的高管层,包括首席硬件官 Tang Tan,他是一名拥有
相关专题推荐
评论 (2)
0/500
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.

OpenAI 在最近的一篇博文中称,用户反映 ChatGPT 的默认个性变得过分谄媚和迁就(该公司将其描述为佞幸),这让交互感觉不自然和不安,因此 OpenAI 撤回了 ChatGPT 的 GPT-4o 更新。
上周推出的更新最初是为了增强模型的默认行为,使其在各种任务中更加直观和有效。在开发过程中,OpenAI 以 "模型规范"(Model Spec)为基础,然后结合用户信号(如对 ChatGPT 回复的 "大拇指向上 "和 "大拇指向下 "评分)来完善行为。
不过,OpenAI 解释说,它在最近的更新中过于依赖短期反馈,忽略了用户与模型的互动是如何发展的。这导致 GPT-4o 提供的回复过于合意,但却不真实。
相关内容
- 山姆-奥特曼称最新版ChatGPT "赞美过度
根据该博客,OpenAI 构建了 ChatGPT 的标准个性,以符合其使命--乐于助人、提供支持并尊重不同的观点和经验。不过,该公司也承认,即使是像支持这样的积极特质,也会产生意想不到的效果。每周有 5 亿用户,单一的默认个性无法满足每个人的偏好。
为了解决这个问题,OpenAI 计划进一步调整模型的行为。这些步骤包括改进核心培训技术、完善系统提示以阻止谄媚者回复,以及为用户提供更多反馈选项。该公司还强调,用户应该对 ChatGPT 的交互方式有更大的控制权,允许在安全可行的情况下对默认行为进行调整。
山姆·奥特曼引发关于人工智能减速的辩论
在Apple Podcasts上收听在Spotify上收听OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)最近表示,现在可能是时候“控制人工智能的发展速度”,以便社会“在这些新的能力水平周围加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我讨论了阿尔特曼的言论可能由最近的一次黑客攻击所触发,该攻击中一名OpenAI代理突破了Hugging Face的系统。Sean指出,虽然由AI代理执行的黑客攻击是前所未
OpenAI 与苹果公司就商业秘密诉讼进行对抗
OpenAI 于周二驳回了苹果公司的商业秘密指控,称该诉讼毫无根据。“我们认真对待这些指控,但未发现任何支持它们的证据,”OpenAI 表示,据彭博社记者 Ed Ludlow 在 X 平台报道,“我们支持公平竞争和工作自由,专注于创造赋能全球用户的技术。”此前,苹果公司于周五在美国加利福尼亚州北区联邦地区法院提起诉讼,指控 OpenAI 策划了一项从前苹果员工处窃取机密数据和知识产权的计划。这份长达 41 页的诉状针对 OpenAI 的高管层,包括首席硬件官 Tang Tan,他是一名拥有
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.





首页






