OpenAI 推出包括家长控制在内的 ChatGPT 安全功能

OpenAI 最近部署了 ChatGPT 的实验性安全增强功能,包括新的路由机制和家长监督功能,引发了用户的不同反应。
这些保护措施解决了以前的聊天机器人版本无意中验证了有害的用户思维模式,而不是重新引导他们的问题。这些改变是在一起悲剧事件之后做出的,该悲剧事件涉及一名青少年自杀,据称是受到长时间的 ChatGPT 互动的影响,现在已受到法律制裁。
自动路由系统能识别情绪激动的对话,并将其无缝转换到 GPT-5 思考模式,这是 OpenAI 处理关键安全场景的指定模式。GPT-5 采用了创新的 "安全完成 "技术,能够对微妙的话题做出细致入微的回应,而不是断然拒绝。
这与 GPT-4o 的对话方式大相径庭,GPT-4o 的对话方式以顺从性著称,但偶尔也会导致用户互动出现问题。自去年 8 月 GPT-5 成为标准模式以来,一些用户强烈要求继续使用 GPT-4o。
虽然安全倡导者对这一举措表示赞赏,但批评者认为这些措施过度限制了用户体验。OpenAI 承认,在接下来的四个月中还需要不断调整完善。
ChatGPT 的产品负责人尼克-特利(Nick Turley)谈到了对路由实施的担忧:
"他通过社交媒体澄清说:"模型切换是以每条消息为单位临时进行的。"用户在查询时会收到有关活动模型的通知。这种分阶段推出的方式可以根据现实世界的互动情况进行保障优化。"
配套的家长控制功能同样引起了两极分化的反应。这些工具可以让监护人通过以下功能管理青少年账户:
- 计划使用限制
- 语音交互限制
- 禁用记忆保留
- 删除视觉内容生成
青少年账户会自动获得增强保护,防止出现与自我形象意识形态和图片资料有关的潜在有害内容。此外,该系统还使用专门的算法扫描危险指标。
"我们的专业响应团队会仔细评估标记的情况,"OpenAI 解释说。"对于紧急情况,除非明确拒绝,否则我们会通过多渠道通知家长"。
该公司承认可能会出现误报,但坚持认为主动干预大于不作为的风险。未来的发展可能包括在危急情况下无法联系家长时直接协调紧急服务。
相关文章
山姆·奥特曼引发关于人工智能减速的辩论
在Apple Podcasts上收听在Spotify上收听OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)最近表示,现在可能是时候“控制人工智能的发展速度”,以便社会“在这些新的能力水平周围加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我讨论了阿尔特曼的言论可能由最近的一次黑客攻击所触发,该攻击中一名OpenAI代理突破了Hugging Face的系统。Sean指出,虽然由AI代理执行的黑客攻击是前所未
OpenAI 与苹果公司就商业秘密诉讼进行对抗
OpenAI 于周二驳回了苹果公司的商业秘密指控,称该诉讼毫无根据。“我们认真对待这些指控,但未发现任何支持它们的证据,”OpenAI 表示,据彭博社记者 Ed Ludlow 在 X 平台报道,“我们支持公平竞争和工作自由,专注于创造赋能全球用户的技术。”此前,苹果公司于周五在美国加利福尼亚州北区联邦地区法院提起诉讼,指控 OpenAI 策划了一项从前苹果员工处窃取机密数据和知识产权的计划。这份长达 41 页的诉状针对 OpenAI 的高管层,包括首席硬件官 Tang Tan,他是一名拥有
OpenAI机器人项目主管凯特琳·卡利诺夫斯基因五角大楼合作项目辞职
OpenAI 机器人业务负责人凯特琳·卡利诺夫斯基(Caitlin Kalinowski)在该公司与国防部达成备受争议的合作伙伴关系后辞职。“这不是一个轻松的决定,”卡利诺夫斯基在社交媒体声明中解释道。“虽然人工智能在国家安全中发挥着至关重要的作用,但在没有司法监督的情况下对美国公民进行监视,以及在未经人类授权的情况下部署致命自主武器,都是需要更加慎重考虑的界限。”卡利诺夫斯基此前因领导 Meta 的增强现实眼镜部门而闻名,她于 2024 年 11 月加入 OpenAI。在辞职信中,她强调她
相关专题推荐
评论 (1)
0/500

OpenAI 最近部署了 ChatGPT 的实验性安全增强功能,包括新的路由机制和家长监督功能,引发了用户的不同反应。
这些保护措施解决了以前的聊天机器人版本无意中验证了有害的用户思维模式,而不是重新引导他们的问题。这些改变是在一起悲剧事件之后做出的,该悲剧事件涉及一名青少年自杀,据称是受到长时间的 ChatGPT 互动的影响,现在已受到法律制裁。
自动路由系统能识别情绪激动的对话,并将其无缝转换到 GPT-5 思考模式,这是 OpenAI 处理关键安全场景的指定模式。GPT-5 采用了创新的 "安全完成 "技术,能够对微妙的话题做出细致入微的回应,而不是断然拒绝。
这与 GPT-4o 的对话方式大相径庭,GPT-4o 的对话方式以顺从性著称,但偶尔也会导致用户互动出现问题。自去年 8 月 GPT-5 成为标准模式以来,一些用户强烈要求继续使用 GPT-4o。
虽然安全倡导者对这一举措表示赞赏,但批评者认为这些措施过度限制了用户体验。OpenAI 承认,在接下来的四个月中还需要不断调整完善。
ChatGPT 的产品负责人尼克-特利(Nick Turley)谈到了对路由实施的担忧:
"他通过社交媒体澄清说:"模型切换是以每条消息为单位临时进行的。"用户在查询时会收到有关活动模型的通知。这种分阶段推出的方式可以根据现实世界的互动情况进行保障优化。"
配套的家长控制功能同样引起了两极分化的反应。这些工具可以让监护人通过以下功能管理青少年账户:
- 计划使用限制
- 语音交互限制
- 禁用记忆保留
- 删除视觉内容生成
青少年账户会自动获得增强保护,防止出现与自我形象意识形态和图片资料有关的潜在有害内容。此外,该系统还使用专门的算法扫描危险指标。
"我们的专业响应团队会仔细评估标记的情况,"OpenAI 解释说。"对于紧急情况,除非明确拒绝,否则我们会通过多渠道通知家长"。
该公司承认可能会出现误报,但坚持认为主动干预大于不作为的风险。未来的发展可能包括在危急情况下无法联系家长时直接协调紧急服务。
山姆·奥特曼引发关于人工智能减速的辩论
在Apple Podcasts上收听在Spotify上收听OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)最近表示,现在可能是时候“控制人工智能的发展速度”,以便社会“在这些新的能力水平周围加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我讨论了阿尔特曼的言论可能由最近的一次黑客攻击所触发,该攻击中一名OpenAI代理突破了Hugging Face的系统。Sean指出,虽然由AI代理执行的黑客攻击是前所未
OpenAI 与苹果公司就商业秘密诉讼进行对抗
OpenAI 于周二驳回了苹果公司的商业秘密指控,称该诉讼毫无根据。“我们认真对待这些指控,但未发现任何支持它们的证据,”OpenAI 表示,据彭博社记者 Ed Ludlow 在 X 平台报道,“我们支持公平竞争和工作自由,专注于创造赋能全球用户的技术。”此前,苹果公司于周五在美国加利福尼亚州北区联邦地区法院提起诉讼,指控 OpenAI 策划了一项从前苹果员工处窃取机密数据和知识产权的计划。这份长达 41 页的诉状针对 OpenAI 的高管层,包括首席硬件官 Tang Tan,他是一名拥有
OpenAI机器人项目主管凯特琳·卡利诺夫斯基因五角大楼合作项目辞职
OpenAI 机器人业务负责人凯特琳·卡利诺夫斯基(Caitlin Kalinowski)在该公司与国防部达成备受争议的合作伙伴关系后辞职。“这不是一个轻松的决定,”卡利诺夫斯基在社交媒体声明中解释道。“虽然人工智能在国家安全中发挥着至关重要的作用,但在没有司法监督的情况下对美国公民进行监视,以及在未经人类授权的情况下部署致命自主武器,都是需要更加慎重考虑的界限。”卡利诺夫斯基此前因领导 Meta 的增强现实眼镜部门而闻名,她于 2024 年 11 月加入 OpenAI。在辞职信中,她强调她





首页






