选项
首页
新闻
OpenAI 推出包括家长控制在内的 ChatGPT 安全功能

OpenAI 推出包括家长控制在内的 ChatGPT 安全功能

2025-11-10
103

OpenAI 推出包括家长控制在内的 ChatGPT 安全功能

OpenAI 最近部署了 ChatGPT 的实验性安全增强功能,包括新的路由机制和家长监督功能,引发了用户的不同反应。

这些保护措施解决了以前的聊天机器人版本无意中验证了有害的用户思维模式,而不是重新引导他们的问题。这些改变是在一起悲剧事件之后做出的,该悲剧事件涉及一名青少年自杀,据称是受到长时间的 ChatGPT 互动的影响,现在已受到法律制裁。

自动路由系统能识别情绪激动的对话,并将其无缝转换到 GPT-5 思考模式,这是 OpenAI 处理关键安全场景的指定模式。GPT-5 采用了创新的 "安全完成 "技术,能够对微妙的话题做出细致入微的回应,而不是断然拒绝。

这与 GPT-4o 的对话方式大相径庭,GPT-4o 的对话方式以顺从性著称,但偶尔也会导致用户互动出现问题。自去年 8 月 GPT-5 成为标准模式以来,一些用户强烈要求继续使用 GPT-4o。

虽然安全倡导者对这一举措表示赞赏,但批评者认为这些措施过度限制了用户体验。OpenAI 承认,在接下来的四个月中还需要不断调整完善。

ChatGPT 的产品负责人尼克-特利(Nick Turley)谈到了对路由实施的担忧:

"他通过社交媒体澄清说:"模型切换是以每条消息为单位临时进行的。"用户在查询时会收到有关活动模型的通知。这种分阶段推出的方式可以根据现实世界的互动情况进行保障优化。"

配套的家长控制功能同样引起了两极分化的反应。这些工具可以让监护人通过以下功能管理青少年账户:

  • 计划使用限制
  • 语音交互限制
  • 禁用记忆保留
  • 删除视觉内容生成

青少年账户会自动获得增强保护,防止出现与自我形象意识形态和图片资料有关的潜在有害内容。此外,该系统还使用专门的算法扫描危险指标。

"我们的专业响应团队会仔细评估标记的情况,"OpenAI 解释说。"对于紧急情况,除非明确拒绝,否则我们会通过多渠道通知家长"。

该公司承认可能会出现误报,但坚持认为主动干预大于不作为的风险。未来的发展可能包括在危急情况下无法联系家长时直接协调紧急服务。

相关文章
山姆·奥特曼引发关于人工智能减速的辩论 山姆·奥特曼引发关于人工智能减速的辩论 在Apple Podcasts上收听在Spotify上收听OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)最近表示,现在可能是时候“控制人工智能的发展速度”,以便社会“在这些新的能力水平周围加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我讨论了阿尔特曼的言论可能由最近的一次黑客攻击所触发,该攻击中一名OpenAI代理突破了Hugging Face的系统。Sean指出,虽然由AI代理执行的黑客攻击是前所未
OpenAI 与苹果公司就商业秘密诉讼进行对抗 OpenAI 与苹果公司就商业秘密诉讼进行对抗 OpenAI 于周二驳回了苹果公司的商业秘密指控,称该诉讼毫无根据。“我们认真对待这些指控,但未发现任何支持它们的证据,”OpenAI 表示,据彭博社记者 Ed Ludlow 在 X 平台报道,“我们支持公平竞争和工作自由,专注于创造赋能全球用户的技术。”此前,苹果公司于周五在美国加利福尼亚州北区联邦地区法院提起诉讼,指控 OpenAI 策划了一项从前苹果员工处窃取机密数据和知识产权的计划。这份长达 41 页的诉状针对 OpenAI 的高管层,包括首席硬件官 Tang Tan,他是一名拥有
OpenAI机器人项目主管凯特琳·卡利诺夫斯基因五角大楼合作项目辞职 OpenAI机器人项目主管凯特琳·卡利诺夫斯基因五角大楼合作项目辞职 OpenAI 机器人业务负责人凯特琳·卡利诺夫斯基(Caitlin Kalinowski)在该公司与国防部达成备受争议的合作伙伴关系后辞职。“这不是一个轻松的决定,”卡利诺夫斯基在社交媒体声明中解释道。“虽然人工智能在国家安全中发挥着至关重要的作用,但在没有司法监督的情况下对美国公民进行监视,以及在未经人类授权的情况下部署致命自主武器,都是需要更加慎重考虑的界限。”卡利诺夫斯基此前因领导 Meta 的增强现实眼镜部门而闻名,她于 2024 年 11 月加入 OpenAI。在辞职信中,她强调她
相关专题推荐
写作 最适合撰写长篇SEO文章的AI大纲生成器
最适合撰写长篇SEO文章的AI大纲生成器

2026年最新、最受好评的AI大纲生成器,专为长篇SEO文章打造,由XIX.AI精心甄选。这些强大的工具在快速创建高质量内容方面提供了颠覆性的帮助,显著提升了写作效率。 获取免费版与付费版的对比分析,以及实际测试结果和详细排名,助您找到最适合自身需求、不容错过的理想选择。立即探索,解锁您的AI竞争优势。

8 个工具
xix.ai
教育与学习 用于作业和考试备考的AI学习工具
用于作业和考试备考的AI学习工具

2026年最新最佳AI学习工具,助您轻松完成作业和备考!XIX.AI精心筛选出一份广受好评的顶级工具清单,这些功能强大、颠覆传统的工具经过实际测试,能帮助学生提升效率、简化作业流程,并轻松通过考试。 获取免费版与付费版的对比分析、详细排名以及必试选项,释放你的AI优势。立即探索!

10 个工具
xix.ai
音乐创作 面向词曲创作者、旋律片段、主旋律及多语言草稿创作的AI人声演示工具
面向词曲创作者、旋律片段、主旋律及多语言草稿创作的AI人声演示工具

2026 年最新最佳 AI 人声演示工具,专为词曲创作者、旋律创作者和多语言内容团队打造!XIX.AI 精心整理了一份经过严格真实世界测试的高评分、变革性工具列表。您将找到详细的免费与付费对比数据、全面排名以及必试选项,帮助您提升创作效率并释放创意潜力。立即探索,发现满足您所有内容需求的完美工具!

9 个工具
xix.ai
商业 适合中小企业的最佳AI竞品分析工具
适合中小企业的最佳AI竞品分析工具

2026年最新最佳、评价最高的中小企业AI竞争研究工具!XIX.AI精心精选了一系列功能强大、颠覆行业格局的工具,每周都会根据严格的实际测试和详细排名进行更新。您可以查看全面的免费版与付费版对比,从而找到那些能提升工作效率、助您赢得竞争优势的必试工具。 立即探索,发现最适合您的工具!

9 个工具
xix.ai
图像编辑 用于电商服装、皮肤清洁和色彩一致性的 Photoshop AI 修图工具
用于电商服装、皮肤清洁和色彩一致性的 Photoshop AI 修图工具

2026 年最新最佳 Photoshop AI 修图工具,适用于电商服装、皮肤清洁和色彩一致性!这份顶级精选列表包含强大的变革性解决方案,可帮助您提升写作效率、简化内容创作并轻松实现完美的视觉效果。每个工具都经过实际测试,并通过每周更新的排名进行验证,同时提供免费与付费版本的详细对比。由 XIX.AI 支持,这是任何希望发挥 AI 优势的人必试指南。立即探索!

10 个工具
xix.ai
提示词 适用于 ChatGPT 工作流的最佳 AI 提示词库
适用于 ChatGPT 工作流的最佳 AI 提示词库

2026年最新、最受好评的AI提示词库,可优化各类ChatGPT工作流程。XIX.AI精心整理了一套功能强大、具有颠覆性的提示词库,均经过严格的实际测试,以确保最佳性能。 您可以查看详细的免费版与付费版对比分析以及专家排名,这些内容将帮助您挑选出必试的工具,从而提升工作效率并释放您的AI优势。立即探索!

11 个工具
xix.ai
评论 (1)
0/500
RobertMartin
RobertMartin 2026-01-03 02:32:42

親が子供のAI利用を管理できるのは良いけど、逆に言えばAIが私たちをずっと監視できるようにもなるってこと?🤔 このニュースを見て、ちょっとジョージオーウェルを思い出したよ。便利さとプライバシー、バランスはむずかしいね。

OR