在青少年开始使用ChatGPT数年后,OpenAI推出了更安全的ChatGPT版本
在因人工智能聊天机器人缺乏安全协议——这导致了青少年自杀及其他心理健康危机——而引发一系列诉讼后,OpenAI 于周一推出了“ChatGPT for Teens”。这一新产品集成了增强的安全功能,并致力于解决学校中由人工智能工具助长的学术不端行为这一日益严重的问题。
从教育角度来看,“ChatGPT for Teens”除了推出“学习模式”外,还提供了其他旨在培养好奇心和解决问题能力的工具,鼓励用户深入理解内容,而非寻求即时答案。
根据 OpenAI 的一篇博客文章,“学习模式”会提供引导性问题和分步指导,帮助青少年掌握复杂的知识内容。此外,该平台还包含作业提醒功能:当系统检测到潜在作弊行为时,会触发该提醒,引导用户切换至“学习模式”。
该公司表示,该应用还配备了测验和学习可视化功能,并设有控制选项,允许家长或监护人默认启用“学习模式”。
然而,如果青少年选择不遵守规定,他们能多容易地绕过这些安全措施仍是个未知数。年轻用户往往很擅长规避家长控制和其他数字限制。在ChatGPT的青少年模式经过严格测试之前,这些安全措施的实际效果仍不明朗。

图片来源:OpenAI
OpenAI表示,“ChatGPT for Teens”默认启用了针对该应用的保护措施,旨在最大限度地减少青少年接触有害或不符合其发展阶段的内容。这些安全措施基于OpenAI《模型规范》中的“18岁以下原则”,该公司声称这些原则是参考发展科学和专家指导制定的。
家长可利用此前推出的家庭工具和家长控制功能,管理设置、接收安全通知以及配置“安静时段”等功能。
OpenAI已宣布与CodeAI建立合作伙伴关系,旨在帮助青少年更好地理解AI,包括其工作原理、如何引导或向其提问,以及如何有效使用AI。在教育领域,OpenAI已推出“ChatGPT for Teachers”,为学校提供由教育机构统一管理的AI访问权限及支持服务。
相关文章
OpenAI机器人项目主管凯特琳·卡利诺夫斯基因五角大楼合作项目辞职
OpenAI 机器人业务负责人凯特琳·卡利诺夫斯基(Caitlin Kalinowski)在该公司与国防部达成备受争议的合作伙伴关系后辞职。“这不是一个轻松的决定,”卡利诺夫斯基在社交媒体声明中解释道。“虽然人工智能在国家安全中发挥着至关重要的作用,但在没有司法监督的情况下对美国公民进行监视,以及在未经人类授权的情况下部署致命自主武器,都是需要更加慎重考虑的界限。”卡利诺夫斯基此前因领导 Meta 的增强现实眼镜部门而闻名,她于 2024 年 11 月加入 OpenAI。在辞职信中,她强调她
OpenAI 在企业用户中与 Anthropic 的差距缩小,新数据显示
在 OpenAI 和 Anthropic 距离预期的首次公开募股(IPO)以及详细财务报告的发布仍有距离的情况下,我们必须转向其他指标来评估它们的业务表现。企业信用卡和费用管理平台 Ramp 最近发布了令人信服的数据,显示 OpenAI 正在迅速缩小与美国企业用户中 Anthropic 的差距。OpenAI 此前在消费者和企业客户中都占据主导地位,但在今年 5 月,它失去了在 Ramp 付费企业用户中的领先地位。当时,Anthropic 占据了 41% 的市场份额,而 OpenAI 为 39%
Frontier AI Labs 拒绝透露针对失控模型的遏制策略
最新研究表明,极少数领先的人工智能实验室曾公布或演示过遏制响应计划。遏制计划规定了当人工智能系统试图颠覆人类控制时应采取的程序,明确了哪些访问权限将被撤销,以及何时应彻底关闭系统。这些发现来自致力于推动前沿人工智能安全开发实践的组织“Guidelight AI Standards”,该组织对五家主要实验室应对此类情景的准备情况进行了评估。 OpenAI 排名最高,而 Anthropic 和 Met
相关专题推荐
评论 (0)
0/500
在因人工智能聊天机器人缺乏安全协议——这导致了青少年自杀及其他心理健康危机——而引发一系列诉讼后,OpenAI 于周一推出了“ChatGPT for Teens”。这一新产品集成了增强的安全功能,并致力于解决学校中由人工智能工具助长的学术不端行为这一日益严重的问题。
从教育角度来看,“ChatGPT for Teens”除了推出“学习模式”外,还提供了其他旨在培养好奇心和解决问题能力的工具,鼓励用户深入理解内容,而非寻求即时答案。
根据 OpenAI 的一篇博客文章,“学习模式”会提供引导性问题和分步指导,帮助青少年掌握复杂的知识内容。此外,该平台还包含作业提醒功能:当系统检测到潜在作弊行为时,会触发该提醒,引导用户切换至“学习模式”。
该公司表示,该应用还配备了测验和学习可视化功能,并设有控制选项,允许家长或监护人默认启用“学习模式”。
然而,如果青少年选择不遵守规定,他们能多容易地绕过这些安全措施仍是个未知数。年轻用户往往很擅长规避家长控制和其他数字限制。在ChatGPT的青少年模式经过严格测试之前,这些安全措施的实际效果仍不明朗。

图片来源:OpenAI
OpenAI表示,“ChatGPT for Teens”默认启用了针对该应用的保护措施,旨在最大限度地减少青少年接触有害或不符合其发展阶段的内容。这些安全措施基于OpenAI《模型规范》中的“18岁以下原则”,该公司声称这些原则是参考发展科学和专家指导制定的。
家长可利用此前推出的家庭工具和家长控制功能,管理设置、接收安全通知以及配置“安静时段”等功能。
OpenAI已宣布与CodeAI建立合作伙伴关系,旨在帮助青少年更好地理解AI,包括其工作原理、如何引导或向其提问,以及如何有效使用AI。在教育领域,OpenAI已推出“ChatGPT for Teachers”,为学校提供由教育机构统一管理的AI访问权限及支持服务。
OpenAI机器人项目主管凯特琳·卡利诺夫斯基因五角大楼合作项目辞职
OpenAI 机器人业务负责人凯特琳·卡利诺夫斯基(Caitlin Kalinowski)在该公司与国防部达成备受争议的合作伙伴关系后辞职。“这不是一个轻松的决定,”卡利诺夫斯基在社交媒体声明中解释道。“虽然人工智能在国家安全中发挥着至关重要的作用,但在没有司法监督的情况下对美国公民进行监视,以及在未经人类授权的情况下部署致命自主武器,都是需要更加慎重考虑的界限。”卡利诺夫斯基此前因领导 Meta 的增强现实眼镜部门而闻名,她于 2024 年 11 月加入 OpenAI。在辞职信中,她强调她
OpenAI 在企业用户中与 Anthropic 的差距缩小,新数据显示
在 OpenAI 和 Anthropic 距离预期的首次公开募股(IPO)以及详细财务报告的发布仍有距离的情况下,我们必须转向其他指标来评估它们的业务表现。企业信用卡和费用管理平台 Ramp 最近发布了令人信服的数据,显示 OpenAI 正在迅速缩小与美国企业用户中 Anthropic 的差距。OpenAI 此前在消费者和企业客户中都占据主导地位,但在今年 5 月,它失去了在 Ramp 付费企业用户中的领先地位。当时,Anthropic 占据了 41% 的市场份额,而 OpenAI 为 39%
Frontier AI Labs 拒绝透露针对失控模型的遏制策略
最新研究表明,极少数领先的人工智能实验室曾公布或演示过遏制响应计划。遏制计划规定了当人工智能系统试图颠覆人类控制时应采取的程序,明确了哪些访问权限将被撤销,以及何时应彻底关闭系统。这些发现来自致力于推动前沿人工智能安全开发实践的组织“Guidelight AI Standards”,该组织对五家主要实验室应对此类情景的准备情况进行了评估。 OpenAI 排名最高,而 Anthropic 和 Met





首页






