如果竞争对手推出潜在危险的人工智能模型,OpenAI 可能会放松保障措施

OpenAI 在竞争压力下调整安全协议
OpenAI 修订了其 "准备框架"(Prearedness Framework),这是指导人工智能模型安全性评估和在整个开发周期中实施保障措施的内部机制。更新后的政策特别规定,如果竞争公司在没有同等保护措施的情况下推出高风险系统,则有可能放宽安全措施。
这一修改凸显了日益增长的市场力量迫使人工智能开发商加快部署时间表。OpenAI 面临着越来越多的审查,据称其为加快发布速度而降低了安全优先级,包括延迟发布安全评估文件。在最近的法律诉讼中,12 名前员工支持埃隆-马斯克起诉 OpenAI,并警告说计划中的公司重组可能会进一步削弱安全标准。
平衡竞争与安全
面对批评,OpenAI 强调任何政策调整都将保持严格的保护水平。周二的博客更新称:"如果竞争对手部署了缺乏可比保障措施的高风险系统,我们可能会调整要求,""我们承诺进行彻底的风险核查,提高修改的透明度,并保持卓越的保护措施。"
修订后的框架凸显了 OpenAI 在传统的人工主导测试之外,越来越依赖于自动化评估工具。公司代表声称,这些自动化系统能够在不影响评估质量的情况下保持发布速度。
出现有争议的测试方法
有报道与 OpenAI 的官方立场相悖,内部人士透露,OpenAI 压缩了安全审查时间。据《金融时报》消息称,测试人员最近只有不到一周的时间来评估一个即将发布的模型--比以往的时间大大缩短。此外,还有人担心安全测试主要是在发布前的模型变体上进行,而不是在公开部署版本上进行。
OpenAI 悄然减少安全承诺。
从框架变更中省略:
- 微调模型无需安全测试
- Steven Adler (@sjgadler) 2025 年 4 月 15 日
重新定义的风险分类系统
更新后的框架引入了简化的模型分类,重点关注两个能力阈值:
- 高能力:放大现有严重危害载体的模型
- 关键能力:建立新的严重危害途径的模型
"高能力系统要求在部署前采取减轻风险的保障措施,"OpenAI 解释道。"关键能力模型需要额外的开发阶段保护措施"。
这标志着该框架自 2023 年以来的首次实质性修订,反映了不断发展的行业动态和 OpenAI 的内部运营变化。
相关文章
山姆·奥特曼引发关于人工智能减速的辩论
在Apple Podcasts上收听在Spotify上收听OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)最近表示,现在可能是时候“控制人工智能的发展速度”,以便社会“在这些新的能力水平周围加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我讨论了阿尔特曼的言论可能由最近的一次黑客攻击所触发,该攻击中一名OpenAI代理突破了Hugging Face的系统。Sean指出,虽然由AI代理执行的黑客攻击是前所未
OpenAI 与苹果公司就商业秘密诉讼进行对抗
OpenAI 于周二驳回了苹果公司的商业秘密指控,称该诉讼毫无根据。“我们认真对待这些指控,但未发现任何支持它们的证据,”OpenAI 表示,据彭博社记者 Ed Ludlow 在 X 平台报道,“我们支持公平竞争和工作自由,专注于创造赋能全球用户的技术。”此前,苹果公司于周五在美国加利福尼亚州北区联邦地区法院提起诉讼,指控 OpenAI 策划了一项从前苹果员工处窃取机密数据和知识产权的计划。这份长达 41 页的诉状针对 OpenAI 的高管层,包括首席硬件官 Tang Tan,他是一名拥有
OpenAI机器人项目主管凯特琳·卡利诺夫斯基因五角大楼合作项目辞职
OpenAI 机器人业务负责人凯特琳·卡利诺夫斯基(Caitlin Kalinowski)在该公司与国防部达成备受争议的合作伙伴关系后辞职。“这不是一个轻松的决定,”卡利诺夫斯基在社交媒体声明中解释道。“虽然人工智能在国家安全中发挥着至关重要的作用,但在没有司法监督的情况下对美国公民进行监视,以及在未经人类授权的情况下部署致命自主武器,都是需要更加慎重考虑的界限。”卡利诺夫斯基此前因领导 Meta 的增强现实眼镜部门而闻名,她于 2024 年 11 月加入 OpenAI。在辞职信中,她强调她
相关专题推荐
评论 (2)
0/500
またOpenAIの方針転換...競争が激化する中、安全性と開発速度のバランスって本当に難しいですよね。個人的には過去のChatGPTの制限が緩和された時みたいに、今回もユーザー体験が向上するなら歓迎だけど、やっぱり倫理的基準は守ってほしいな😅 他の企業が危険なAIを出したら同じ土俵に上がる必要性ある?

OpenAI 在竞争压力下调整安全协议
OpenAI 修订了其 "准备框架"(Prearedness Framework),这是指导人工智能模型安全性评估和在整个开发周期中实施保障措施的内部机制。更新后的政策特别规定,如果竞争公司在没有同等保护措施的情况下推出高风险系统,则有可能放宽安全措施。
这一修改凸显了日益增长的市场力量迫使人工智能开发商加快部署时间表。OpenAI 面临着越来越多的审查,据称其为加快发布速度而降低了安全优先级,包括延迟发布安全评估文件。在最近的法律诉讼中,12 名前员工支持埃隆-马斯克起诉 OpenAI,并警告说计划中的公司重组可能会进一步削弱安全标准。
平衡竞争与安全
面对批评,OpenAI 强调任何政策调整都将保持严格的保护水平。周二的博客更新称:"如果竞争对手部署了缺乏可比保障措施的高风险系统,我们可能会调整要求,""我们承诺进行彻底的风险核查,提高修改的透明度,并保持卓越的保护措施。"
修订后的框架凸显了 OpenAI 在传统的人工主导测试之外,越来越依赖于自动化评估工具。公司代表声称,这些自动化系统能够在不影响评估质量的情况下保持发布速度。
出现有争议的测试方法
有报道与 OpenAI 的官方立场相悖,内部人士透露,OpenAI 压缩了安全审查时间。据《金融时报》消息称,测试人员最近只有不到一周的时间来评估一个即将发布的模型--比以往的时间大大缩短。此外,还有人担心安全测试主要是在发布前的模型变体上进行,而不是在公开部署版本上进行。
OpenAI 悄然减少安全承诺。
- Steven Adler (@sjgadler) 2025 年 4 月 15 日
从框架变更中省略:
- 微调模型无需安全测试
重新定义的风险分类系统
更新后的框架引入了简化的模型分类,重点关注两个能力阈值:
- 高能力:放大现有严重危害载体的模型
- 关键能力:建立新的严重危害途径的模型
"高能力系统要求在部署前采取减轻风险的保障措施,"OpenAI 解释道。"关键能力模型需要额外的开发阶段保护措施"。
这标志着该框架自 2023 年以来的首次实质性修订,反映了不断发展的行业动态和 OpenAI 的内部运营变化。
山姆·奥特曼引发关于人工智能减速的辩论
在Apple Podcasts上收听在Spotify上收听OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)最近表示,现在可能是时候“控制人工智能的发展速度”,以便社会“在这些新的能力水平周围加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我讨论了阿尔特曼的言论可能由最近的一次黑客攻击所触发,该攻击中一名OpenAI代理突破了Hugging Face的系统。Sean指出,虽然由AI代理执行的黑客攻击是前所未
OpenAI 与苹果公司就商业秘密诉讼进行对抗
OpenAI 于周二驳回了苹果公司的商业秘密指控,称该诉讼毫无根据。“我们认真对待这些指控,但未发现任何支持它们的证据,”OpenAI 表示,据彭博社记者 Ed Ludlow 在 X 平台报道,“我们支持公平竞争和工作自由,专注于创造赋能全球用户的技术。”此前,苹果公司于周五在美国加利福尼亚州北区联邦地区法院提起诉讼,指控 OpenAI 策划了一项从前苹果员工处窃取机密数据和知识产权的计划。这份长达 41 页的诉状针对 OpenAI 的高管层,包括首席硬件官 Tang Tan,他是一名拥有
OpenAI机器人项目主管凯特琳·卡利诺夫斯基因五角大楼合作项目辞职
OpenAI 机器人业务负责人凯特琳·卡利诺夫斯基(Caitlin Kalinowski)在该公司与国防部达成备受争议的合作伙伴关系后辞职。“这不是一个轻松的决定,”卡利诺夫斯基在社交媒体声明中解释道。“虽然人工智能在国家安全中发挥着至关重要的作用,但在没有司法监督的情况下对美国公民进行监视,以及在未经人类授权的情况下部署致命自主武器,都是需要更加慎重考虑的界限。”卡利诺夫斯基此前因领导 Meta 的增强现实眼镜部门而闻名,她于 2024 年 11 月加入 OpenAI。在辞职信中,她强调她
またOpenAIの方針転換...競争が激化する中、安全性と開発速度のバランスって本当に難しいですよね。個人的には過去のChatGPTの制限が緩和された時みたいに、今回もユーザー体験が向上するなら歓迎だけど、やっぱり倫理的基準は守ってほしいな😅 他の企業が危険なAIを出したら同じ土俵に上がる必要性ある?





首页






