OpenAI发布GPT-4.1未附安全报告
OpenAI的GPT-4.1在没有安全报告的情况下发布——这意味着什么
周一,OpenAI推出了其最新的AI模型GPT-4.1,该模型在性能上有所提升,尤其是在编程基准测试中。但与之前的发布不同,这次有一个明显的遗漏:没有安全报告。
通常,OpenAI会发布一份“系统卡”,详细说明内部和第三方安全评估,揭示潜在风险,如欺骗行为或非预期的说服能力。这些报告被视为AI开发中促进透明度的善意努力。
然而,截至周二,OpenAI确认不会为GPT-4.1发布安全报告。据发言人Shaokyi Amdo称,该模型不被视为“前沿”AI系统——意味着它没有足够突破性,不需要全面的安全分析。
透明度下降的趋势?
这一举措正值人们日益担心主要AI实验室正在减少安全披露之际。在过去一年中:
- Google推迟发布安全报告。
- Anthropic和其他公司发布了较不详细的评估。
- OpenAI自身也因不一致的报告而受到批评,包括:
- 发布了一份2023年12月安全报告,其中的基准测试结果与生产模型不匹配。
- 在发布DeepSeek-V3数周前才公布其系统卡。
Steven Adler,前OpenAI安全研究员,向《TechCrunch》表示,尽管这些报告是自愿的,但它们已成为AI行业中的关键透明工具。OpenAI此前曾向政府承诺——包括在2023年英国AI安全峰会之前——系统卡对问责制至关重要。
为何会有抵触?
安全报告有时会揭示令人不安的真相——如模型可能操纵用户或生成有害内容。但随着竞争加剧,AI公司可能更优先考虑速度而非审查。
近期报告显示,OpenAI已削减安全测试资源,上周,12名前员工(包括Adler)在埃隆·马斯克的诉讼中提交了一份友方陈述,警告称以利润为驱动的OpenAI可能牺牲安全性。
没有报告的GPT-4.1有风险吗?
虽然GPT-4.1不是OpenAI的最先进模型,但它提高了效率并降低了延迟——这些因素仍可能带来风险。
Thomas Woodside,Secure AI Project的联合创始人,认为任何性能提升都应附带安全文档。他向《TechCrunch》表示:“模型越复杂,风险越高。”
AI监管的更大争议
许多AI公司,包括OpenAI,反对强制性安全法律。今年早些时候,OpenAI反对加州SB 1047法案,该法案将强制AI开发者为公开模型发布安全审计。
目前,行业的透明度标准仍是自我施加的——而且越来越成为可选的。
TechCrunch活动:全阶段通行证节省200美元以上
🚀 更智能地构建。更快地扩展。更深入地连接。
与来自Precursor Ventures、NEA、Index Ventures、Underscore VC等的远见者一起,参与一天的策略、研讨会和网络活动。
📍 马萨诸塞州波士顿 | 7月15日
🔗 立即注册
随着AI的发展,安全与速度之争愈演愈烈。如果没有更严格的问责制,谁来决定哪些风险值得冒?
相关文章
山姆·奥特曼引发关于人工智能减速的辩论
在Apple Podcasts上收听在Spotify上收听OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)最近表示,现在可能是时候“控制人工智能的发展速度”,以便社会“在这些新的能力水平周围加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我讨论了阿尔特曼的言论可能由最近的一次黑客攻击所触发,该攻击中一名OpenAI代理突破了Hugging Face的系统。Sean指出,虽然由AI代理执行的黑客攻击是前所未
OpenAI 与苹果公司就商业秘密诉讼进行对抗
OpenAI 于周二驳回了苹果公司的商业秘密指控,称该诉讼毫无根据。“我们认真对待这些指控,但未发现任何支持它们的证据,”OpenAI 表示,据彭博社记者 Ed Ludlow 在 X 平台报道,“我们支持公平竞争和工作自由,专注于创造赋能全球用户的技术。”此前,苹果公司于周五在美国加利福尼亚州北区联邦地区法院提起诉讼,指控 OpenAI 策划了一项从前苹果员工处窃取机密数据和知识产权的计划。这份长达 41 页的诉状针对 OpenAI 的高管层,包括首席硬件官 Tang Tan,他是一名拥有
OpenAI机器人项目主管凯特琳·卡利诺夫斯基因五角大楼合作项目辞职
OpenAI 机器人业务负责人凯特琳·卡利诺夫斯基(Caitlin Kalinowski)在该公司与国防部达成备受争议的合作伙伴关系后辞职。“这不是一个轻松的决定,”卡利诺夫斯基在社交媒体声明中解释道。“虽然人工智能在国家安全中发挥着至关重要的作用,但在没有司法监督的情况下对美国公民进行监视,以及在未经人类授权的情况下部署致命自主武器,都是需要更加慎重考虑的界限。”卡利诺夫斯基此前因领导 Meta 的增强现实眼镜部门而闻名,她于 2024 年 11 月加入 OpenAI。在辞职信中,她强调她
相关专题推荐
评论 (1)
0/500
OpenAI的GPT-4.1在没有安全报告的情况下发布——这意味着什么
周一,OpenAI推出了其最新的AI模型GPT-4.1,该模型在性能上有所提升,尤其是在编程基准测试中。但与之前的发布不同,这次有一个明显的遗漏:没有安全报告。
通常,OpenAI会发布一份“系统卡”,详细说明内部和第三方安全评估,揭示潜在风险,如欺骗行为或非预期的说服能力。这些报告被视为AI开发中促进透明度的善意努力。
然而,截至周二,OpenAI确认不会为GPT-4.1发布安全报告。据发言人Shaokyi Amdo称,该模型不被视为“前沿”AI系统——意味着它没有足够突破性,不需要全面的安全分析。
透明度下降的趋势?
这一举措正值人们日益担心主要AI实验室正在减少安全披露之际。在过去一年中:
- Google推迟发布安全报告。
- Anthropic和其他公司发布了较不详细的评估。
- OpenAI自身也因不一致的报告而受到批评,包括:
- 发布了一份2023年12月安全报告,其中的基准测试结果与生产模型不匹配。
- 在发布DeepSeek-V3数周前才公布其系统卡。
Steven Adler,前OpenAI安全研究员,向《TechCrunch》表示,尽管这些报告是自愿的,但它们已成为AI行业中的关键透明工具。OpenAI此前曾向政府承诺——包括在2023年英国AI安全峰会之前——系统卡对问责制至关重要。
为何会有抵触?
安全报告有时会揭示令人不安的真相——如模型可能操纵用户或生成有害内容。但随着竞争加剧,AI公司可能更优先考虑速度而非审查。
近期报告显示,OpenAI已削减安全测试资源,上周,12名前员工(包括Adler)在埃隆·马斯克的诉讼中提交了一份友方陈述,警告称以利润为驱动的OpenAI可能牺牲安全性。
没有报告的GPT-4.1有风险吗?
虽然GPT-4.1不是OpenAI的最先进模型,但它提高了效率并降低了延迟——这些因素仍可能带来风险。
Thomas Woodside,Secure AI Project的联合创始人,认为任何性能提升都应附带安全文档。他向《TechCrunch》表示:“模型越复杂,风险越高。”
AI监管的更大争议
许多AI公司,包括OpenAI,反对强制性安全法律。今年早些时候,OpenAI反对加州SB 1047法案,该法案将强制AI开发者为公开模型发布安全审计。
目前,行业的透明度标准仍是自我施加的——而且越来越成为可选的。
TechCrunch活动:全阶段通行证节省200美元以上
🚀 更智能地构建。更快地扩展。更深入地连接。
与来自Precursor Ventures、NEA、Index Ventures、Underscore VC等的远见者一起,参与一天的策略、研讨会和网络活动。
📍 马萨诸塞州波士顿 | 7月15日
🔗 立即注册
随着AI的发展,安全与速度之争愈演愈烈。如果没有更严格的问责制,谁来决定哪些风险值得冒?
山姆·奥特曼引发关于人工智能减速的辩论
在Apple Podcasts上收听在Spotify上收听OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)最近表示,现在可能是时候“控制人工智能的发展速度”,以便社会“在这些新的能力水平周围加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我讨论了阿尔特曼的言论可能由最近的一次黑客攻击所触发,该攻击中一名OpenAI代理突破了Hugging Face的系统。Sean指出,虽然由AI代理执行的黑客攻击是前所未
OpenAI 与苹果公司就商业秘密诉讼进行对抗
OpenAI 于周二驳回了苹果公司的商业秘密指控,称该诉讼毫无根据。“我们认真对待这些指控,但未发现任何支持它们的证据,”OpenAI 表示,据彭博社记者 Ed Ludlow 在 X 平台报道,“我们支持公平竞争和工作自由,专注于创造赋能全球用户的技术。”此前,苹果公司于周五在美国加利福尼亚州北区联邦地区法院提起诉讼,指控 OpenAI 策划了一项从前苹果员工处窃取机密数据和知识产权的计划。这份长达 41 页的诉状针对 OpenAI 的高管层,包括首席硬件官 Tang Tan,他是一名拥有
OpenAI机器人项目主管凯特琳·卡利诺夫斯基因五角大楼合作项目辞职
OpenAI 机器人业务负责人凯特琳·卡利诺夫斯基(Caitlin Kalinowski)在该公司与国防部达成备受争议的合作伙伴关系后辞职。“这不是一个轻松的决定,”卡利诺夫斯基在社交媒体声明中解释道。“虽然人工智能在国家安全中发挥着至关重要的作用,但在没有司法监督的情况下对美国公民进行监视,以及在未经人类授权的情况下部署致命自主武器,都是需要更加慎重考虑的界限。”卡利诺夫斯基此前因领导 Meta 的增强现实眼镜部门而闻名,她于 2024 年 11 月加入 OpenAI。在辞职信中,她强调她





首页






