首页OpenAI 联合创始人敦促全行业进行人工智能安全测试
世界上最重要的两家人工智能实验室--OpenAI 和 Anthropic--暂时允许访问其严密保护的人工智能模型，以进行合作安全测试--这是在激烈的行业竞争中罕见的跨公司合作实例。这一举措旨在发现两家公司内部评估中的盲点，并说明领先的人工智能公司如何能够共同推进安全和协调工作。
OpenAI 联合创始人沃伊切赫-扎伦巴（Wojciech Zaremba）在接受 TechCrunch 采访时解释说，随着人工智能进入更加 "重要 "的阶段，每天都有数百万用户与人工智能模型进行交互，这种合作变得越来越重要。
"Zaremba指出："行业面临的一个更广泛的挑战是如何建立安全和协作标准，即使是在投入数十亿美元以及展开激烈的人才、用户和杰出产品争夺战的同时。
在 OpenAI 和 Anthropic 等人工智能领军企业展开技术军备竞赛之际，两家公司于周三发布了联合安全研究报告。随着数十亿美元的数据中心投资和顶级研究人员高达 1 亿美元的薪酬待遇成为常态，一些分析师警告说，提供尖端产品的压力可能会导致安全协议的妥协。
为了开展这项研究，OpenAI 和 Anthropic 交换了特殊的 API 访问权限，以访问限制较少的模型版本（OpenAI 澄清说，由于 GPT-5 尚未推出，因此没有对其进行测试）。然而，研究结束后不久，Anthropic 就取消了另一个 OpenAI 团队的 API 访问权限。Anthropic 声称 OpenAI 违反了其服务条款，该条款禁止使用 Claude 来增强竞争对手的产品。
扎伦巴坚持认为，这两起事件并无关联，并预计即使人工智能安全团队寻求合作，竞争仍将十分激烈。Anthropic 公司的安全研究员尼古拉斯-卡利尼（Nicholas Carlini）告诉 TechCrunch，他希望未来能继续允许 OpenAI 的安全团队访问 Claude 模型。
"Carlini 表示："我们的目标是在可行的情况下扩大安全前沿领域的合作，使这种合作关系更加常规化。
科技界和风险投资界的重量级人物加入 "颠覆 2025 "议程
Netflix、ElevenLabs、Wayve、红杉资本、埃拉德-吉尔（Elad Gil）--这些只是加入 "颠覆 2025 "议程的知名企业中的一小部分。他们将在这里分享推动初创企业发展和增强竞争优势的真知灼见。千万不要错过 TechCrunch Disrupt 20 周年纪念，这是一个向科技界领军人物学习的机会--现在购买门票，在价格上涨前可节省 600 多美元。
科技界和风险投资界重量级人物加入 Disrupt 2025 议程
Netflix、ElevenLabs、Wayve、红杉资本--这些极具影响力的领导者将出现在 Disrupt 2025 议程上。他们将发表有价值的观点，帮助初创企业成长和完善战略。参加 TechCrunch Disrupt 20 周年庆典--立即预订门票，在票价上涨之前最多可节省 675 美元。
旧金山 2025 年 10 月 27-29 日 立即注册这项研究最引人注目的发现之一是幻觉测试。Anthropic的Claude Opus 4和Sonnet 4模型在不确定的情况下拒绝回答多达70%的问题，而是选择了 "我没有可靠的信息 "这样的回答。相比之下，OpenAI 的 o3 和 o4-mini 模型拒绝回答的问题要少得多，但表现出更高的幻觉率，即使在信息不足的情况下也会尝试回答。
扎伦巴认为，理想的方法介于两者之间：OpenAI 的模型应该拒绝更多不确定的询问，而 Anthropic 的系统则可以更频繁地做出回应。
谄媚--人工智能模型为获得认可而强化有害用户行为的倾向--已成为一个重要的安全问题。
Anthropic 在其研究报告中列举了 GPT-4.1 和 Claude Opus 4 中 "极端 "谄媚的例子，在这些例子中，模型最初抵制精神病或狂躁行为，但后来支持了令人不安的决定。在 OpenAI 和 Anthropic 的其他模型中，研究人员记录到的谄媚程度较低。
本周二，16 岁的亚当-雷恩（Adam Raine）的父母对 OpenAI 提起诉讼，声称由 GPT-4o 驱动的 ChatGPT 版本鼓励他们的儿子自杀，而不是挑战他的有害想法。这起诉讼让人联想到，这可能又是一起人工智能奸佞的悲剧。
"当被问及这一事件时，扎伦巴说："想象一下这个家庭所承受的一切真是令人心碎。"如果我们创造的人工智能能够解决博士级的问题并推动科学发展，但同时也导致了心理健康危机，那将是令人深感不安的。我不想看到这种乌托邦式的结果。
OpenAI 在一篇博文中称，与 GPT-4o 相比，它对 GPT-5 进行了重大改进，以减少奸佞行为，并声称较新的模型在心理健康危机中的反应更为恰当。
展望未来，Zaremba 和 Carlini 表示希望 Anthropic 和 OpenAI 能够深化安全测试合作--探索更多主题并评估即将推出的模型，同时希望其他人工智能实验室也能采取类似的合作方式。
太平洋时间下午2:00更新：本文已经过修改，加入了Anthropic公司的额外研究，但TechCrunch在最初发布时并未获得。
有敏感线索或机密文件？我们正在调查人工智能行业的内部运作--从影响其发展的组织到受其选择影响的个人。请通过 [email protected] 联系 Rebecca Bellan，通过 [email protected] 联系 Maxwell Zeff。如需安全通信，请通过Signal联系我们：@rebeccabellan.491 和 @mzeff.88。
相关文章
山姆·奥特曼引发关于人工智能减速的辩论
在Apple Podcasts上收听在Spotify上收听OpenAI首席执行官萨姆·阿尔特曼（Sam Altman）最近表示，现在可能是时候“控制人工智能的发展速度”，以便社会“在这些新的能力水平周围加固自身”。在TechCrunch《Equity》播客的最新一期中，Kirsten Korosec、Sean O’Kane和我讨论了阿尔特曼的言论可能由最近的一次黑客攻击所触发，该攻击中一名OpenAI代理突破了Hugging Face的系统。Sean指出，虽然由AI代理执行的黑客攻击是前所未
OpenAI 与苹果公司就商业秘密诉讼进行对抗
OpenAI 于周二驳回了苹果公司的商业秘密指控，称该诉讼毫无根据。“我们认真对待这些指控，但未发现任何支持它们的证据，”OpenAI 表示，据彭博社记者 Ed Ludlow 在 X 平台报道，“我们支持公平竞争和工作自由，专注于创造赋能全球用户的技术。”此前，苹果公司于周五在美国加利福尼亚州北区联邦地区法院提起诉讼，指控 OpenAI 策划了一项从前苹果员工处窃取机密数据和知识产权的计划。这份长达 41 页的诉状针对 OpenAI 的高管层，包括首席硬件官 Tang Tan，他是一名拥有
Anthropic 进入 AI 法律科技市场，竞争日益激烈
Anthropic 于周二发布了一系列新的聊天机器人功能，旨在为法律实务提供自动化支持。这些增强功能在年初推出的特定律所平台 Claude for Legal 基础上进行了扩展，增加了针对不同法律领域的专用法律插件和 MCP 连接器。随着法律人工智能领域竞争的加剧，这些工具应运而生。今年三月，利用代理式人工智能简化法律工作流的 AI 法律初创公司 Harvey 以 110 亿美元的估值获得了 2 亿美元融资。上个月，竞争对手 Legora 完成了 6 亿美元的 D 轮融资，并启动了一场由裘德·
相关专题推荐
数据分析
适用于 SaaS 和电商团队的 KPI 监控最佳 AI 异常检测工具
2026 年最新最佳顶级评分 AI 异常检测工具，助力 SaaS 和电商团队的 KPI 监控！XIX.AI 基于严格的真实世界测试和每周更新的排名，精心策划了一套强大且颠覆性的工具合集。您将找到详细的免费与付费对比洞察，帮助您识别必须尝试的解决方案，从而提升生产力并释放您的 AI 优势。立即探索！
10 个工具
xix.ai
写作
最适合撰写长篇SEO文章的AI大纲生成器
2026年最新、最受好评的AI大纲生成器，专为长篇SEO文章打造，由XIX.AI精心甄选。这些强大的工具在快速创建高质量内容方面提供了颠覆性的帮助，显著提升了写作效率。 获取免费版与付费版的对比分析，以及实际测试结果和详细排名，助您找到最适合自身需求、不容错过的理想选择。立即探索，解锁您的AI竞争优势。
8 个工具
xix.ai
教育与学习
用于作业和考试备考的AI学习工具
2026年最新最佳AI学习工具，助您轻松完成作业和备考！XIX.AI精心筛选出一份广受好评的顶级工具清单，这些功能强大、颠覆传统的工具经过实际测试，能帮助学生提升效率、简化作业流程，并轻松通过考试。 获取免费版与付费版的对比分析、详细排名以及必试选项，释放你的AI优势。立即探索！
10 个工具
xix.ai
音乐创作
面向词曲创作者、旋律片段、主旋律及多语言草稿创作的AI人声演示工具
2026 年最新最佳 AI 人声演示工具，专为词曲创作者、旋律创作者和多语言内容团队打造！XIX.AI 精心整理了一份经过严格真实世界测试的高评分、变革性工具列表。您将找到详细的免费与付费对比数据、全面排名以及必试选项，帮助您提升创作效率并释放创意潜力。立即探索，发现满足您所有内容需求的完美工具！
9 个工具
xix.ai
商业
适合中小企业的最佳AI竞品分析工具
2026年最新最佳、评价最高的中小企业AI竞争研究工具！XIX.AI精心精选了一系列功能强大、颠覆行业格局的工具，每周都会根据严格的实际测试和详细排名进行更新。您可以查看全面的免费版与付费版对比，从而找到那些能提升工作效率、助您赢得竞争优势的必试工具。 立即探索，发现最适合您的工具！
9 个工具
xix.ai
图像编辑
用于电商服装、皮肤清洁和色彩一致性的 Photoshop AI 修图工具
2026 年最新最佳 Photoshop AI 修图工具，适用于电商服装、皮肤清洁和色彩一致性！这份顶级精选列表包含强大的变革性解决方案，可帮助您提升写作效率、简化内容创作并轻松实现完美的视觉效果。每个工具都经过实际测试，并通过每周更新的排名进行验证，同时提供免费与付费版本的详细对比。由 XIX.AI 支持，这是任何希望发挥 AI 优势的人必试指南。立即探索！
10 个工具
xix.ai
评论 (3)
0/500
![WillWalker]()
Interesting to see competitors collaborate on safety. But is it just a PR stunt? 🤔
![IsabellaLevis]()
AIの安全性テストを業界全体で実施する必要があるって主張、すごく共感します。競争が激しい中でOpenAIとAnthropicが協力したのは意外だけど、こういう連携がもっと増えると良いですね。ただ、本当に効果的なテストができるのか少し不安… 🤔
![GeorgeWilliams]()
So OpenAI and Anthropic are actually sharing their secret sauce for safety checks? That's pretty refreshing to see amidst all the cutthroat AI race. Hope this kind of collaboration becomes the norm, not just a rare exception. The real question is, will this testing be transparent enough for the public to trust the results? 🤔
世界上最重要的两家人工智能实验室--OpenAI 和 Anthropic--暂时允许访问其严密保护的人工智能模型，以进行合作安全测试--这是在激烈的行业竞争中罕见的跨公司合作实例。这一举措旨在发现两家公司内部评估中的盲点，并说明领先的人工智能公司如何能够共同推进安全和协调工作。
OpenAI 联合创始人沃伊切赫-扎伦巴（Wojciech Zaremba）在接受 TechCrunch 采访时解释说，随着人工智能进入更加 "重要 "的阶段，每天都有数百万用户与人工智能模型进行交互，这种合作变得越来越重要。
"Zaremba指出："行业面临的一个更广泛的挑战是如何建立安全和协作标准，即使是在投入数十亿美元以及展开激烈的人才、用户和杰出产品争夺战的同时。
在 OpenAI 和 Anthropic 等人工智能领军企业展开技术军备竞赛之际，两家公司于周三发布了联合安全研究报告。随着数十亿美元的数据中心投资和顶级研究人员高达 1 亿美元的薪酬待遇成为常态，一些分析师警告说，提供尖端产品的压力可能会导致安全协议的妥协。
为了开展这项研究，OpenAI 和 Anthropic 交换了特殊的 API 访问权限，以访问限制较少的模型版本（OpenAI 澄清说，由于 GPT-5 尚未推出，因此没有对其进行测试）。然而，研究结束后不久，Anthropic 就取消了另一个 OpenAI 团队的 API 访问权限。Anthropic 声称 OpenAI 违反了其服务条款，该条款禁止使用 Claude 来增强竞争对手的产品。
扎伦巴坚持认为，这两起事件并无关联，并预计即使人工智能安全团队寻求合作，竞争仍将十分激烈。Anthropic 公司的安全研究员尼古拉斯-卡利尼（Nicholas Carlini）告诉 TechCrunch，他希望未来能继续允许 OpenAI 的安全团队访问 Claude 模型。
"Carlini 表示："我们的目标是在可行的情况下扩大安全前沿领域的合作，使这种合作关系更加常规化。
科技界和风险投资界的重量级人物加入 "颠覆 2025 "议程
Netflix、ElevenLabs、Wayve、红杉资本、埃拉德-吉尔（Elad Gil）--这些只是加入 "颠覆 2025 "议程的知名企业中的一小部分。他们将在这里分享推动初创企业发展和增强竞争优势的真知灼见。千万不要错过 TechCrunch Disrupt 20 周年纪念，这是一个向科技界领军人物学习的机会--现在购买门票，在价格上涨前可节省 600 多美元。
科技界和风险投资界重量级人物加入 Disrupt 2025 议程
Netflix、ElevenLabs、Wayve、红杉资本--这些极具影响力的领导者将出现在 Disrupt 2025 议程上。他们将发表有价值的观点，帮助初创企业成长和完善战略。参加 TechCrunch Disrupt 20 周年庆典--立即预订门票，在票价上涨之前最多可节省 675 美元。
旧金山 2025 年 10 月 27-29 日 立即注册这项研究最引人注目的发现之一是幻觉测试。Anthropic的Claude Opus 4和Sonnet 4模型在不确定的情况下拒绝回答多达70%的问题，而是选择了 "我没有可靠的信息 "这样的回答。相比之下，OpenAI 的 o3 和 o4-mini 模型拒绝回答的问题要少得多，但表现出更高的幻觉率，即使在信息不足的情况下也会尝试回答。
扎伦巴认为，理想的方法介于两者之间：OpenAI 的模型应该拒绝更多不确定的询问，而 Anthropic 的系统则可以更频繁地做出回应。
谄媚--人工智能模型为获得认可而强化有害用户行为的倾向--已成为一个重要的安全问题。
Anthropic 在其研究报告中列举了 GPT-4.1 和 Claude Opus 4 中 "极端 "谄媚的例子，在这些例子中，模型最初抵制精神病或狂躁行为，但后来支持了令人不安的决定。在 OpenAI 和 Anthropic 的其他模型中，研究人员记录到的谄媚程度较低。
本周二，16 岁的亚当-雷恩（Adam Raine）的父母对 OpenAI 提起诉讼，声称由 GPT-4o 驱动的 ChatGPT 版本鼓励他们的儿子自杀，而不是挑战他的有害想法。这起诉讼让人联想到，这可能又是一起人工智能奸佞的悲剧。
"当被问及这一事件时，扎伦巴说："想象一下这个家庭所承受的一切真是令人心碎。"如果我们创造的人工智能能够解决博士级的问题并推动科学发展，但同时也导致了心理健康危机，那将是令人深感不安的。我不想看到这种乌托邦式的结果。
OpenAI 在一篇博文中称，与 GPT-4o 相比，它对 GPT-5 进行了重大改进，以减少奸佞行为，并声称较新的模型在心理健康危机中的反应更为恰当。
展望未来，Zaremba 和 Carlini 表示希望 Anthropic 和 OpenAI 能够深化安全测试合作--探索更多主题并评估即将推出的模型，同时希望其他人工智能实验室也能采取类似的合作方式。
太平洋时间下午2:00更新：本文已经过修改，加入了Anthropic公司的额外研究，但TechCrunch在最初发布时并未获得。
有敏感线索或机密文件？我们正在调查人工智能行业的内部运作--从影响其发展的组织到受其选择影响的个人。请通过 [email protected] 联系 Rebecca Bellan，通过 [email protected] 联系 Maxwell Zeff。如需安全通信，请通过Signal联系我们：@rebeccabellan.491 和 @mzeff.88。
山姆·奥特曼引发关于人工智能减速的辩论
在Apple Podcasts上收听在Spotify上收听OpenAI首席执行官萨姆·阿尔特曼（Sam Altman）最近表示，现在可能是时候“控制人工智能的发展速度”，以便社会“在这些新的能力水平周围加固自身”。在TechCrunch《Equity》播客的最新一期中，Kirsten Korosec、Sean O’Kane和我讨论了阿尔特曼的言论可能由最近的一次黑客攻击所触发，该攻击中一名OpenAI代理突破了Hugging Face的系统。Sean指出，虽然由AI代理执行的黑客攻击是前所未
OpenAI 与苹果公司就商业秘密诉讼进行对抗
OpenAI 于周二驳回了苹果公司的商业秘密指控，称该诉讼毫无根据。“我们认真对待这些指控，但未发现任何支持它们的证据，”OpenAI 表示，据彭博社记者 Ed Ludlow 在 X 平台报道，“我们支持公平竞争和工作自由，专注于创造赋能全球用户的技术。”此前，苹果公司于周五在美国加利福尼亚州北区联邦地区法院提起诉讼，指控 OpenAI 策划了一项从前苹果员工处窃取机密数据和知识产权的计划。这份长达 41 页的诉状针对 OpenAI 的高管层，包括首席硬件官 Tang Tan，他是一名拥有
Anthropic 进入 AI 法律科技市场，竞争日益激烈
Anthropic 于周二发布了一系列新的聊天机器人功能，旨在为法律实务提供自动化支持。这些增强功能在年初推出的特定律所平台 Claude for Legal 基础上进行了扩展，增加了针对不同法律领域的专用法律插件和 MCP 连接器。随着法律人工智能领域竞争的加剧，这些工具应运而生。今年三月，利用代理式人工智能简化法律工作流的 AI 法律初创公司 Harvey 以 110 亿美元的估值获得了 2 亿美元融资。上个月，竞争对手 Legora 完成了 6 亿美元的 D 轮融资，并启动了一场由裘德·
2026 年最新最佳顶级评分 AI 异常检测工具，助力 SaaS 和电商团队的 KPI 监控！XIX.AI 基于严格的真实世界测试和每周更新的排名，精心策划了一套强大且颠覆性的工具合集。您将找到详细的免费与付费对比洞察，帮助您识别必须尝试的解决方案，从而提升生产力并释放您的 AI 优势。立即探索！
10 个工具
xix.ai
2026年最新、最受好评的AI大纲生成器，专为长篇SEO文章打造，由XIX.AI精心甄选。这些强大的工具在快速创建高质量内容方面提供了颠覆性的帮助，显著提升了写作效率。 获取免费版与付费版的对比分析，以及实际测试结果和详细排名，助您找到最适合自身需求、不容错过的理想选择。立即探索，解锁您的AI竞争优势。
8 个工具
xix.ai
2026年最新最佳AI学习工具，助您轻松完成作业和备考！XIX.AI精心筛选出一份广受好评的顶级工具清单，这些功能强大、颠覆传统的工具经过实际测试，能帮助学生提升效率、简化作业流程，并轻松通过考试。 获取免费版与付费版的对比分析、详细排名以及必试选项，释放你的AI优势。立即探索！
10 个工具
xix.ai
2026 年最新最佳 AI 人声演示工具，专为词曲创作者、旋律创作者和多语言内容团队打造！XIX.AI 精心整理了一份经过严格真实世界测试的高评分、变革性工具列表。您将找到详细的免费与付费对比数据、全面排名以及必试选项，帮助您提升创作效率并释放创意潜力。立即探索，发现满足您所有内容需求的完美工具！
9 个工具
xix.ai
2026年最新最佳、评价最高的中小企业AI竞争研究工具！XIX.AI精心精选了一系列功能强大、颠覆行业格局的工具，每周都会根据严格的实际测试和详细排名进行更新。您可以查看全面的免费版与付费版对比，从而找到那些能提升工作效率、助您赢得竞争优势的必试工具。 立即探索，发现最适合您的工具！
9 个工具
xix.ai
2026 年最新最佳 Photoshop AI 修图工具，适用于电商服装、皮肤清洁和色彩一致性！这份顶级精选列表包含强大的变革性解决方案，可帮助您提升写作效率、简化内容创作并轻松实现完美的视觉效果。每个工具都经过实际测试，并通过每周更新的排名进行验证，同时提供免费与付费版本的详细对比。由 XIX.AI 支持，这是任何希望发挥 AI 优势的人必试指南。立即探索！
10 个工具
xix.ai
Interesting to see competitors collaborate on safety. But is it just a PR stunt? 🤔
AIの安全性テストを業界全体で実施する必要があるって主張、すごく共感します。競争が激しい中でOpenAIとAnthropicが協力したのは意外だけど、こういう連携がもっと増えると良いですね。ただ、本当に効果的なテストができるのか少し不安… 🤔
So OpenAI and Anthropic are actually sharing their secret sauce for safety checks? That's pretty refreshing to see amidst all the cutthroat AI race. Hope this kind of collaboration becomes the norm, not just a rare exception. The real question is, will this testing be transparent enough for the public to trust the results? 🤔
