Anthropic的安全警告适得其反,政府叫停了其最强大的AI
上周五,美国政府以国家安全风险为由,要求Anthropic立即停用其两款最先进的人工智能系统——Claude Fable 5和Claude Mythos 5。Anthropic通过X平台确认已遵守该要求,但表示认为政府的决定是错误的。
据Anthropic称,该指令于周五美国东部时间下午5点21分下达,要求该公司对全球所有用户屏蔽这两个模型,其范围超出了出口管制令最初针对的外国公民。Anthropic的其他模型未受影响。
此事为何重要?Mythos是Anthropic最强大的人工智能系统,于4月初预览发布,因其具备识别软件安全漏洞的卓越能力而一直受到严格限制。 Anthropic报告称,Mythos在测试的每款主流操作系统和网络浏览器中都发现了漏洞。因此,该公司并未进行广泛发布,而是启动了“Project Glasswing”项目——这是一个受控计划,仅向包括亚马逊、苹果、谷歌、微软和CrowdStrike在内的约50家经过审核的组织提供访问权限,用于防御性网络安全目的。
仅在三天前发布的“Fable 5”版本,为应对商业压力,提供了一个带有安全防护机制的Mythos版本,该机制会阻止其在网络安全和生物学等高风险领域的响应。Anthropic认为这使其能够安全地用于一般用途,而追踪AI性能的Vals AI进行的基准测试也证实,它目前是性能最强的公开AI模型。

图片来源:Vals AI /
尽管政府将此定性为限制外国访问的出口管制措施,但Anthropic在一篇详细的博客文章中指出,真正的问题在于据称有人成功“越狱”了Fable 5。 该公司表示,政府仅提供了关于“潜在的、范围有限且非普遍性的越狱”的口头证据,该越狱涉及提示模型分析特定代码库以查找软件漏洞。 Anthropic 指出,这种能力在其他公开模型(如 OpenAI 的 GPT-5.5)中早已普遍存在,且常被网络安全专业人员用于防御目的。
Anthropic的核心论点是,其最强大的安全防护措施依赖于与模型本身分离的独立分类器系统。这意味着,即使用户绕过了拒绝指令,针对危险输出的底层保护机制仍会保持激活状态。
尽管有这些安全保障措施,政府仍继续采取行动,Anthropic 也公开表达了其不满。“我们不同意,仅因发现一种狭义的潜在‘越狱’风险,就应成为召回已部署给数亿用户的商用模型的理由,”该公司写道。 “如果这一标准在整个行业中普遍适用,我们认为这将实质上阻止所有前沿模型提供商部署新模型。”
外界普遍预计,Anthropic 将于今年推进首次公开募股(IPO),并将其定位为注重安全性的竞争对手替代方案。观察人士指出,讽刺的是,Anthropic 此前在限制 Mythos 方面表现出的谨慎——将其宣传为“过于危险而无法公开发布”——如今却恰恰引发了政府审查,而这种审查可能扰乱其业务。
OpenAI的萨姆·阿尔特曼似乎对此乐见其成。今年4月,他告诉播客主持人阿什利·万斯,Anthropic对Mythos的处理是“基于恐惧的营销”。 “说‘我们制造了一枚炸弹,正准备把它扔到你头上,现在以1亿美元的价格向你出售一个防空洞’,这显然是绝妙的营销手段,”奥特曼说道。 虽然奥特曼(其公司也计划近期进行IPO)并未预测政府会叫停该项目,但他指出了Anthropic策略带来的一个后果:通过数月来不断警告其AI具有独特的危险性,该公司确保了美国政府会对此予以关注。
相关文章
苹果就Siri人工智能功能延期发布达成2.5亿美元和解
苹果已同意支付2.5亿美元,以解决一起关于其在iPhone 16发布前对AI功能营销的集体诉讼,该消息由《金融时报》率先报道。诉讼声称,苹果夸大了Apple Intelligence的功能,包括一项重大的Siri升级。原告认为,苹果公司通过暗示高级AI工具将比实际更早可用,从而误导了消费者,特别是关于Siri承诺的改进,这些改进至今尚未完全实现。根据投诉内容,iPhone 15和16的买家认为他们购买的是当时不可用的尖端AI工具。诉讼将此定性为虚假广告,声称苹果的营销基于不完整或延迟的功能影
Ando 推出团队消息应用,连接人类与人工智能协作
2025年,当Sara Du协助公司开发MCP服务器时,一个反复出现的问题浮出水面:团队如何直接在Slack中利用AI智能体?这条道路被显著的技术障碍所阻碍,包括消息同步的复杂性、上下文管理的难度以及耗尽令牌预算的风险。在调查这些挑战时,Du发现了现代通信平台设计中的一个根本缺陷。“我深入得越深,就越觉得Slack和Teams是为一个正在离我们远去的世界而构建的,”Du告诉TechCrunch。“智能体被视为你需要安装的应用程序,尽管它们正逐渐成为团队的参与者。”她提出的解决方案涉及消除“肉
红杉资本投资的Empirik筹集2100万美元,用于在故障发生前进行预测
在2020年加入红杉资本担任首席数字与信息官之前,阿文·普里曾在Rubrik和VMware负责基础设施管理工作长达十余年。 三年前,当大型语言模型开始展现其真正潜力时,普里与红杉资本的另一位IT负责人苏迪尔·杜尔贾蒂(Sudheer Dhurjati)意识到,人工智能能够帮助自主解决基础设施工程师面临的一大挑战——在技术故障发生前就加以预防。这两位技术界资深人士意识到,与其在系统故障发生后被动应对
相关专题推荐
评论 (0)
0/500
上周五,美国政府以国家安全风险为由,要求Anthropic立即停用其两款最先进的人工智能系统——Claude Fable 5和Claude Mythos 5。Anthropic通过X平台确认已遵守该要求,但表示认为政府的决定是错误的。
据Anthropic称,该指令于周五美国东部时间下午5点21分下达,要求该公司对全球所有用户屏蔽这两个模型,其范围超出了出口管制令最初针对的外国公民。Anthropic的其他模型未受影响。
此事为何重要?Mythos是Anthropic最强大的人工智能系统,于4月初预览发布,因其具备识别软件安全漏洞的卓越能力而一直受到严格限制。 Anthropic报告称,Mythos在测试的每款主流操作系统和网络浏览器中都发现了漏洞。因此,该公司并未进行广泛发布,而是启动了“Project Glasswing”项目——这是一个受控计划,仅向包括亚马逊、苹果、谷歌、微软和CrowdStrike在内的约50家经过审核的组织提供访问权限,用于防御性网络安全目的。
仅在三天前发布的“Fable 5”版本,为应对商业压力,提供了一个带有安全防护机制的Mythos版本,该机制会阻止其在网络安全和生物学等高风险领域的响应。Anthropic认为这使其能够安全地用于一般用途,而追踪AI性能的Vals AI进行的基准测试也证实,它目前是性能最强的公开AI模型。

图片来源:Vals AI /
尽管政府将此定性为限制外国访问的出口管制措施,但Anthropic在一篇详细的博客文章中指出,真正的问题在于据称有人成功“越狱”了Fable 5。 该公司表示,政府仅提供了关于“潜在的、范围有限且非普遍性的越狱”的口头证据,该越狱涉及提示模型分析特定代码库以查找软件漏洞。 Anthropic 指出,这种能力在其他公开模型(如 OpenAI 的 GPT-5.5)中早已普遍存在,且常被网络安全专业人员用于防御目的。
Anthropic的核心论点是,其最强大的安全防护措施依赖于与模型本身分离的独立分类器系统。这意味着,即使用户绕过了拒绝指令,针对危险输出的底层保护机制仍会保持激活状态。
尽管有这些安全保障措施,政府仍继续采取行动,Anthropic 也公开表达了其不满。“我们不同意,仅因发现一种狭义的潜在‘越狱’风险,就应成为召回已部署给数亿用户的商用模型的理由,”该公司写道。 “如果这一标准在整个行业中普遍适用,我们认为这将实质上阻止所有前沿模型提供商部署新模型。”
外界普遍预计,Anthropic 将于今年推进首次公开募股(IPO),并将其定位为注重安全性的竞争对手替代方案。观察人士指出,讽刺的是,Anthropic 此前在限制 Mythos 方面表现出的谨慎——将其宣传为“过于危险而无法公开发布”——如今却恰恰引发了政府审查,而这种审查可能扰乱其业务。
OpenAI的萨姆·阿尔特曼似乎对此乐见其成。今年4月,他告诉播客主持人阿什利·万斯,Anthropic对Mythos的处理是“基于恐惧的营销”。 “说‘我们制造了一枚炸弹,正准备把它扔到你头上,现在以1亿美元的价格向你出售一个防空洞’,这显然是绝妙的营销手段,”奥特曼说道。 虽然奥特曼(其公司也计划近期进行IPO)并未预测政府会叫停该项目,但他指出了Anthropic策略带来的一个后果:通过数月来不断警告其AI具有独特的危险性,该公司确保了美国政府会对此予以关注。
苹果就Siri人工智能功能延期发布达成2.5亿美元和解
苹果已同意支付2.5亿美元,以解决一起关于其在iPhone 16发布前对AI功能营销的集体诉讼,该消息由《金融时报》率先报道。诉讼声称,苹果夸大了Apple Intelligence的功能,包括一项重大的Siri升级。原告认为,苹果公司通过暗示高级AI工具将比实际更早可用,从而误导了消费者,特别是关于Siri承诺的改进,这些改进至今尚未完全实现。根据投诉内容,iPhone 15和16的买家认为他们购买的是当时不可用的尖端AI工具。诉讼将此定性为虚假广告,声称苹果的营销基于不完整或延迟的功能影
Ando 推出团队消息应用,连接人类与人工智能协作
2025年,当Sara Du协助公司开发MCP服务器时,一个反复出现的问题浮出水面:团队如何直接在Slack中利用AI智能体?这条道路被显著的技术障碍所阻碍,包括消息同步的复杂性、上下文管理的难度以及耗尽令牌预算的风险。在调查这些挑战时,Du发现了现代通信平台设计中的一个根本缺陷。“我深入得越深,就越觉得Slack和Teams是为一个正在离我们远去的世界而构建的,”Du告诉TechCrunch。“智能体被视为你需要安装的应用程序,尽管它们正逐渐成为团队的参与者。”她提出的解决方案涉及消除“肉
红杉资本投资的Empirik筹集2100万美元,用于在故障发生前进行预测
在2020年加入红杉资本担任首席数字与信息官之前,阿文·普里曾在Rubrik和VMware负责基础设施管理工作长达十余年。 三年前,当大型语言模型开始展现其真正潜力时,普里与红杉资本的另一位IT负责人苏迪尔·杜尔贾蒂(Sudheer Dhurjati)意识到,人工智能能够帮助自主解决基础设施工程师面临的一大挑战——在技术故障发生前就加以预防。这两位技术界资深人士意识到,与其在系统故障发生后被动应对





首页






