美国禁止Anthropic模型并非针对AI越狱

美国政府最近致Anthropic公司的一封执法函——该函实际上迫使该公司在周末前将其最新的人工智能模型下线——应成为对任何美国科技公司(无论是否为人工智能实验室)的严峻警告。
简要回顾如下:上周五下午,美国商务部向Anthropic公司发送了一封信函,援引了一项鲜为人知的出口管制规定,以未指明的国家安全担忧为由,禁止非美国公民(包括Anthropic公司自己的员工)访问Fable 5和Mythos 5模型。 Anthropic表示,他们认为这封信与绕过模型的安全防护机制有关,但由于信中缺乏具体细节,因此无法确定。该信函尚未公开。
作为回应,Anthropic 关闭了面向所有客户的这两款旗舰模型,以确保遵守该指令。结果,美国政府通过一项看似无需法院批准的迅速、单方面行动,成功迫使一家科技公司将其模型下线。
特朗普政府周五的干预表明,人工智能行业并非免疫于政府干预。这也向科技界传递了一个更广泛的信息:要么遵守规定,要么我们将关闭贵公司及其产品。
据Axios援引消息人士称,上周末两大阵营之间局势紧张,暗示是Anthropic与特朗普政府之间的“性格差异”——而非AI产品中的技术缺陷——触发了这项出口指令。
周末曝光的新细节,进一步让政府原本就颇具争议的理由蒙上了阴影。
网络安全资深专家、研究员兼 Luta Security 创始人凯蒂·穆苏里斯(Katie Moussouris)在一篇博客文章中写道,Anthropic 最近向她分享了一份安全研究人员撰写的论文的私有副本,该论文描述了 Fable 5 中据称存在的安全防护机制绕过漏洞。 (《华尔街日报》报道称,该论文的作者是亚马逊的安全研究人员。)穆苏里斯表示,Anthropic曾主动联系她,征求她对该论文的看法。
在博客文章中,穆苏里斯描述了研究人员如何触发该安全防护机制的绕过,但指出该绕过行为本身“本不应触发出口管制”。 关键区别在于,要求AI模型“审查代码中的安全问题”与要求它“修复这段代码”之间存在差异。即使问题表述略有不同,最终结果在很大程度上也是相同的。
“论文中描述的行为无法得到实质性的修复,任何修复尝试只会削弱该模型的防御能力,”穆苏里斯表示。她批评该出口管制指令仓促、粗暴且方向错误。
此后,穆苏里斯与数十位顶尖安全研究人员和专家共同呼吁特朗普政府撤销该出口管制令,称这一剥夺美国网络防御者先进网络安全能力的举措“十分危险”。
以往的政府也曾因认知缺口而做出过一刀切的决定。例如,2010年代,美国政府为修订涉及网络安全工具的出口法律(这些工具也可能被用于网络攻击)所采用的措辞过于宽泛,结果无意中几乎将合法的安全和漏洞研究都视为非法。
然而,特朗普政府的这项指令似乎带有报复性质。
《科技政策新闻》(Tech Policy Press)主编贾斯汀·亨德里克斯表示,特朗普政府的这一举措“可能会让外国政府对美国人工智能在关键应用中的可靠性产生担忧”。其传递的信息是:美国的人工智能公司无法在不受美国政府干预的情况下被信任地运营。
特朗普政府尚未证实为何援引出口管制指令。是官员们误读了报告并反应过度了吗?还是亚马逊首席执行官安迪·贾西向政府高级官员说了什么,导致了这一反应——无论是出于谨慎还是报复? 是翻译过程中出现了疏漏,还是政府以此向Anthropic施压——毕竟双方关系本就紧张?白宫可能并未意识到这封信中要求的深远影响,官员们现在正忙于弥补他们造成的损害。
引用亨德里克斯的话说:“当前的氛围充斥着怀疑,人们怀疑高级官员正基于个人和政治因素偏袒特定对象。”其后果是,政府在对美国制造软件的发布施加多大控制方面,树立了一个危险的先例。
这次,政府将矛头指向了Anthropic;明天,目标就可能是任何其他公司。
相关文章
Anthropic 进入 AI 法律科技市场,竞争日益激烈
Anthropic 于周二发布了一系列新的聊天机器人功能,旨在为法律实务提供自动化支持。这些增强功能在年初推出的特定律所平台 Claude for Legal 基础上进行了扩展,增加了针对不同法律领域的专用法律插件和 MCP 连接器。随着法律人工智能领域竞争的加剧,这些工具应运而生。今年三月,利用代理式人工智能简化法律工作流的 AI 法律初创公司 Harvey 以 110 亿美元的估值获得了 2 亿美元融资。上个月,竞争对手 Legora 完成了 6 亿美元的 D 轮融资,并启动了一场由裘德·
OpenAI 在企业用户中与 Anthropic 的差距缩小,新数据显示
在 OpenAI 和 Anthropic 距离预期的首次公开募股(IPO)以及详细财务报告的发布仍有距离的情况下,我们必须转向其他指标来评估它们的业务表现。企业信用卡和费用管理平台 Ramp 最近发布了令人信服的数据,显示 OpenAI 正在迅速缩小与美国企业用户中 Anthropic 的差距。OpenAI 此前在消费者和企业客户中都占据主导地位,但在今年 5 月,它失去了在 Ramp 付费企业用户中的领先地位。当时,Anthropic 占据了 41% 的市场份额,而 OpenAI 为 39%
Anthropic 推出 Opus 4.8,新增动态工作流工具
Anthropic 于周四发布了 Opus 4.8,这是其旗舰公开模型的最新版本。该版本定价与前一版本相同,目前已在所有平台上开放使用。距离 Opus 4.7 发布仅过去 41 天,Anthropic 显著加快了开发周期,远超近期 Sonnet 和 Haiku 版本三至七个月的发布间隔。此次快速更新很可能是对 Opus 4.7 反响平平的回应——该版本曾令许多用户感到失望。与此同时,OpenAI的
相关专题推荐
评论 (0)
0/500

美国政府最近致Anthropic公司的一封执法函——该函实际上迫使该公司在周末前将其最新的人工智能模型下线——应成为对任何美国科技公司(无论是否为人工智能实验室)的严峻警告。
简要回顾如下:上周五下午,美国商务部向Anthropic公司发送了一封信函,援引了一项鲜为人知的出口管制规定,以未指明的国家安全担忧为由,禁止非美国公民(包括Anthropic公司自己的员工)访问Fable 5和Mythos 5模型。 Anthropic表示,他们认为这封信与绕过模型的安全防护机制有关,但由于信中缺乏具体细节,因此无法确定。该信函尚未公开。
作为回应,Anthropic 关闭了面向所有客户的这两款旗舰模型,以确保遵守该指令。结果,美国政府通过一项看似无需法院批准的迅速、单方面行动,成功迫使一家科技公司将其模型下线。
特朗普政府周五的干预表明,人工智能行业并非免疫于政府干预。这也向科技界传递了一个更广泛的信息:要么遵守规定,要么我们将关闭贵公司及其产品。
据Axios援引消息人士称,上周末两大阵营之间局势紧张,暗示是Anthropic与特朗普政府之间的“性格差异”——而非AI产品中的技术缺陷——触发了这项出口指令。
周末曝光的新细节,进一步让政府原本就颇具争议的理由蒙上了阴影。
网络安全资深专家、研究员兼 Luta Security 创始人凯蒂·穆苏里斯(Katie Moussouris)在一篇博客文章中写道,Anthropic 最近向她分享了一份安全研究人员撰写的论文的私有副本,该论文描述了 Fable 5 中据称存在的安全防护机制绕过漏洞。 (《华尔街日报》报道称,该论文的作者是亚马逊的安全研究人员。)穆苏里斯表示,Anthropic曾主动联系她,征求她对该论文的看法。
在博客文章中,穆苏里斯描述了研究人员如何触发该安全防护机制的绕过,但指出该绕过行为本身“本不应触发出口管制”。 关键区别在于,要求AI模型“审查代码中的安全问题”与要求它“修复这段代码”之间存在差异。即使问题表述略有不同,最终结果在很大程度上也是相同的。
“论文中描述的行为无法得到实质性的修复,任何修复尝试只会削弱该模型的防御能力,”穆苏里斯表示。她批评该出口管制指令仓促、粗暴且方向错误。
此后,穆苏里斯与数十位顶尖安全研究人员和专家共同呼吁特朗普政府撤销该出口管制令,称这一剥夺美国网络防御者先进网络安全能力的举措“十分危险”。
以往的政府也曾因认知缺口而做出过一刀切的决定。例如,2010年代,美国政府为修订涉及网络安全工具的出口法律(这些工具也可能被用于网络攻击)所采用的措辞过于宽泛,结果无意中几乎将合法的安全和漏洞研究都视为非法。
然而,特朗普政府的这项指令似乎带有报复性质。
《科技政策新闻》(Tech Policy Press)主编贾斯汀·亨德里克斯表示,特朗普政府的这一举措“可能会让外国政府对美国人工智能在关键应用中的可靠性产生担忧”。其传递的信息是:美国的人工智能公司无法在不受美国政府干预的情况下被信任地运营。
特朗普政府尚未证实为何援引出口管制指令。是官员们误读了报告并反应过度了吗?还是亚马逊首席执行官安迪·贾西向政府高级官员说了什么,导致了这一反应——无论是出于谨慎还是报复? 是翻译过程中出现了疏漏,还是政府以此向Anthropic施压——毕竟双方关系本就紧张?白宫可能并未意识到这封信中要求的深远影响,官员们现在正忙于弥补他们造成的损害。
引用亨德里克斯的话说:“当前的氛围充斥着怀疑,人们怀疑高级官员正基于个人和政治因素偏袒特定对象。”其后果是,政府在对美国制造软件的发布施加多大控制方面,树立了一个危险的先例。
这次,政府将矛头指向了Anthropic;明天,目标就可能是任何其他公司。
Anthropic 进入 AI 法律科技市场,竞争日益激烈
Anthropic 于周二发布了一系列新的聊天机器人功能,旨在为法律实务提供自动化支持。这些增强功能在年初推出的特定律所平台 Claude for Legal 基础上进行了扩展,增加了针对不同法律领域的专用法律插件和 MCP 连接器。随着法律人工智能领域竞争的加剧,这些工具应运而生。今年三月,利用代理式人工智能简化法律工作流的 AI 法律初创公司 Harvey 以 110 亿美元的估值获得了 2 亿美元融资。上个月,竞争对手 Legora 完成了 6 亿美元的 D 轮融资,并启动了一场由裘德·
OpenAI 在企业用户中与 Anthropic 的差距缩小,新数据显示
在 OpenAI 和 Anthropic 距离预期的首次公开募股(IPO)以及详细财务报告的发布仍有距离的情况下,我们必须转向其他指标来评估它们的业务表现。企业信用卡和费用管理平台 Ramp 最近发布了令人信服的数据,显示 OpenAI 正在迅速缩小与美国企业用户中 Anthropic 的差距。OpenAI 此前在消费者和企业客户中都占据主导地位,但在今年 5 月,它失去了在 Ramp 付费企业用户中的领先地位。当时,Anthropic 占据了 41% 的市场份额,而 OpenAI 为 39%
Anthropic 推出 Opus 4.8,新增动态工作流工具
Anthropic 于周四发布了 Opus 4.8,这是其旗舰公开模型的最新版本。该版本定价与前一版本相同,目前已在所有平台上开放使用。距离 Opus 4.7 发布仅过去 41 天,Anthropic 显著加快了开发周期,远超近期 Sonnet 和 Haiku 版本三至七个月的发布间隔。此次快速更新很可能是对 Opus 4.7 反响平平的回应——该版本曾令许多用户感到失望。与此同时,OpenAI的





首页






