美国开源人工智能实验室Arcee表示,中国模型并非天生危险

随着中国开源权重AI模型的能力和市场占有率不断提升,关于如何处理这些模型的争论再次加剧。
有传言称,特朗普政府可能试图禁止这些模型,但目前尚未采取任何行动。与此同时,专有模型开发商,尤其是OpenAI和Anthropic,对来自这些模型的竞争日益警惕。
与主要美国实验室的闭源模型相比,Moonshot AI的Kimi K3或阿里巴巴的Qwen等开源权重模型提供的推理成本仅为前者的零头。这种价格优势引发了担忧,认为它们可能构成安全威胁,主要是因为它们可能威胁到大型专有AI提供商的利润率。
然而,如果企业将这些模型部署在自己的数据中心中,是否应该担心它们成为黑客的攻击渠道?
Arcee的首席技术官Lucas Atkins认为,答案是否定的。Arcee是一家致力于开发开源模型、为美国企业提供本土AI替代方案的公司。
如果有任何初创公司能从禁止中国模型中受益,那应该是Arcee。然而,Atkins坚持认为,中国的开源模型并不比公司可能使用的任何其他开源软件更危险。事实上,他认为,这些模型甚至对他的公司有利。
“许多人将此视为类似于中国软件程序,假设其编码时带有恶意行为者可以利用的特定意图,”他指出。
“这从根本上来说不是这些模型的训练方式。没有任何机制可以让Arcee或阿里巴巴创建一个模型,在您的环境中运行,并获取对它的任何访问权限,”他解释道。
虽然大多数这些模型是“开源权重”而非完全开源软件,但源代码——即在服务器上实际运行的部分——如果从Hugging Face等平台下载,基本上是可见且可审查的。(不可用的是训练方法和数据集。)
大型组织应对任何模型核心进行严格的安全测试和检查。它们通常还会针对特定用例对模型进行后训练,考察偏见、毒性、幻觉以及对某些话题的敏感性等因素。这使它们能够在用户开始发送提示之前,与模型合作、优化并理解模型。
编码模型是否有可能以某种方式在其生成的代码中注入恶意后门?虽然理论上可行,但实现这一点需要非凡的技术能力。
“没有理由足够复杂的参与者不能训练一个在所有场景中擅长编码的模型,但在面对特定代码库时触发隐藏的恶意行为,”Atkins推测。然而,他补充道:“我不知道实际上如何实现这一点。”
由于大型语言模型本质上具有创造性,当代模型在完美编排的上下文和提示下生成恶意软件的可能性很小。企业随后使用这些代码的可能性更是微乎其微。
这种情况未来会发生吗?这仍然不确定。然而,企业正在构建与模型无关的AI应用,并利用多种模型。因此,即使中国模型今天提供了最佳的性能价格比,企业也不会被锁定在无限期地使用它们。
“我认为对话应该从如何禁止中国模型转向如何在美国培养一个强大的开放生态系统,”Atkins表示。
Arcee也从中国模型中受益。因为它们开源,初创公司“在这些模型表现良好时获得价值,因为我们可以从它们的方法中学习并在此基础上构建。然后,它们可以从我们的工作中学到东西,”他解释道。“我们对这些模型背后的研究人员表示极大的尊重。”
最终,与中国模型竞争的最佳方式是“发布一个更优秀的模型”,Atkins总结道。“我们需要给他们一些实质性的东西来讨论。”
相关文章
为什么我忍不住要为这家小型的开源AI初创公司Arcee加油
Arcee是一家仅有26名员工的美国初创公司,近日发布了其最新的推理模型“Trinity Large Thinking”。该模型基于一个参数规模达4000亿的开源大型语言模型(LLM)开发,而其开发预算仅为2000万美元。 首席执行官马克·麦奎德(Mark McQuade)向TechCrunch表示,这是非中国公司迄今发布的性能最强的开放权重模型。Arcee 的使命与一个明确的目标相呼应:为美国和
美国股市触及历史里程碑,人工智能与航空航天巨头准备开启万亿美元时代
埃隆·马斯克、山姆·阿尔特曼和达里奥·阿莫迪,这三位科技领域的巨头,正推动其各自的企业迈向首次公开募股(IPO)。随着 SpaceX、OpenAI 和 Anthropic——这三家估值接近万亿美元的行业巨头——即将上市,2026 年被预测将成为美国历史上新股发行规模最大的一年。这一历史性的资本激增已引起全球金融界的关注,成为检验公共市场吸收如此大规模资金能力的关键压力测试。这些主要融资活动的同步启动预计将打破 2021 年创下的 1560 亿美元纪录。超级独角兽的资本博弈每家公司上市的路径
瑞典人工智能初创公司Lovable Eyes在完成主要融资轮后估值达132亿美元
随着人工智能驱动的编码工具日益普及,瑞典初创公司 Lovable 已获一轮重大融资。该公司计划筹集 30 亿美元,其估值有望升至 132 亿美元——这是去年 12 月记录的 66 亿美元的两倍。预计 Menlo Ventures 将主导此次投资。Lovable 的吸引力源于其核心的“氛围编码”(vibe coding)技术,该技术通过消除对复杂编码技能的需求来简化软件开发。用户只需以自然语言描述其需求,系统即可自动生成应用程序。这种直观的方法吸引了个人开发者、设计师和小企业,并扩展至 Work
相关专题推荐
评论 (0)
0/500

随着中国开源权重AI模型的能力和市场占有率不断提升,关于如何处理这些模型的争论再次加剧。
有传言称,特朗普政府可能试图禁止这些模型,但目前尚未采取任何行动。与此同时,专有模型开发商,尤其是OpenAI和Anthropic,对来自这些模型的竞争日益警惕。
与主要美国实验室的闭源模型相比,Moonshot AI的Kimi K3或阿里巴巴的Qwen等开源权重模型提供的推理成本仅为前者的零头。这种价格优势引发了担忧,认为它们可能构成安全威胁,主要是因为它们可能威胁到大型专有AI提供商的利润率。
然而,如果企业将这些模型部署在自己的数据中心中,是否应该担心它们成为黑客的攻击渠道?
Arcee的首席技术官Lucas Atkins认为,答案是否定的。Arcee是一家致力于开发开源模型、为美国企业提供本土AI替代方案的公司。
如果有任何初创公司能从禁止中国模型中受益,那应该是Arcee。然而,Atkins坚持认为,中国的开源模型并不比公司可能使用的任何其他开源软件更危险。事实上,他认为,这些模型甚至对他的公司有利。
“许多人将此视为类似于中国软件程序,假设其编码时带有恶意行为者可以利用的特定意图,”他指出。
“这从根本上来说不是这些模型的训练方式。没有任何机制可以让Arcee或阿里巴巴创建一个模型,在您的环境中运行,并获取对它的任何访问权限,”他解释道。
虽然大多数这些模型是“开源权重”而非完全开源软件,但源代码——即在服务器上实际运行的部分——如果从Hugging Face等平台下载,基本上是可见且可审查的。(不可用的是训练方法和数据集。)
大型组织应对任何模型核心进行严格的安全测试和检查。它们通常还会针对特定用例对模型进行后训练,考察偏见、毒性、幻觉以及对某些话题的敏感性等因素。这使它们能够在用户开始发送提示之前,与模型合作、优化并理解模型。
编码模型是否有可能以某种方式在其生成的代码中注入恶意后门?虽然理论上可行,但实现这一点需要非凡的技术能力。
“没有理由足够复杂的参与者不能训练一个在所有场景中擅长编码的模型,但在面对特定代码库时触发隐藏的恶意行为,”Atkins推测。然而,他补充道:“我不知道实际上如何实现这一点。”
由于大型语言模型本质上具有创造性,当代模型在完美编排的上下文和提示下生成恶意软件的可能性很小。企业随后使用这些代码的可能性更是微乎其微。
这种情况未来会发生吗?这仍然不确定。然而,企业正在构建与模型无关的AI应用,并利用多种模型。因此,即使中国模型今天提供了最佳的性能价格比,企业也不会被锁定在无限期地使用它们。
“我认为对话应该从如何禁止中国模型转向如何在美国培养一个强大的开放生态系统,”Atkins表示。
Arcee也从中国模型中受益。因为它们开源,初创公司“在这些模型表现良好时获得价值,因为我们可以从它们的方法中学习并在此基础上构建。然后,它们可以从我们的工作中学到东西,”他解释道。“我们对这些模型背后的研究人员表示极大的尊重。”
最终,与中国模型竞争的最佳方式是“发布一个更优秀的模型”,Atkins总结道。“我们需要给他们一些实质性的东西来讨论。”
为什么我忍不住要为这家小型的开源AI初创公司Arcee加油
Arcee是一家仅有26名员工的美国初创公司,近日发布了其最新的推理模型“Trinity Large Thinking”。该模型基于一个参数规模达4000亿的开源大型语言模型(LLM)开发,而其开发预算仅为2000万美元。 首席执行官马克·麦奎德(Mark McQuade)向TechCrunch表示,这是非中国公司迄今发布的性能最强的开放权重模型。Arcee 的使命与一个明确的目标相呼应:为美国和
美国股市触及历史里程碑,人工智能与航空航天巨头准备开启万亿美元时代
埃隆·马斯克、山姆·阿尔特曼和达里奥·阿莫迪,这三位科技领域的巨头,正推动其各自的企业迈向首次公开募股(IPO)。随着 SpaceX、OpenAI 和 Anthropic——这三家估值接近万亿美元的行业巨头——即将上市,2026 年被预测将成为美国历史上新股发行规模最大的一年。这一历史性的资本激增已引起全球金融界的关注,成为检验公共市场吸收如此大规模资金能力的关键压力测试。这些主要融资活动的同步启动预计将打破 2021 年创下的 1560 亿美元纪录。超级独角兽的资本博弈每家公司上市的路径
瑞典人工智能初创公司Lovable Eyes在完成主要融资轮后估值达132亿美元
随着人工智能驱动的编码工具日益普及,瑞典初创公司 Lovable 已获一轮重大融资。该公司计划筹集 30 亿美元,其估值有望升至 132 亿美元——这是去年 12 月记录的 66 亿美元的两倍。预计 Menlo Ventures 将主导此次投资。Lovable 的吸引力源于其核心的“氛围编码”(vibe coding)技术,该技术通过消除对复杂编码技能的需求来简化软件开发。用户只需以自然语言描述其需求,系统即可自动生成应用程序。这种直观的方法吸引了个人开发者、设计师和小企业,并扩展至 Work





首页






