美國開源人工智慧實驗室Arcee表示,中國模型並非天生危險

隨著中國開源權重AI模型的能力和市場佔有率不斷提升,關於如何處理這些模型的爭論再次加劇。
有傳言稱,特朗普政府可能試圖禁止這些模型,但目前尚未採取任何行動。與此同時,專有模型開發商,尤其是OpenAI和Anthropic,對來自這些模型的競爭日益警惕。
與主要美國實驗室的閉源模型相比,Moonshot AI的Kimi K3或阿里巴巴的Qwen等開源權重模型提供的推理成本僅為前者的零頭。這種價格優勢引發了擔憂,認為它們可能構成安全威脅,主要是因為它們可能威脅到大型專有AI提供商的利潤率。
然而,如果企業將這些模型部署在自己的資料中心中,是否應該擔心它們成為駭客的攻擊渠道?
Arcee的技術長Lucas Atkins認為,答案是否定的。Arcee是一家致力於開發開源模型、為美國企業提供本土AI替代方案的公司。
如果有任何初創公司能從禁止中國模型中受益,那應該是Arcee。然而,Atkins堅持認為,中國的開源模型並不比公司可能使用的任何其他開源軟體更危險。事實上,他認為,這些模型甚至對他的公司有利。
“許多人將此視為類似於中國軟體程式,假設其編碼時帶有惡意行為者可以利用的特定意圖,”他指出。
“這從根本上來說不是這些模型的訓練方式。沒有任何機制可以讓Arcee或阿里巴巴建立一個模型,在您的環境中執行,並獲取對它的任何訪問許可權,”他解釋道。
雖然大多數這些模型是“開源權重”而非完全開源軟體,但原始碼——即在伺服器上實際執行的部分——如果從Hugging Face等平臺下載,基本上是可見且可審查的。(不可用的是訓練方法和資料集。)
大型組織應對任何模型核心進行嚴格的安全測試和檢查。它們通常還會針對特定用例對模型進行後訓練,考察偏見、毒性、幻覺以及對某些話題的敏感性等因素。這使它們能夠在使用者開始傳送提示之前,與模型合作、最佳化並理解模型。
編碼模型是否有可能以某種方式在其生成的程式碼中注入惡意後門?雖然理論上可行,但實現這一點需要非凡的技術能力。
“沒有理由足夠複雜的參與者不能訓練一個在所有場景中擅長編碼的模型,但在面對特定程式碼庫時觸發隱藏的惡意行為,”Atkins推測。然而,他補充道:“我不知道實際上如何實現這一點。”
由於大型語言模型本質上具有創造性,當代模型在完美編排的上下文和提示下生成惡意軟體的可能性很小。企業隨後使用這些程式碼的可能性更是微乎其微。
這種情況未來會發生嗎?這仍然不確定。然而,企業正在構建與模型無關的AI應用,並利用多種模型。因此,即使中國模型今天提供了最佳的效能價格比,企業也不會被鎖定在無限期地使用它們。
“我認為對話應該從如何禁止中國模型轉向如何在美國培養一個強大的開放生態系統,”Atkins表示。
Arcee也從中國模型中受益。因為它們開源,初創公司“在這些模型表現良好時獲得價值,因為我們可以從它們的方法中學習並在此基礎上構建。然後,它們可以從我們的工作中學到東西,”他解釋道。“我們對這些模型背後的研究人員表示極大的尊重。”
最終,與中國模型競爭的最佳方式是“釋出一個更優秀的模型”,Atkins總結道。“我們需要給他們一些實質性的東西來討論。”
相關文章
為什麼我忍不住要為這家小巧的開源 AI 開發商 Arcee 加油打氣
Arcee 是一家僅有 26 名員工的精簡型美國新創公司,該公司近日揭曉了其最新的推理模型「Trinity Large Thinking」——這款擁有 4,000 億參數的龐大開源大型語言模型(LLM),僅以 2,000 萬美元的有限預算開發而成。 執行長馬克·麥奎德(Mark McQuade)向《TechCrunch》表示,這是迄今為止由非中國企業所發布的、能力最強大的開放權重模型。Arcee
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work
Google 測試 Remy AI 代理,以 Gemini 為重點轉向使用者控制
根據《商業內幕》的報道,谷歌正在測試 Remy,這是 Gemini 的一款全新 AI 個人代理工具。該工具旨在代表使用者執行任務,從而簡化專業工作流程和日常事務。目前,Remy 正在 Gemini 應用的內部員工專屬版本中進行測試。該報告引用了一份內部檔案以及對兩位熟悉該專案的個人的採訪。內部資料將 Remy 描述為“全天候個人代理”,將 Gemini 定位為能夠代表使用者行事的主動助手。接近該專案的訊息人士證實,谷歌員工正在積極測試 Remy。谷歌發言人拒絕提供進一步評論。該報告未提及公開發布
相關專題推薦
評論 (0)
0/500

隨著中國開源權重AI模型的能力和市場佔有率不斷提升,關於如何處理這些模型的爭論再次加劇。
有傳言稱,特朗普政府可能試圖禁止這些模型,但目前尚未採取任何行動。與此同時,專有模型開發商,尤其是OpenAI和Anthropic,對來自這些模型的競爭日益警惕。
與主要美國實驗室的閉源模型相比,Moonshot AI的Kimi K3或阿里巴巴的Qwen等開源權重模型提供的推理成本僅為前者的零頭。這種價格優勢引發了擔憂,認為它們可能構成安全威脅,主要是因為它們可能威脅到大型專有AI提供商的利潤率。
然而,如果企業將這些模型部署在自己的資料中心中,是否應該擔心它們成為駭客的攻擊渠道?
Arcee的技術長Lucas Atkins認為,答案是否定的。Arcee是一家致力於開發開源模型、為美國企業提供本土AI替代方案的公司。
如果有任何初創公司能從禁止中國模型中受益,那應該是Arcee。然而,Atkins堅持認為,中國的開源模型並不比公司可能使用的任何其他開源軟體更危險。事實上,他認為,這些模型甚至對他的公司有利。
“許多人將此視為類似於中國軟體程式,假設其編碼時帶有惡意行為者可以利用的特定意圖,”他指出。
“這從根本上來說不是這些模型的訓練方式。沒有任何機制可以讓Arcee或阿里巴巴建立一個模型,在您的環境中執行,並獲取對它的任何訪問許可權,”他解釋道。
雖然大多數這些模型是“開源權重”而非完全開源軟體,但原始碼——即在伺服器上實際執行的部分——如果從Hugging Face等平臺下載,基本上是可見且可審查的。(不可用的是訓練方法和資料集。)
大型組織應對任何模型核心進行嚴格的安全測試和檢查。它們通常還會針對特定用例對模型進行後訓練,考察偏見、毒性、幻覺以及對某些話題的敏感性等因素。這使它們能夠在使用者開始傳送提示之前,與模型合作、最佳化並理解模型。
編碼模型是否有可能以某種方式在其生成的程式碼中注入惡意後門?雖然理論上可行,但實現這一點需要非凡的技術能力。
“沒有理由足夠複雜的參與者不能訓練一個在所有場景中擅長編碼的模型,但在面對特定程式碼庫時觸發隱藏的惡意行為,”Atkins推測。然而,他補充道:“我不知道實際上如何實現這一點。”
由於大型語言模型本質上具有創造性,當代模型在完美編排的上下文和提示下生成惡意軟體的可能性很小。企業隨後使用這些程式碼的可能性更是微乎其微。
這種情況未來會發生嗎?這仍然不確定。然而,企業正在構建與模型無關的AI應用,並利用多種模型。因此,即使中國模型今天提供了最佳的效能價格比,企業也不會被鎖定在無限期地使用它們。
“我認為對話應該從如何禁止中國模型轉向如何在美國培養一個強大的開放生態系統,”Atkins表示。
Arcee也從中國模型中受益。因為它們開源,初創公司“在這些模型表現良好時獲得價值,因為我們可以從它們的方法中學習並在此基礎上構建。然後,它們可以從我們的工作中學到東西,”他解釋道。“我們對這些模型背後的研究人員表示極大的尊重。”
最終,與中國模型競爭的最佳方式是“釋出一個更優秀的模型”,Atkins總結道。“我們需要給他們一些實質性的東西來討論。”
為什麼我忍不住要為這家小巧的開源 AI 開發商 Arcee 加油打氣
Arcee 是一家僅有 26 名員工的精簡型美國新創公司,該公司近日揭曉了其最新的推理模型「Trinity Large Thinking」——這款擁有 4,000 億參數的龐大開源大型語言模型(LLM),僅以 2,000 萬美元的有限預算開發而成。 執行長馬克·麥奎德(Mark McQuade)向《TechCrunch》表示,這是迄今為止由非中國企業所發布的、能力最強大的開放權重模型。Arcee
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work





首頁






