Pruna AI揭開開源AI模型優化框架
Pruna AI,一家專注於開發 AI 模型壓縮演算法的歐洲新創公司,將於本週四以開源形式發布其優化框架。該公司一直在研發一個整合多種效率技術的框架,包括快取、剪枝、量化和蒸餾,以提升 AI 模型的性能。
Pruna AI 的共同創辦人兼技術長 John Rachwan 在接受 TechCrunch 採訪時表示,他們的框架不僅應用這些方法,還標準化了儲存、載入和評估壓縮模型的流程。這讓使用者能夠評估壓縮後的任何潛在品質損失以及性能提升。
Rachwan 將 Pruna AI 的角色比喻為 Hugging Face,後者標準化了變壓器和擴散器的使用。「我們在做同樣的事情,但針對效率方法,」他強調,專注於這些方法的應用和管理標準化。
主要 AI 實驗室已採用類似的壓縮技術。例如,OpenAI 使用蒸餾技術開發了其模型的更快版本,如 GPT-4 Turbo。同樣地,Black Forest Labs 創建了 Flux.1 的蒸餾版本 Flux.1-schnell。蒸餾涉及一種「教師-學生」方法,使用較大模型的輸出來訓練更小、更高效的模型。
Rachwan 指出,雖然大公司通常內部開發這些工具,但開源社群通常專注於單一方法。「但你找不到一個工具能整合所有方法,讓它們易於使用並結合在一起,」他說,強調 Pruna AI 的獨特價值主張。

從左到右:Rayan Nait Mazi、Bertrand Charpentier、John Rachwan、Stephan Günnemann 圖片來源:Pruna AI 雖然 Pruna AI 的框架支援廣泛的模型,包括大型語言模型、擴散模型、語音轉文字模型和電腦視覺模型,但該公司目前專注於圖像和影片生成模型。Pruna AI 的現有用戶包括 Scenario 和 PhotoRoom。除了開源版本,Pruna AI 還提供企業版,具備進階優化功能,包括即將推出的壓縮代理。Rachwan 將此代理描述為一種工具,能根據使用者指定的性能和準確度要求,自動為模型找到最佳壓縮組合。
Pruna AI 的專業版按小時計費,類似於在 AWS 等雲端服務上租用 GPU。通過優化模型,使用者可以顯著降低推論成本。例如,Pruna AI 成功將一個 Llama 模型壓縮至原始大小的八分之一,品質損失極小,展示了潛在的成本節約。
該公司最近從包括 EQT Ventures、Daphni、Motier Ventures 和 Kima Ventures 在內的投資者獲得了 650 萬美元的種子輪融資。Pruna AI 將其壓縮框架視為一項策略投資,通過降低營運成本實現自我回報。
相關文章
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work
Google 測試 Remy AI 代理,以 Gemini 為重點轉向使用者控制
根據《商業內幕》的報道,谷歌正在測試 Remy,這是 Gemini 的一款全新 AI 個人代理工具。該工具旨在代表使用者執行任務,從而簡化專業工作流程和日常事務。目前,Remy 正在 Gemini 應用的內部員工專屬版本中進行測試。該報告引用了一份內部檔案以及對兩位熟悉該專案的個人的採訪。內部資料將 Remy 描述為“全天候個人代理”,將 Gemini 定位為能夠代表使用者行事的主動助手。接近該專案的訊息人士證實,谷歌員工正在積極測試 Remy。谷歌發言人拒絕提供進一步評論。該報告未提及公開發布
相關專題推薦
評論 (32)
0/500
Finalmente algo open-source pra otimizar modelos grandes! A quantidade de técnicas que mencionaram (cache, poda, quantização) é impressionante. Vai ser interessante testar isso em alguns projetos que tenho em mente. Acho que isso pode ajudar muito desenvolvedores independentes como eu a ter acesso a modelos mais eficientes. Boa iniciativa da startup europeia! 👏
O framework de código aberto da Pruna AI é uma bênção para nós entusiastas de AI DIY! É como ter uma faca suíça para otimizar modelos. Consegui reduzir meus modelos sem perder muita precisão, o que é incrível. O único problema? A documentação poderia ser mais detalhada. Ainda assim, mal posso esperar para ver o que mais eles vão lançar! 🚀
El marco de código abierto de Pruna AI es un regalo para nosotros los entusiastas del AI DIY. ¡Es como tener un cuchillo suizo para optimizar modelos! He podido reducir mis modelos sin perder mucha precisión, lo cual es genial. El único inconveniente es que la documentación podría ser más completa. ¡Aun así, no puedo esperar a ver qué más sacan! 🚀
Pruna AI's open-source framework sounds promising, but the setup was a bit of a headache. Once I got it running, the optimization really sped up my models. Just wish the documentation was clearer. Still, it's a solid tool for anyone looking to optimize AI models! 🤓
Pruna AI's open-source framework is a godsend for us DIY AI enthusiasts! It's like having a Swiss Army knife for optimizing models. I've been able to shrink my models without losing much accuracy, which is just awesome. The only hiccup? The documentation could use a bit more love. Still, can't wait to see what else they roll out! 🚀
Pruna AI,一家專注於開發 AI 模型壓縮演算法的歐洲新創公司,將於本週四以開源形式發布其優化框架。該公司一直在研發一個整合多種效率技術的框架,包括快取、剪枝、量化和蒸餾,以提升 AI 模型的性能。
Pruna AI 的共同創辦人兼技術長 John Rachwan 在接受 TechCrunch 採訪時表示,他們的框架不僅應用這些方法,還標準化了儲存、載入和評估壓縮模型的流程。這讓使用者能夠評估壓縮後的任何潛在品質損失以及性能提升。
Rachwan 將 Pruna AI 的角色比喻為 Hugging Face,後者標準化了變壓器和擴散器的使用。「我們在做同樣的事情,但針對效率方法,」他強調,專注於這些方法的應用和管理標準化。
主要 AI 實驗室已採用類似的壓縮技術。例如,OpenAI 使用蒸餾技術開發了其模型的更快版本,如 GPT-4 Turbo。同樣地,Black Forest Labs 創建了 Flux.1 的蒸餾版本 Flux.1-schnell。蒸餾涉及一種「教師-學生」方法,使用較大模型的輸出來訓練更小、更高效的模型。
Rachwan 指出,雖然大公司通常內部開發這些工具,但開源社群通常專注於單一方法。「但你找不到一個工具能整合所有方法,讓它們易於使用並結合在一起,」他說,強調 Pruna AI 的獨特價值主張。

除了開源版本,Pruna AI 還提供企業版,具備進階優化功能,包括即將推出的壓縮代理。Rachwan 將此代理描述為一種工具,能根據使用者指定的性能和準確度要求,自動為模型找到最佳壓縮組合。
Pruna AI 的專業版按小時計費,類似於在 AWS 等雲端服務上租用 GPU。通過優化模型,使用者可以顯著降低推論成本。例如,Pruna AI 成功將一個 Llama 模型壓縮至原始大小的八分之一,品質損失極小,展示了潛在的成本節約。
該公司最近從包括 EQT Ventures、Daphni、Motier Ventures 和 Kima Ventures 在內的投資者獲得了 650 萬美元的種子輪融資。Pruna AI 將其壓縮框架視為一項策略投資,通過降低營運成本實現自我回報。
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work
Finalmente algo open-source pra otimizar modelos grandes! A quantidade de técnicas que mencionaram (cache, poda, quantização) é impressionante. Vai ser interessante testar isso em alguns projetos que tenho em mente. Acho que isso pode ajudar muito desenvolvedores independentes como eu a ter acesso a modelos mais eficientes. Boa iniciativa da startup europeia! 👏
O framework de código aberto da Pruna AI é uma bênção para nós entusiastas de AI DIY! É como ter uma faca suíça para otimizar modelos. Consegui reduzir meus modelos sem perder muita precisão, o que é incrível. O único problema? A documentação poderia ser mais detalhada. Ainda assim, mal posso esperar para ver o que mais eles vão lançar! 🚀
El marco de código abierto de Pruna AI es un regalo para nosotros los entusiastas del AI DIY. ¡Es como tener un cuchillo suizo para optimizar modelos! He podido reducir mis modelos sin perder mucha precisión, lo cual es genial. El único inconveniente es que la documentación podría ser más completa. ¡Aun así, no puedo esperar a ver qué más sacan! 🚀
Pruna AI's open-source framework sounds promising, but the setup was a bit of a headache. Once I got it running, the optimization really sped up my models. Just wish the documentation was clearer. Still, it's a solid tool for anyone looking to optimize AI models! 🤓
Pruna AI's open-source framework is a godsend for us DIY AI enthusiasts! It's like having a Swiss Army knife for optimizing models. I've been able to shrink my models without losing much accuracy, which is just awesome. The only hiccup? The documentation could use a bit more love. Still, can't wait to see what else they roll out! 🚀





首頁






