智普憑藉GLM-5.1高速版本打破了全球AI速度記錄
中國著名的AI團隊智普今日正式宣佈,為部分企業客戶推出了全新的GLM-5.1高速API。這款被命名為“GLM-5.1-highspeed”的模型自發布以來便震撼了整個行業,其輸出速度高達每秒400個token。
這一數字直接超越了目前全球主要大型模型提供商設定的API速度基準,充分體現了其強大的技術實力。此前,AI行業普遍認為模型的速度與規模是相互矛盾的,即想要提高速度,往往就需要犧牲模型的功能。
以旗艦級效能打破行業常規
然而,GLM-5.1高速版本徹底打破了“速度快意味著模型規模小”這一長期存在的行業觀念。在國內大型模型中,這是首次將旗艦級的技術實力和超低的延遲能力應用到實際生產環境中。
據報道,這款模型是由智普的GLM團隊與TileRT團隊共同開發的。兩個團隊從三個層面進行了深入、全面的系統級最佳化:推理引擎、排程系統以及底層基礎設施,並摒棄了傳統的動態排程機制。
三層最佳化確保穩定輸出
在技術層面上,開發團隊不僅重新設計了模型架構的核心推理路徑,以提高單卡的處理能力,還透過動態批處理等技術,在高併發場景下有效降低了延遲。同時,圍繞基礎設施進行的協同最佳化也使得每秒400個token的輸出速度成為一種穩定且可實用的生產級能力。
這款高速模型具有廣泛的應用前景,尤其適用於那些對響應延遲有嚴格要求的場景。無論是用於AI程式設計、實時語音互動,還是輔助企業進行頻繁的業務決策,該模型都已經可以在智普的MaaS平臺上為部分企業提供服務了。
相關文章
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work
Google 測試 Remy AI 代理,以 Gemini 為重點轉向使用者控制
根據《商業內幕》的報道,谷歌正在測試 Remy,這是 Gemini 的一款全新 AI 個人代理工具。該工具旨在代表使用者執行任務,從而簡化專業工作流程和日常事務。目前,Remy 正在 Gemini 應用的內部員工專屬版本中進行測試。該報告引用了一份內部檔案以及對兩位熟悉該專案的個人的採訪。內部資料將 Remy 描述為“全天候個人代理”,將 Gemini 定位為能夠代表使用者行事的主動助手。接近該專案的訊息人士證實,谷歌員工正在積極測試 Remy。谷歌發言人拒絕提供進一步評論。該報告未提及公開發布
相關專題推薦
評論 (0)
0/500
中國著名的AI團隊智普今日正式宣佈,為部分企業客戶推出了全新的GLM-5.1高速API。這款被命名為“GLM-5.1-highspeed”的模型自發布以來便震撼了整個行業,其輸出速度高達每秒400個token。
這一數字直接超越了目前全球主要大型模型提供商設定的API速度基準,充分體現了其強大的技術實力。此前,AI行業普遍認為模型的速度與規模是相互矛盾的,即想要提高速度,往往就需要犧牲模型的功能。
以旗艦級效能打破行業常規
然而,GLM-5.1高速版本徹底打破了“速度快意味著模型規模小”這一長期存在的行業觀念。在國內大型模型中,這是首次將旗艦級的技術實力和超低的延遲能力應用到實際生產環境中。
據報道,這款模型是由智普的GLM團隊與TileRT團隊共同開發的。兩個團隊從三個層面進行了深入、全面的系統級最佳化:推理引擎、排程系統以及底層基礎設施,並摒棄了傳統的動態排程機制。
三層最佳化確保穩定輸出
在技術層面上,開發團隊不僅重新設計了模型架構的核心推理路徑,以提高單卡的處理能力,還透過動態批處理等技術,在高併發場景下有效降低了延遲。同時,圍繞基礎設施進行的協同最佳化也使得每秒400個token的輸出速度成為一種穩定且可實用的生產級能力。
這款高速模型具有廣泛的應用前景,尤其適用於那些對響應延遲有嚴格要求的場景。無論是用於AI程式設計、實時語音互動,還是輔助企業進行頻繁的業務決策,該模型都已經可以在智普的MaaS平臺上為部分企業提供服務了。
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work





首頁






