Gimlet Labs 解決人工智慧推理瓶頸的巧妙方案

斯坦福大學兼職教授兼成功創業公司創始人扎因·阿斯加爾為其旗下公司籌集到了8000萬美元的A輪融資資金,該公司採用極為巧妙的方式解決了人工智慧推理過程中的瓶頸問題。此輪融資由門洛風險投資領投。
這家名為Gimlet Labs的初創企業稱,它打造了首個也是目前唯一的“多晶片推理雲”——這類軟體能夠讓人工智慧任務同時在不同型別的硬體上執行,能夠將任務分配到傳統CPU、針對AI最佳化的GPU以及高記憶體系統之中。
“我們基本上會在任何可用的不同硬體上執行任務,”阿斯加爾對TechCrunch表示。
領投方門洛風險投資的蒂姆·塔利在一篇關於此次融資的部落格文章中寫道:“單個智慧體可能會串聯多個步驟,而每個步驟都需要不同的硬體:推理環節受計算能力限制,解碼環節受記憶體容量限制,工具呼叫則受網路傳輸速度限制。”
目前還沒有一款晶片能夠同時承擔所有這些功能,但隨著新硬體的推出以及舊GPU的重新利用,“多晶片叢集已經準備就緒——只是缺少讓它們正常執行的軟體層。”塔利認為Gimlet Labs正是提供了這樣的解決方案。
麥肯錫預計,如果繼續保持當前增加計算資源的趨勢,到2030年資料中心的支出規模可能接近7萬億美元。阿斯加爾表示,如今的各類應用僅會在15%到30%的時間內使用現有的硬體。
“另一種理解方式是:由於讓大量資源處於閒置狀態,你們正在浪費數千億美元的資源,”他說,“我們的目標基本上就是設法讓人工智慧任務的效率比現在高出10倍。”
於是他和他的聯合創始人——米歇爾·阮、奧米德·阿齊茲以及娜塔莉·塞裡諾——著手開發排程軟體,該軟體能夠將智慧體任務拆分,使其能夠在各類硬體上同時執行。
Gimlet Labs稱,在保持相同成本和能耗的前提下,該軟體能夠將人工智慧推理速度提升3倍到10倍。該公司還聲稱可以拆分底層模型,讓其在不同架構的硬體上執行,併為每一部分選擇最合適的晶片。
該公司目前已與晶片製造商NVIDIA、AMD、英特爾、ARM、Cerebras以及d-Matrix建立了合作關係。
Gimlet的產品以軟體形式或透過API提供給其自建的Gimlet Cloud平臺,並非面向普通的人工智慧應用開發者,而是針對規模最大的人工智慧模型實驗室和資料中心。
該公司於10月正式上市,據稱開業之初就已獲得了八位數的營收(至少1000萬美元)。阿斯加爾表示,在過去四個月裡,他的客戶數量增長了一倍多,目前包括一家大型模型製造商以及一家規模極大的雲端計算公司,但他拒絕透露這些公司的名稱。
這些聯合創始人此前曾在Pixie這家初創企業共事過,該公司曾開發用於Kubernetes的開源可觀測性工具。Pixie在2020年被New Relic收購,而它在獲得由Benchmark領投的900萬美元A輪融資僅兩個月後就完成了被收購。(Pixie的技術現已成為負責管理Kubernetes的開源組織的一部分。)
大約一年前,阿斯加爾偶然遇到了塔利,同時還獲得了斯坦福大學教授們以及天使投資者的投資,此後風險投資機構開始紛紛聯絡他。公司上市後,一份融資條款清單便送到了阿斯加爾的桌上。他說,當風險投資機構得知他在考慮各種融資提議後,“大量資金湧了進來”,這輪融資很快就出現了超額認購的情況。
加上之前的種子輪融資,這家初創企業目前總共籌集到了9200萬美元的資金,其中包括來自紅杉資本的比爾·科夫蘭、斯坦福大學教授尼克·麥基翁、VMware前執行長拉古·拉古拉姆以及英特爾CEO林普-布·坦等眾多天使投資者的投資。該公司目前擁有30名員工。
其他投資者還包括曾領投其種子輪融資的Factory、Eclipse Ventures、Prosperity7以及英特爾資本。
相關文章
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work
Google 測試 Remy AI 代理,以 Gemini 為重點轉向使用者控制
根據《商業內幕》的報道,谷歌正在測試 Remy,這是 Gemini 的一款全新 AI 個人代理工具。該工具旨在代表使用者執行任務,從而簡化專業工作流程和日常事務。目前,Remy 正在 Gemini 應用的內部員工專屬版本中進行測試。該報告引用了一份內部檔案以及對兩位熟悉該專案的個人的採訪。內部資料將 Remy 描述為“全天候個人代理”,將 Gemini 定位為能夠代表使用者行事的主動助手。接近該專案的訊息人士證實,谷歌員工正在積極測試 Remy。谷歌發言人拒絕提供進一步評論。該報告未提及公開發布
相關專題推薦
評論 (0)
0/500

斯坦福大學兼職教授兼成功創業公司創始人扎因·阿斯加爾為其旗下公司籌集到了8000萬美元的A輪融資資金,該公司採用極為巧妙的方式解決了人工智慧推理過程中的瓶頸問題。此輪融資由門洛風險投資領投。
這家名為Gimlet Labs的初創企業稱,它打造了首個也是目前唯一的“多晶片推理雲”——這類軟體能夠讓人工智慧任務同時在不同型別的硬體上執行,能夠將任務分配到傳統CPU、針對AI最佳化的GPU以及高記憶體系統之中。
“我們基本上會在任何可用的不同硬體上執行任務,”阿斯加爾對TechCrunch表示。
領投方門洛風險投資的蒂姆·塔利在一篇關於此次融資的部落格文章中寫道:“單個智慧體可能會串聯多個步驟,而每個步驟都需要不同的硬體:推理環節受計算能力限制,解碼環節受記憶體容量限制,工具呼叫則受網路傳輸速度限制。”
目前還沒有一款晶片能夠同時承擔所有這些功能,但隨著新硬體的推出以及舊GPU的重新利用,“多晶片叢集已經準備就緒——只是缺少讓它們正常執行的軟體層。”塔利認為Gimlet Labs正是提供了這樣的解決方案。
麥肯錫預計,如果繼續保持當前增加計算資源的趨勢,到2030年資料中心的支出規模可能接近7萬億美元。阿斯加爾表示,如今的各類應用僅會在15%到30%的時間內使用現有的硬體。
“另一種理解方式是:由於讓大量資源處於閒置狀態,你們正在浪費數千億美元的資源,”他說,“我們的目標基本上就是設法讓人工智慧任務的效率比現在高出10倍。”
於是他和他的聯合創始人——米歇爾·阮、奧米德·阿齊茲以及娜塔莉·塞裡諾——著手開發排程軟體,該軟體能夠將智慧體任務拆分,使其能夠在各類硬體上同時執行。
Gimlet Labs稱,在保持相同成本和能耗的前提下,該軟體能夠將人工智慧推理速度提升3倍到10倍。該公司還聲稱可以拆分底層模型,讓其在不同架構的硬體上執行,併為每一部分選擇最合適的晶片。
該公司目前已與晶片製造商NVIDIA、AMD、英特爾、ARM、Cerebras以及d-Matrix建立了合作關係。
Gimlet的產品以軟體形式或透過API提供給其自建的Gimlet Cloud平臺,並非面向普通的人工智慧應用開發者,而是針對規模最大的人工智慧模型實驗室和資料中心。
該公司於10月正式上市,據稱開業之初就已獲得了八位數的營收(至少1000萬美元)。阿斯加爾表示,在過去四個月裡,他的客戶數量增長了一倍多,目前包括一家大型模型製造商以及一家規模極大的雲端計算公司,但他拒絕透露這些公司的名稱。
這些聯合創始人此前曾在Pixie這家初創企業共事過,該公司曾開發用於Kubernetes的開源可觀測性工具。Pixie在2020年被New Relic收購,而它在獲得由Benchmark領投的900萬美元A輪融資僅兩個月後就完成了被收購。(Pixie的技術現已成為負責管理Kubernetes的開源組織的一部分。)
大約一年前,阿斯加爾偶然遇到了塔利,同時還獲得了斯坦福大學教授們以及天使投資者的投資,此後風險投資機構開始紛紛聯絡他。公司上市後,一份融資條款清單便送到了阿斯加爾的桌上。他說,當風險投資機構得知他在考慮各種融資提議後,“大量資金湧了進來”,這輪融資很快就出現了超額認購的情況。
加上之前的種子輪融資,這家初創企業目前總共籌集到了9200萬美元的資金,其中包括來自紅杉資本的比爾·科夫蘭、斯坦福大學教授尼克·麥基翁、VMware前執行長拉古·拉古拉姆以及英特爾CEO林普-布·坦等眾多天使投資者的投資。該公司目前擁有30名員工。
其他投資者還包括曾領投其種子輪融資的Factory、Eclipse Ventures、Prosperity7以及英特爾資本。
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work





首頁






