創始人說
輝達與合作夥伴全球擴展AI資料中心
輝達(Nvidia)與其合作夥伴及客戶積極擴大全球電腦設施的規模,以滿足訓練如GPT-4等大型人工智慧(AI)模型的高運算需求。隨著更多AI模型投入實際應用,這種擴展將變得更加重要,光學運算新創公司Lightmatter的共同創辦人Thomas Graham表示。在紐約與彭博情報(Bloomberg Intelligence)資深科技分析師Mandeep Singh的近期訪談中,Graham強調了對運算資源日益增長的需求。
Graham解釋道:「對更多運算的需求不僅關乎規模法則,還涉及現在部署這些AI模型。」Singh詢問了像GPT-4這樣的大型語言模型(LLMs)的未來,以及它們是否會繼續擴大規模。Graham將焦點轉向AI的實際應用,強調推論(inferencing)或部署階段的重要性,這需要大量的運算能力。
Graham在彭博情報主辦的「生成式AI:能否實現生產力承諾?」會議上表示:「如果你將訓練視為研發,推論實際上就是部署。當你進行部署時,你將需要大規模的電腦來運行你的模型。」
Graham的觀點與輝達執行長Jensen Huang一致,後者向華爾街強調,推進「代理型」AI形式不僅需要更複雜的訓練,還需要顯著增強的推論能力,這將導致運算需求的指數級增長。

Graham說:「如果你將訓練視為研發,推論實際上是部署,當你進行部署時,你將需要大型電腦來運行你的模型。」照片:彭博,Craig Warga提供 Lightmatter在AI基礎設施中的角色
Lightmatter成立於2018年,專注於開發使用光學連接的晶片技術,將多個處理器連接在單一半導體晶片上。這些光學互連比傳統銅線更高效地傳輸資料,耗能更少。Graham表示,這項技術可以簡化資料中心機架內部及機架之間的連接,提升資料中心的整體效率與經濟性。
Graham對Singh表示:「通過將資料中心中的銅線路徑——包括伺服器印刷電路板上及機架間的電纜——替換為光纖,我們可以大幅增加頻寬。」Lightmatter目前正與多家科技公司合作設計新的資料中心,Graham指出,這些設施正從頭開始建造。該公司已與位於紐約上州的合約半導體製造商Global Foundries建立合作關係,後者服務於如Advanced Micro Devices等客戶。
雖然Graham未透露除此之外的具體合作夥伴與客戶,但他暗示Lightmatter與如Broadcom或Marvell等矽供應商合作,為Google、Amazon和Microsoft等設計自家資料中心處理器的科技巨頭打造客製化組件。
AI資料中心的規模與未來
為說明AI部署的規模,Graham指出,至少有十二個新的AI資料中心正在規劃或建設中,每個都需要一吉瓦(gigawatt)的電力。他說:「為了提供背景資料,紐約市平均每天使用大約五吉瓦的電力。因此,我們談論的是多個紐約市的電力消耗。」他預測,到2026年,全球AI處理將需要40吉瓦的電力,相當於八個紐約市,專門用於AI資料中心。
Lightmatter最近獲得4億美元的風險投資,估值達44億美元。Graham提到,公司計劃在「未來幾年」開始生產。
當被問及可能對Lightmatter計劃造成干擾的因素時,Graham對持續擴展AI運算基礎設施的需求表示信心。然而,他承認,如果AI演算法取得突破,顯著減少運算需求或更快實現人工通用智慧(AGI),可能會挑戰當前對運算需求指數級增長的假設。
相關文章
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work
Google 測試 Remy AI 代理,以 Gemini 為重點轉向使用者控制
根據《商業內幕》的報道,谷歌正在測試 Remy,這是 Gemini 的一款全新 AI 個人代理工具。該工具旨在代表使用者執行任務,從而簡化專業工作流程和日常事務。目前,Remy 正在 Gemini 應用的內部員工專屬版本中進行測試。該報告引用了一份內部檔案以及對兩位熟悉該專案的個人的採訪。內部資料將 Remy 描述為“全天候個人代理”,將 Gemini 定位為能夠代表使用者行事的主動助手。接近該專案的訊息人士證實,谷歌員工正在積極測試 Remy。谷歌發言人拒絕提供進一步評論。該報告未提及公開發布
相關專題推薦
評論 (37)
0/500
So we're basically trading human brainpower for literal power plants? AI is cool but the energy cost is insane. 😅
Holy crap, that's a lot of juice! 😅 I knew AI training was power-hungry, but comparing it to multiple NYC's worth of electricity by 2026 really puts it in perspective. Are we just gonna ignore the environmental cost while chasing bigger models? Hope Nvidia's got some efficiency tricks up their sleeves...
So AI's energy consumption might outpace entire cities? 😳 That puts the 'cost' of innovation into a whole new perspective. Will there be a breakthrough in energy-efficient hardware soon, or are we just betting on renewable energy scaling fast enough?
Wow, Energieverbrauch wie mehrere New Yorks bis 2026? Das ist krass. Die AI-Boom ist ja mega spannend, aber wenn Data Center bald mehr Strom als Länder fressen... irgendwie gruselig. Macht man sich Gedanken über Klima und ob das wirklich nachhaltig ist. 🤔 Hoffentlich forscht man auch an effizienteren Lösungen, sonst knallt's.
AIの消費電力がニューヨーク市全体を超えるなんて…技術革新と環境負荷のバランスが気になりますね。電力を食い尽くす前に再生可能エネルギーへの移行が必要では?🌍 日本でもAIデータセンターの増設が進んでいますが、電力問題は他人事じゃないです。
輝達與合作夥伴全球擴展AI資料中心
輝達(Nvidia)與其合作夥伴及客戶積極擴大全球電腦設施的規模,以滿足訓練如GPT-4等大型人工智慧(AI)模型的高運算需求。隨著更多AI模型投入實際應用,這種擴展將變得更加重要,光學運算新創公司Lightmatter的共同創辦人Thomas Graham表示。在紐約與彭博情報(Bloomberg Intelligence)資深科技分析師Mandeep Singh的近期訪談中,Graham強調了對運算資源日益增長的需求。
Graham解釋道:「對更多運算的需求不僅關乎規模法則,還涉及現在部署這些AI模型。」Singh詢問了像GPT-4這樣的大型語言模型(LLMs)的未來,以及它們是否會繼續擴大規模。Graham將焦點轉向AI的實際應用,強調推論(inferencing)或部署階段的重要性,這需要大量的運算能力。
Graham在彭博情報主辦的「生成式AI:能否實現生產力承諾?」會議上表示:「如果你將訓練視為研發,推論實際上就是部署。當你進行部署時,你將需要大規模的電腦來運行你的模型。」
Graham的觀點與輝達執行長Jensen Huang一致,後者向華爾街強調,推進「代理型」AI形式不僅需要更複雜的訓練,還需要顯著增強的推論能力,這將導致運算需求的指數級增長。

Lightmatter在AI基礎設施中的角色
Lightmatter成立於2018年,專注於開發使用光學連接的晶片技術,將多個處理器連接在單一半導體晶片上。這些光學互連比傳統銅線更高效地傳輸資料,耗能更少。Graham表示,這項技術可以簡化資料中心機架內部及機架之間的連接,提升資料中心的整體效率與經濟性。
Graham對Singh表示:「通過將資料中心中的銅線路徑——包括伺服器印刷電路板上及機架間的電纜——替換為光纖,我們可以大幅增加頻寬。」Lightmatter目前正與多家科技公司合作設計新的資料中心,Graham指出,這些設施正從頭開始建造。該公司已與位於紐約上州的合約半導體製造商Global Foundries建立合作關係,後者服務於如Advanced Micro Devices等客戶。
雖然Graham未透露除此之外的具體合作夥伴與客戶,但他暗示Lightmatter與如Broadcom或Marvell等矽供應商合作,為Google、Amazon和Microsoft等設計自家資料中心處理器的科技巨頭打造客製化組件。
AI資料中心的規模與未來
為說明AI部署的規模,Graham指出,至少有十二個新的AI資料中心正在規劃或建設中,每個都需要一吉瓦(gigawatt)的電力。他說:「為了提供背景資料,紐約市平均每天使用大約五吉瓦的電力。因此,我們談論的是多個紐約市的電力消耗。」他預測,到2026年,全球AI處理將需要40吉瓦的電力,相當於八個紐約市,專門用於AI資料中心。
Lightmatter最近獲得4億美元的風險投資,估值達44億美元。Graham提到,公司計劃在「未來幾年」開始生產。
當被問及可能對Lightmatter計劃造成干擾的因素時,Graham對持續擴展AI運算基礎設施的需求表示信心。然而,他承認,如果AI演算法取得突破,顯著減少運算需求或更快實現人工通用智慧(AGI),可能會挑戰當前對運算需求指數級增長的假設。
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work
So we're basically trading human brainpower for literal power plants? AI is cool but the energy cost is insane. 😅
Holy crap, that's a lot of juice! 😅 I knew AI training was power-hungry, but comparing it to multiple NYC's worth of electricity by 2026 really puts it in perspective. Are we just gonna ignore the environmental cost while chasing bigger models? Hope Nvidia's got some efficiency tricks up their sleeves...
So AI's energy consumption might outpace entire cities? 😳 That puts the 'cost' of innovation into a whole new perspective. Will there be a breakthrough in energy-efficient hardware soon, or are we just betting on renewable energy scaling fast enough?
Wow, Energieverbrauch wie mehrere New Yorks bis 2026? Das ist krass. Die AI-Boom ist ja mega spannend, aber wenn Data Center bald mehr Strom als Länder fressen... irgendwie gruselig. Macht man sich Gedanken über Klima und ob das wirklich nachhaltig ist. 🤔 Hoffentlich forscht man auch an effizienteren Lösungen, sonst knallt's.
AIの消費電力がニューヨーク市全体を超えるなんて…技術革新と環境負荷のバランスが気になりますね。電力を食い尽くす前に再生可能エネルギーへの移行が必要では?🌍 日本でもAIデータセンターの増設が進んでいますが、電力問題は他人事じゃないです。





首頁






