创始人说
英伟达及其合作伙伴在全球扩展人工智能数据中心
英伟达与其合作伙伴和客户一直在积极扩大全球计算机设施的规模,以满足训练大型人工智能(AI)模型(如GPT-4)的高计算需求。据光学计算初创公司Lightmatter的联合创始人托马斯·格雷厄姆(Thomas Graham)表示,随着更多人工智能模型投入生产,这种扩展将变得更加关键。在最近于纽约接受彭博智能(Bloomberg Intelligence)高级技术分析师曼迪普·辛格(Mandeep Singh)采访时,格雷厄姆强调了对计算资源日益增长的需求。
“对更多计算能力的需求不仅仅关乎规模法则,还关乎现在部署这些人工智能模型,”格雷厄姆解释说。辛格询问了像GPT-4这样的大型语言模型(LLMs)的未来,以及它们是否会继续扩大规模。对此,格雷厄姆将重点转向人工智能的实际应用,强调推理(inferencing)或部署阶段的重要性,这需要大量的计算能力。
“如果你将训练视为研发,推理实际上就是部署。当你进行部署时,你需要大规模计算机来运行你的模型,”格雷厄姆在彭博智能主办的“生成式人工智能:能兑现生产力承诺吗?”会议上表示。
格雷厄姆的观点与英伟达首席执行官黄仁勋(Jensen Huang)的看法一致,黄仁勋向华尔街强调,推进“代理型”人工智能形式不仅需要更复杂的训练,还需要显著增强的推理能力,这将导致计算需求呈指数级增长。

“如果你将训练视为研发,推理实际上就是部署,当你进行部署时,你需要大型计算机来运行你的模型,”格雷厄姆说。照片:彭博社,克雷格·瓦尔加(Craig Warga)提供 Lightmatter在人工智能基础设施中的角色
成立于2018年的Lightmatter处于开发芯片技术的前沿,该技术使用光学连接在一个半导体芯片上连接多个处理器。这些光学互连可以比传统铜线更高效地传输数据,使用的能源更少。据格雷厄姆介绍,这项技术可以简化数据中心机架内和机架之间的连接,提高数据中心的整体效率和经济性。
“通过用光纤替换数据中心中的铜线——包括服务器印刷电路板上的铜线和机架之间的电缆——我们可以显著提高带宽,”格雷厄姆对辛格说。Lightmatter目前正与多家科技公司合作设计新的数据中心,格雷厄姆指出,这些设施正在从零开始建设。该公司已与全球代工厂(Global Foundries)建立合作伙伴关系,这家位于纽约州北部的合同半导体制造商为先进微器件(Advanced Micro Devices)等客户提供服务。
虽然格雷厄姆没有透露除此之外的具体合作伙伴和客户,但他暗示Lightmatter与博通(Broadcom)或马威尔(Marvell)等硅供应商合作,为谷歌(Google)、亚马逊(Amazon)和微软(Microsoft)等设计自己数据中心处理器的科技巨头创建定制组件。
人工智能数据中心的规模与未来
为了说明人工智能部署的规模,格雷厄姆指出,至少有十二个新的人工智能数据中心正在计划或建设中,每个都需要一吉瓦的电力。“为了便于理解,纽约市平均每天使用大约五吉瓦的电力。所以,我们讨论的是多个纽约市的电力消耗,”他说。他预测,到2026年,全球人工智能处理将需要40吉瓦的电力,相当于八个纽约市,专门用于人工智能数据中心。
Lightmatter最近获得了4亿美元的风险投资,估值达到44亿美元。格雷厄姆提到,公司计划在“未来几年”开始生产。
当被问及可能对Lightmatter计划造成干扰的因素时,格雷厄姆对持续扩展人工智能计算基础设施的需求表示了信心。然而,他承认,如果人工智能算法取得突破,需要的计算量显著减少,或更快实现通用人工智能(AGI),可能会挑战当前对计算需求指数增长的假设。
相关文章
字节跳动旗下 Seed 启动全球校园招聘,以虚拟股份争夺顶尖大模型人才
在大型语言模型的竞争格局中,争夺顶尖人才仍然是最关键的战略资产。4月1日,字节跳动宣布启动Seed全球校园招聘计划,作为其大模型人才培养项目的一部分。该活动面向2027届毕业生及现有实习生,旨在全球范围内发掘并锁定AI领域的精英研发与工程人才。规模扩张:全球甄选100名“AI种子”在技术快速进步的背景下,字节跳动有限公司今年大幅增加了对基础AI人才的投入:招聘范围: 该计划旨在从全球范围内招聘约100名专注于大模型的杰出候选人,对象为2027届毕业生。发展路径: Seed计划将核心业务
Suno 在法律诉讼中为歌曲添加水印
Suno,这个允许用户生成由人工智能创作的音乐的平台,近日推出了新功能,包括为平台制作的曲目添加标签、限制下载,并更新社区标准以遏制未经授权的复制品。这些更新是在Suno面临多家唱片公司和艺术家组织提起的多起诉讼之际推出的。在博客文章中,联合创始人兼首席执行官Mikey Shulman概述了核心原则,强调该平台旨在促进原创创作,同时扩大更广泛受众对人工智能音乐工具的访问权限。一个主要的争议点在于,用户将人工智能生成的歌曲上传到其他流媒体服务并通过操纵系统获取收入。Suno表示,现在将采用音频
马斯克承认 Grok 构建过程中泄露了用户代码,并承诺清除所有历史数据
埃隆·马斯克直接回应了围绕 Grok Build 的隐私争议,首先以简单的“True”(属实)确认了该事件的有效性。他承诺,此前上传至 SpaceXAI 的所有用户数据将被永久删除,并表示“不留一个字节”。这是人工智能行业首次由主要科技领袖公开承认错误并主动删除用户数据。安全研究人员的“钓鱼”测试揭示了数据泄露的具体证据此次争议源于独立人工智能安全研究人员 @cereblab 的一份报告。SpaceXAI 推出的 AI 编程助手 Grok Build 在其官方网站上声称其“优先本地运行,代码
相关专题推荐
评论 (37)
0/500
So we're basically trading human brainpower for literal power plants? AI is cool but the energy cost is insane. 😅
Holy crap, that's a lot of juice! 😅 I knew AI training was power-hungry, but comparing it to multiple NYC's worth of electricity by 2026 really puts it in perspective. Are we just gonna ignore the environmental cost while chasing bigger models? Hope Nvidia's got some efficiency tricks up their sleeves...
So AI's energy consumption might outpace entire cities? 😳 That puts the 'cost' of innovation into a whole new perspective. Will there be a breakthrough in energy-efficient hardware soon, or are we just betting on renewable energy scaling fast enough?
Wow, Energieverbrauch wie mehrere New Yorks bis 2026? Das ist krass. Die AI-Boom ist ja mega spannend, aber wenn Data Center bald mehr Strom als Länder fressen... irgendwie gruselig. Macht man sich Gedanken über Klima und ob das wirklich nachhaltig ist. 🤔 Hoffentlich forscht man auch an effizienteren Lösungen, sonst knallt's.
AIの消費電力がニューヨーク市全体を超えるなんて…技術革新と環境負荷のバランスが気になりますね。電力を食い尽くす前に再生可能エネルギーへの移行が必要では?🌍 日本でもAIデータセンターの増設が進んでいますが、電力問題は他人事じゃないです。
英伟达及其合作伙伴在全球扩展人工智能数据中心
英伟达与其合作伙伴和客户一直在积极扩大全球计算机设施的规模,以满足训练大型人工智能(AI)模型(如GPT-4)的高计算需求。据光学计算初创公司Lightmatter的联合创始人托马斯·格雷厄姆(Thomas Graham)表示,随着更多人工智能模型投入生产,这种扩展将变得更加关键。在最近于纽约接受彭博智能(Bloomberg Intelligence)高级技术分析师曼迪普·辛格(Mandeep Singh)采访时,格雷厄姆强调了对计算资源日益增长的需求。
“对更多计算能力的需求不仅仅关乎规模法则,还关乎现在部署这些人工智能模型,”格雷厄姆解释说。辛格询问了像GPT-4这样的大型语言模型(LLMs)的未来,以及它们是否会继续扩大规模。对此,格雷厄姆将重点转向人工智能的实际应用,强调推理(inferencing)或部署阶段的重要性,这需要大量的计算能力。
“如果你将训练视为研发,推理实际上就是部署。当你进行部署时,你需要大规模计算机来运行你的模型,”格雷厄姆在彭博智能主办的“生成式人工智能:能兑现生产力承诺吗?”会议上表示。
格雷厄姆的观点与英伟达首席执行官黄仁勋(Jensen Huang)的看法一致,黄仁勋向华尔街强调,推进“代理型”人工智能形式不仅需要更复杂的训练,还需要显著增强的推理能力,这将导致计算需求呈指数级增长。

Lightmatter在人工智能基础设施中的角色
成立于2018年的Lightmatter处于开发芯片技术的前沿,该技术使用光学连接在一个半导体芯片上连接多个处理器。这些光学互连可以比传统铜线更高效地传输数据,使用的能源更少。据格雷厄姆介绍,这项技术可以简化数据中心机架内和机架之间的连接,提高数据中心的整体效率和经济性。
“通过用光纤替换数据中心中的铜线——包括服务器印刷电路板上的铜线和机架之间的电缆——我们可以显著提高带宽,”格雷厄姆对辛格说。Lightmatter目前正与多家科技公司合作设计新的数据中心,格雷厄姆指出,这些设施正在从零开始建设。该公司已与全球代工厂(Global Foundries)建立合作伙伴关系,这家位于纽约州北部的合同半导体制造商为先进微器件(Advanced Micro Devices)等客户提供服务。
虽然格雷厄姆没有透露除此之外的具体合作伙伴和客户,但他暗示Lightmatter与博通(Broadcom)或马威尔(Marvell)等硅供应商合作,为谷歌(Google)、亚马逊(Amazon)和微软(Microsoft)等设计自己数据中心处理器的科技巨头创建定制组件。
人工智能数据中心的规模与未来
为了说明人工智能部署的规模,格雷厄姆指出,至少有十二个新的人工智能数据中心正在计划或建设中,每个都需要一吉瓦的电力。“为了便于理解,纽约市平均每天使用大约五吉瓦的电力。所以,我们讨论的是多个纽约市的电力消耗,”他说。他预测,到2026年,全球人工智能处理将需要40吉瓦的电力,相当于八个纽约市,专门用于人工智能数据中心。
Lightmatter最近获得了4亿美元的风险投资,估值达到44亿美元。格雷厄姆提到,公司计划在“未来几年”开始生产。
当被问及可能对Lightmatter计划造成干扰的因素时,格雷厄姆对持续扩展人工智能计算基础设施的需求表示了信心。然而,他承认,如果人工智能算法取得突破,需要的计算量显著减少,或更快实现通用人工智能(AGI),可能会挑战当前对计算需求指数增长的假设。
字节跳动旗下 Seed 启动全球校园招聘,以虚拟股份争夺顶尖大模型人才
在大型语言模型的竞争格局中,争夺顶尖人才仍然是最关键的战略资产。4月1日,字节跳动宣布启动Seed全球校园招聘计划,作为其大模型人才培养项目的一部分。该活动面向2027届毕业生及现有实习生,旨在全球范围内发掘并锁定AI领域的精英研发与工程人才。规模扩张:全球甄选100名“AI种子”在技术快速进步的背景下,字节跳动有限公司今年大幅增加了对基础AI人才的投入:招聘范围: 该计划旨在从全球范围内招聘约100名专注于大模型的杰出候选人,对象为2027届毕业生。发展路径: Seed计划将核心业务
Suno 在法律诉讼中为歌曲添加水印
Suno,这个允许用户生成由人工智能创作的音乐的平台,近日推出了新功能,包括为平台制作的曲目添加标签、限制下载,并更新社区标准以遏制未经授权的复制品。这些更新是在Suno面临多家唱片公司和艺术家组织提起的多起诉讼之际推出的。在博客文章中,联合创始人兼首席执行官Mikey Shulman概述了核心原则,强调该平台旨在促进原创创作,同时扩大更广泛受众对人工智能音乐工具的访问权限。一个主要的争议点在于,用户将人工智能生成的歌曲上传到其他流媒体服务并通过操纵系统获取收入。Suno表示,现在将采用音频
马斯克承认 Grok 构建过程中泄露了用户代码,并承诺清除所有历史数据
埃隆·马斯克直接回应了围绕 Grok Build 的隐私争议,首先以简单的“True”(属实)确认了该事件的有效性。他承诺,此前上传至 SpaceXAI 的所有用户数据将被永久删除,并表示“不留一个字节”。这是人工智能行业首次由主要科技领袖公开承认错误并主动删除用户数据。安全研究人员的“钓鱼”测试揭示了数据泄露的具体证据此次争议源于独立人工智能安全研究人员 @cereblab 的一份报告。SpaceXAI 推出的 AI 编程助手 Grok Build 在其官方网站上声称其“优先本地运行,代码
So we're basically trading human brainpower for literal power plants? AI is cool but the energy cost is insane. 😅
Holy crap, that's a lot of juice! 😅 I knew AI training was power-hungry, but comparing it to multiple NYC's worth of electricity by 2026 really puts it in perspective. Are we just gonna ignore the environmental cost while chasing bigger models? Hope Nvidia's got some efficiency tricks up their sleeves...
So AI's energy consumption might outpace entire cities? 😳 That puts the 'cost' of innovation into a whole new perspective. Will there be a breakthrough in energy-efficient hardware soon, or are we just betting on renewable energy scaling fast enough?
Wow, Energieverbrauch wie mehrere New Yorks bis 2026? Das ist krass. Die AI-Boom ist ja mega spannend, aber wenn Data Center bald mehr Strom als Länder fressen... irgendwie gruselig. Macht man sich Gedanken über Klima und ob das wirklich nachhaltig ist. 🤔 Hoffentlich forscht man auch an effizienteren Lösungen, sonst knallt's.
AIの消費電力がニューヨーク市全体を超えるなんて…技術革新と環境負荷のバランスが気になりますね。電力を食い尽くす前に再生可能エネルギーへの移行が必要では?🌍 日本でもAIデータセンターの増設が進んでいますが、電力問題は他人事じゃないです。





首页






