苹果公司与LM工作室携手,通过四座Mac工作室部署大规模本地大型语言模型

在近期举办的 WWDC2026 活动上,LM Studio 与苹果公司共同展示了一项具有突破性的技术演示。在本次演示中,他们仅通过将四台 Mac Studio 连接成集群,便成功运行了 Moonshot 公司拥有 1 万亿参数的大型模型 Kimi K2.6。这一成就打破了长期以来“拥有万亿级参数的模型必然需要基于云端的 GPU 集群”的固有观念,证明了消费级硬件同样能够实现先进的 AI 计算能力。
Kimi K2.6 的总参数量为 1 万亿,采用了 MoE 架构,可在任意时刻激活 320 亿个参数。该模型支持长上下文处理、多模态输入处理以及基于智能体的任务执行功能。在演示中,四台 Mac Studio 通过苹果公司的内存共享与互连技术连接在一起,形成了一个拥有约 1.5TB 统一内存的集群,足以满足该大型模型的推理需求。此前的开发者测试显示,在类似的配置条件下,Kimi K2.6 的文本生成速度约为每秒 28 个标记,且其能耗远低于传统的基于 GPU 的解决方案。
当通过 iPhone 直接连接到本地集群时,所有数据均完全保留在用户的设备内部
此次演示的另一个亮点是 LM Studio 开发的 LM Link 远程访问功能。用户可以通过自己的 MacBook Neo 或 iPhone 安全地远程连接至 Mac Studio 集群,实时与正在运行的模型进行交互,所有的数据处理与通信都在本地完成,无需通过云端传输数据。
LM Link 已被集成到 LM Studio 的 Mac 应用程序以及 Locally AI 的 iOS 应用程序中,能够提供端到端加密的连接方式。这样的设置使得用户即便在性能较低的设备上,也能随时调用集群级的 AI 计算能力,同时无需担心隐私泄露问题。结合苹果公司的 Thunderbolt 5 RDMA 技术以及其他多设备内存共享方案,整个生态系统正在快速构建一个用于本地部署人工智能的无缝框架。
此次合作传递了一个明确的信号:在本地部署万亿参数级的大型模型已不再是仅限于实验室的理论概念,而是一种开发者可以在自身工作环境中实现的可行方案。随着苹果公司不断推进其硬件互连功能,消费级设备处理大规模 AI 推理的能力预计还将进一步提升。
相关文章
时序数据库如何赋能实时机器人数据
Doug Pagnutti,Tiger Data 公司。Pagnutti 担任 Tiger Data 的工业开发者倡导者,支持团队构建现实世界中的工业系统。他在石油天然气和制造自动化领域拥有超过 12 年的经验,曾从事可编程逻辑控制器(PLC)、机器人和 SCADA 系统的工作,随后转至 Dell EMC 和 VTScada 从事工业软件开发。他通过帮助自动化工程师解决大规模 IIoT 部署中的时间序列数据基础设施问题,弥合了运营技术(OT)与信息技术(IT)之间的差距。显示时间线8:43 –
如何优化针对日本谷歌和日本雅虎的SEO?
Master Loom:利用 AI 创建并分享专业视频目录Loom 简介访问 Loom录制选项全屏窗口摄像头音频与音质编辑与自定义背景选项编辑视频添加特效分享与隐私设置与团队成员分享创建可分享链接嵌入网站隐私设置Loom AI 工具自动生成标题与摘要去除静音与填充词转录与编辑文稿播放与协作评论与反应下载视频追踪观看次数与反馈在文件夹中整理视频其他功能Chrome 扩展程序桌面与移动应用结论Loom 是一款多功能且用户友好的工具,可让您
谷歌日本的算法在搜索引擎优化(SEO)中是如何运作的?
AI生成的MrBeast缩略图目录引言MrBeast的身体改造挑战探索该挑战的缩略图创意在照片中增强MrBeast的身材应用AI技术进行身材改造为挑战创作概念缩略图利用背景快速呈现概念视觉效果介绍完整的缩略图背景包尝试使用AI工具进行换脸在缩略图中手动替换Mr Beast的头部实现逼真效果面临的挑战最终概念缩略图与Photoshop的生成式填充功能结语在充满活力的YouTube世界中,身体蜕变和高
相关专题推荐
评论 (1)
0/500

在近期举办的 WWDC2026 活动上,LM Studio 与苹果公司共同展示了一项具有突破性的技术演示。在本次演示中,他们仅通过将四台 Mac Studio 连接成集群,便成功运行了 Moonshot 公司拥有 1 万亿参数的大型模型 Kimi K2.6。这一成就打破了长期以来“拥有万亿级参数的模型必然需要基于云端的 GPU 集群”的固有观念,证明了消费级硬件同样能够实现先进的 AI 计算能力。
Kimi K2.6 的总参数量为 1 万亿,采用了 MoE 架构,可在任意时刻激活 320 亿个参数。该模型支持长上下文处理、多模态输入处理以及基于智能体的任务执行功能。在演示中,四台 Mac Studio 通过苹果公司的内存共享与互连技术连接在一起,形成了一个拥有约 1.5TB 统一内存的集群,足以满足该大型模型的推理需求。此前的开发者测试显示,在类似的配置条件下,Kimi K2.6 的文本生成速度约为每秒 28 个标记,且其能耗远低于传统的基于 GPU 的解决方案。
当通过 iPhone 直接连接到本地集群时,所有数据均完全保留在用户的设备内部
此次演示的另一个亮点是 LM Studio 开发的 LM Link 远程访问功能。用户可以通过自己的 MacBook Neo 或 iPhone 安全地远程连接至 Mac Studio 集群,实时与正在运行的模型进行交互,所有的数据处理与通信都在本地完成,无需通过云端传输数据。
LM Link 已被集成到 LM Studio 的 Mac 应用程序以及 Locally AI 的 iOS 应用程序中,能够提供端到端加密的连接方式。这样的设置使得用户即便在性能较低的设备上,也能随时调用集群级的 AI 计算能力,同时无需担心隐私泄露问题。结合苹果公司的 Thunderbolt 5 RDMA 技术以及其他多设备内存共享方案,整个生态系统正在快速构建一个用于本地部署人工智能的无缝框架。
此次合作传递了一个明确的信号:在本地部署万亿参数级的大型模型已不再是仅限于实验室的理论概念,而是一种开发者可以在自身工作环境中实现的可行方案。随着苹果公司不断推进其硬件互连功能,消费级设备处理大规模 AI 推理的能力预计还将进一步提升。
时序数据库如何赋能实时机器人数据
Doug Pagnutti,Tiger Data 公司。Pagnutti 担任 Tiger Data 的工业开发者倡导者,支持团队构建现实世界中的工业系统。他在石油天然气和制造自动化领域拥有超过 12 年的经验,曾从事可编程逻辑控制器(PLC)、机器人和 SCADA 系统的工作,随后转至 Dell EMC 和 VTScada 从事工业软件开发。他通过帮助自动化工程师解决大规模 IIoT 部署中的时间序列数据基础设施问题,弥合了运营技术(OT)与信息技术(IT)之间的差距。显示时间线8:43 –
如何优化针对日本谷歌和日本雅虎的SEO?
Master Loom:利用 AI 创建并分享专业视频目录Loom 简介访问 Loom录制选项全屏窗口摄像头音频与音质编辑与自定义背景选项编辑视频添加特效分享与隐私设置与团队成员分享创建可分享链接嵌入网站隐私设置Loom AI 工具自动生成标题与摘要去除静音与填充词转录与编辑文稿播放与协作评论与反应下载视频追踪观看次数与反馈在文件夹中整理视频其他功能Chrome 扩展程序桌面与移动应用结论Loom 是一款多功能且用户友好的工具,可让您
谷歌日本的算法在搜索引擎优化(SEO)中是如何运作的?
AI生成的MrBeast缩略图目录引言MrBeast的身体改造挑战探索该挑战的缩略图创意在照片中增强MrBeast的身材应用AI技术进行身材改造为挑战创作概念缩略图利用背景快速呈现概念视觉效果介绍完整的缩略图背景包尝试使用AI工具进行换脸在缩略图中手动替换Mr Beast的头部实现逼真效果面临的挑战最终概念缩略图与Photoshop的生成式填充功能结语在充满活力的YouTube世界中,身体蜕变和高





首页






