蘋果公司與LM工作室攜手,透過四座Mac工作室部署大規模本地大型語言模型

在近期舉辦的 WWDC2026 活動上,LM Studio 與蘋果公司共同展示了一項具有突破性的技術演示。在本次演示中,他們僅透過將四臺 Mac Studio 連線成叢集,便成功執行了 Moonshot 公司擁有 1 萬億引數的大型模型 Kimi K2.6。這一成就打破了長期以來“擁有萬億級引數的模型必然需要基於雲端的 GPU 叢集”的固有觀念,證明了消費級硬體同樣能夠實現先進的 AI 計算能力。
Kimi K2.6 的總引數量為 1 萬億,採用了 MoE 架構,可在任意時刻啟用 320 億個引數。該模型支援長上下文處理、多模態輸入處理以及基於智慧體的任務執行功能。在演示中,四臺 Mac Studio 透過蘋果公司的記憶體共享與互連技術連線在一起,形成了一個擁有約 1.5TB 統一記憶體的叢集,足以滿足該大型模型的推理需求。此前的開發者測試顯示,在類似的配置條件下,Kimi K2.6 的文字生成速度約為每秒 28 個標記,且其能耗遠低於傳統的基於 GPU 的解決方案。
當透過 iPhone 直接連線到本地叢集時,所有資料均完全保留在使用者的裝置內部
此次演示的另一個亮點是 LM Studio 開發的 LM Link 遠端訪問功能。使用者可以透過自己的 MacBook Neo 或 iPhone 安全地遠端連線至 Mac Studio 叢集,實時與正在執行的模型進行互動,所有的資料處理與通訊都在本地完成,無需透過雲端傳輸資料。
LM Link 已被整合到 LM Studio 的 Mac 應用程式以及 Locally AI 的 iOS 應用程式中,能夠提供端到端加密的連線方式。這樣的設定使得使用者即便在效能較低的裝置上,也能隨時呼叫叢集級的 AI 計算能力,同時無需擔心隱私洩露問題。結合蘋果公司的 Thunderbolt 5 RDMA 技術以及其他多裝置記憶體共享方案,整個生態系統正在快速構建一個用於本地部署人工智慧的無縫框架。
此次合作傳遞了一個明確的訊號:在本地部署萬億引數級的大型模型已不再是僅限於實驗室的理論概念,而是一種開發者可以在自身工作環境中實現的可行方案。隨著蘋果公司不斷推進其硬體互連功能,消費級裝置處理大規模 AI 推理的能力預計還將進一步提升。
相關文章
時序資料庫如何賦能實時機器人資料
Doug Pagnutti,Tiger Data 公司。Pagnutti 擔任 Tiger Data 的工業開發者倡導者,支援團隊構建現實世界中的工業系統。他在石油天然氣和製造自動化領域擁有超過 12 年的經驗,曾從事可程式設計邏輯控制器(PLC)、機器人和 SCADA 系統的工作,隨後轉至 Dell EMC 和 VTScada 從事工業軟體開發。他透過幫助自動化工程師解決大規模 IIoT 部署中的時間序列資料基礎設施問題,彌合了運營技術(OT)與資訊科技(IT)之間的差距。顯示時間線8:43 –
如何最佳化針對日本谷歌和日本雅虎的SEO?
Master Loom:利用 AI 建立並分享專業影片目錄Loom 簡介訪問 Loom錄製選項全屏視窗攝像頭音訊與音質編輯與自定義背景選項編輯影片新增特效分享與隱私設定與團隊成員分享建立可分享連結嵌入網站隱私設定Loom AI 工具自動生成標題與摘要去除靜音與填充詞轉錄與編輯文稿播放與協作評論與反應下載影片追蹤觀看次數與反饋在資料夾中整理影片其他功能Chrome 擴充套件程式桌面與移動應用結論Loom 是一款多功能且使用者友好的工具,可讓您
Google 日本的演算法在 SEO 方面是如何運作的?
由 AI 生成的 MrBeast 縮圖目錄前言MrBeast 的體型蛻變挑戰探索挑戰的縮圖概念在照片中強化 MrBeast 的體態運用 AI 技術進行身材變形為挑戰製作概念縮圖運用背景快速呈現概念視覺化介紹完整的縮圖背景套組嘗試使用 AI 工具進行換臉在縮圖中手動替換 Mr Beast 的頭部實現逼真效果所面臨的挑戰最終概念縮圖與 Photoshop 的「生成式填充」功能結論在充滿活力的 YouT
相關專題推薦
評論 (1)
0/500

在近期舉辦的 WWDC2026 活動上,LM Studio 與蘋果公司共同展示了一項具有突破性的技術演示。在本次演示中,他們僅透過將四臺 Mac Studio 連線成叢集,便成功執行了 Moonshot 公司擁有 1 萬億引數的大型模型 Kimi K2.6。這一成就打破了長期以來“擁有萬億級引數的模型必然需要基於雲端的 GPU 叢集”的固有觀念,證明了消費級硬體同樣能夠實現先進的 AI 計算能力。
Kimi K2.6 的總引數量為 1 萬億,採用了 MoE 架構,可在任意時刻啟用 320 億個引數。該模型支援長上下文處理、多模態輸入處理以及基於智慧體的任務執行功能。在演示中,四臺 Mac Studio 透過蘋果公司的記憶體共享與互連技術連線在一起,形成了一個擁有約 1.5TB 統一記憶體的叢集,足以滿足該大型模型的推理需求。此前的開發者測試顯示,在類似的配置條件下,Kimi K2.6 的文字生成速度約為每秒 28 個標記,且其能耗遠低於傳統的基於 GPU 的解決方案。
當透過 iPhone 直接連線到本地叢集時,所有資料均完全保留在使用者的裝置內部
此次演示的另一個亮點是 LM Studio 開發的 LM Link 遠端訪問功能。使用者可以透過自己的 MacBook Neo 或 iPhone 安全地遠端連線至 Mac Studio 叢集,實時與正在執行的模型進行互動,所有的資料處理與通訊都在本地完成,無需透過雲端傳輸資料。
LM Link 已被整合到 LM Studio 的 Mac 應用程式以及 Locally AI 的 iOS 應用程式中,能夠提供端到端加密的連線方式。這樣的設定使得使用者即便在效能較低的裝置上,也能隨時呼叫叢集級的 AI 計算能力,同時無需擔心隱私洩露問題。結合蘋果公司的 Thunderbolt 5 RDMA 技術以及其他多裝置記憶體共享方案,整個生態系統正在快速構建一個用於本地部署人工智慧的無縫框架。
此次合作傳遞了一個明確的訊號:在本地部署萬億引數級的大型模型已不再是僅限於實驗室的理論概念,而是一種開發者可以在自身工作環境中實現的可行方案。隨著蘋果公司不斷推進其硬體互連功能,消費級裝置處理大規模 AI 推理的能力預計還將進一步提升。
時序資料庫如何賦能實時機器人資料
Doug Pagnutti,Tiger Data 公司。Pagnutti 擔任 Tiger Data 的工業開發者倡導者,支援團隊構建現實世界中的工業系統。他在石油天然氣和製造自動化領域擁有超過 12 年的經驗,曾從事可程式設計邏輯控制器(PLC)、機器人和 SCADA 系統的工作,隨後轉至 Dell EMC 和 VTScada 從事工業軟體開發。他透過幫助自動化工程師解決大規模 IIoT 部署中的時間序列資料基礎設施問題,彌合了運營技術(OT)與資訊科技(IT)之間的差距。顯示時間線8:43 –
如何最佳化針對日本谷歌和日本雅虎的SEO?
Master Loom:利用 AI 建立並分享專業影片目錄Loom 簡介訪問 Loom錄製選項全屏視窗攝像頭音訊與音質編輯與自定義背景選項編輯影片新增特效分享與隱私設定與團隊成員分享建立可分享連結嵌入網站隱私設定Loom AI 工具自動生成標題與摘要去除靜音與填充詞轉錄與編輯文稿播放與協作評論與反應下載影片追蹤觀看次數與反饋在資料夾中整理影片其他功能Chrome 擴充套件程式桌面與移動應用結論Loom 是一款多功能且使用者友好的工具,可讓您
Google 日本的演算法在 SEO 方面是如何運作的?
由 AI 生成的 MrBeast 縮圖目錄前言MrBeast 的體型蛻變挑戰探索挑戰的縮圖概念在照片中強化 MrBeast 的體態運用 AI 技術進行身材變形為挑戰製作概念縮圖運用背景快速呈現概念視覺化介紹完整的縮圖背景套組嘗試使用 AI 工具進行換臉在縮圖中手動替換 Mr Beast 的頭部實現逼真效果所面臨的挑戰最終概念縮圖與 Photoshop 的「生成式填充」功能結論在充滿活力的 YouT





首頁






