Osaurus 在 Mac 上整合本地與雲端 AI 模型

隨著 AI 模型日益商品化，新創公司正爭相開發運行於其上的軟體層。該領域中的一家知名企業是 Osaurus，這是一款專為 Mac 設計的開源大型語言模型（LLM）伺服器。它讓使用者能在不同的本地或雲端 AI 模型之間切換，同時將檔案和工具安全地保留在自己的硬體設備上。

Osaurus 源自一個名為 Dinoki 的桌面 AI 伴侶概念，共同創辦人 Terence Pae 將其比喻為「由 AI 驅動的 Clippy」。潛在客戶質疑，既然仍需支付代幣費用（AI 公司用以計費處理提示語並生成回應的單位），為何還要購買這款應用程式。

這促使 Pae 更深入地探索在本地運行 AI 的可能性。

「這就是 Osaurus 的起源，」曾任職於特斯拉（Tesla）和網飛（Netflix）的軟體工程師 Pae 向 TechCrunch 解釋道。最初的構想是嘗試直接在用戶裝置上運行 AI 助理。「你幾乎可以在 Mac 上本地完成所有事情，例如瀏覽檔案、開啟網頁瀏覽器，以及檢查系統設定。我意識到這讓 Osaurus 完美定位為個人用戶的專屬 AI。」

Pae 將此工具公開開發為開源專案，並在過程中持續新增功能與修復錯誤。

圖片來源：Osaurus, Inc.

如今，Osaurus 提供靈活的連接方式，可連接本地託管的 AI 模型或 OpenAI、Anthropic 等雲端服務供應商。使用者可以自由選擇偏好的 AI 模型，同時將 AI 體驗的其他方面——例如模型的記憶體、個人檔案和工具——保留在自己的硬體上。

由於不同 AI 模型各有其獨特優勢，此系統的優勢在於讓使用者能切換至最適合特定任務的模型。

此架構使 Osaurus 被歸類為「調度器」（harness）——一種透過單一介面整合各類 AI 模型、工具及工作流程的控制層，類似於 OpenClaw 或 Hermes 等平台。然而，此類工具通常是為熟悉終端機指令的開發者所設計。在某些情況下，例如 OpenClaw，它們甚至可能引入安全漏洞。

相較之下，Osaurus 為一般消費者提供直觀易用的介面，並透過在硬體隔離的虛擬沙盒環境中運作來確保安全性。此設計將 AI 的存取權限限制在特定範圍內，從而保護您的電腦與資料。

圖片來源：Osaurus, Inc.

在本地運行 AI 模型仍屬新興做法，因其需要大量資源且高度依賴硬體。要運行本地模型，您的系統至少需要 64 GB 的記憶體。對於像 DeepSeek v4 這樣的大型模型，Pae 建議使用配備約 128 GB 記憶體的系統。

儘管如此，Pae 仍確信本地 AI 的硬體需求將隨時間推移而降低。

「我看好其潛力，因為『每瓦特智慧』——這是本地 AI 的關鍵指標——正大幅提升。它正走在一條獨特的創新軌道上。去年，本地 AI 還難以完成句子，但如今它已能執行工具、編寫程式碼、存取瀏覽器，甚至在亞馬遜上下單。它正在持續進步，」他指出。

圖片來源：Osaurus, Inc.

目前，Osaurus 支援的模型包括 MiniMax M2.5、Gemma 4、Qwen3.6、GPT-OSS、Llama 以及 DeepSeek V4。 此外，它還整合了 Apple 的裝置端基礎模型、Liquid AI 的 LFM 裝置端模型系列，並提供與 OpenAI、Anthropic、Gemini、xAI/Grok、Venice AI、OpenRouter、Ollama 及 LM Studio 的雲端連線功能。

作為完整的模型上下文協定 (MCP) 伺服器，它允許任何相容 MCP 的客戶端存取您的工具。此外，它預先配備了 20 多個原生外掛程式，涵蓋郵件、日曆、視覺、macOS 工具、XLSX、PPTX、瀏覽器、音樂、Git、檔案系統、搜尋、Fetch 等功能。

最近的更新為 Osaurus 增添了語音功能。

根據其官網資料，自近一年前推出以來，該專案的下載次數已超過 112,000 次。

創辦團隊（包括共同創辦人 Sam Yoo）目前正參與總部位於紐約的創業加速器 Alliance。他們同時也在規劃未來發展方向，可能包括將 Osaurus 推廣至法律或醫療保健等產業，在這些領域中，本地化大型語言模型（LLMs）有助於解決資料隱私的疑慮。

隨著本地 AI 模型日益強大，團隊相信這將有助於降低對大型 AI 數據中心的依賴。

「我們正目睹 AI 的爆炸性成長，雲端服務供應商必須透過龐大的資料中心和基礎設施來擴展規模。然而，我們認為本地 AI 的價值仍未獲得充分重視，」Pae 表示。「與其依賴雲端，企業可以在內部部署一台 Mac Studio，這樣能大幅降低電力消耗。您既能保留類似雲端的機能，又無需依賴遠端資料中心來運行 AI，」他補充道。