AppleとLM Studioが画期的な提携を発表、4つのMacベースのスタジオが1兆パラメータ規模の大型モデルを導入

WWDCでの画期的なデモンストレーション:Appleのハードウェア上で1兆パラメータのAIモデルを実行
先ごろ開催されたWWDCにおいて、AIソフトウェアプラットフォーム「LM Studio」はAppleと協力し、人工知能技術における画期的な成果を披露しました。 同チームは、4台のMac Studioで構成されるクラスターを用いて、Moonshot AIのフラッグシップモデルである「Kimi K2.6」の実行に成功しました。この実演は、超大規模AIモデルの処理において、Apple Siliconアーキテクチャが持つ圧倒的な性能を明確に示しました。
「Kimi K2.6」モデルは、高度なMoEアーキテクチャを基盤として構築されており、最大1兆個のパラメータを備えています。このモデルの動的なエキスパートスケジューリングシステムにより、推論時には一度に約320億個のパラメータのみをアクティブ化することで計算負荷を軽減していますが、モデル全体を読み込むこと自体は依然として大きなメモリ上の課題となっています。 FP16精度で処理する場合、約2TBのメモリが必要となる。従来のデータセンター環境では、この要件を満たすために通常、8~16基のハイエンドGPUを搭載したサーバークラスターを使用する必要があり、そのコストは数百万ドルに上ることもある。
しかし、今回のデモンストレーションでは、革新的な技術的ソリューションによってこの制限を克服しました。M3 Ultraチップを搭載した4台のMac StudioをThunderbolt 5インターフェースで接続し、最新のmacOSバージョンで利用可能な「RDMA-over-Thunderbolt」技術を活用しました。 このアプローチにより、デバイス間の直接的なメモリ共有が可能となり、合計2TBの統合メモリが単一の論理メモリプールとして効果的に統合されました。その結果、1兆パラメータのモデルを問題なく読み込むことができました。ライブデモ中、このクラスターは強力なパフォーマンスを発揮し、従来のGPUベースのコンピューティングセンターよりもはるかに少ない電力消費で、毎秒約28トークンを生成しました。
このデモンストレーションと並行して、LM Studioは本コラボレーションの一環として「LM Link」も発表しました。TailscaleのメッシュVPNアーキテクチャを基盤とするこのツールにより、ユーザーはエンドツーエンドで暗号化された接続を通じて、どこからでもローカルのMac Studioクラスターに安全にアクセスできるようになります。 ユーザーは、ホストデバイスに物理的にいる必要なく、MacBookまたはiPhoneのいずれかを使用して、クラスターの演算能力を推論に活用できます。すべての機密データは、セキュアなループ内でローカルに処理され、サードパーティのクラウドサーバーを経由した転送は一切行われません。
このデモンストレーションは、単なる技術的なショーケースにとどまらず、業界に対して明確なメッセージを発信するものでもありました。 統一メモリ設計と効率的なマルチデバイス接続機能を備えたApple Siliconは、大規模AIモデルの展開における現実的な選択肢として台頭しつつあります。大規模なモデル推論タスクを頻繁かつ長期的に実行する必要がある組織にとって、このソリューションはクラウドサービスに伴う高額なコストをハードウェアへの投資に置き換えることで解消し、長期的には大幅なコスト削減につながります。
コンシューマー向けハードウェアクラスターの性能が向上し続けるにつれ、AI技術の導入障壁はさらに低くなっています。この成果は、最先端のAIイノベーションの源泉が、大規模なスーパーコンピューティング施設を持つ一握りのテック大手企業に限定されなくなることを示唆しています。分散型コンピューティングの分野では、近い将来、新たな開発の機会が生まれる可能性が高いでしょう。
関連記事
Slackbot が AI エージェントになる
Salesforceの企業向けメッセージングプラットフォームSlackに組み込まれた自動化アシスタント「Slackbot」は、AIエージェントへと進化しつつある。SalesforceのCTOであるパーカー・ハリス氏は、OpenAIのChatGPTに匹敵するバイラルな普及を達成する可能性を構想している。クラウドソフトウェア大手は火曜日、アップデートされたSlackbotをリリースした。Business+およびEnterprise+の顧客が利用可能なこの新しいAI駆動版は、Slack内で直接情報の
ByteDance、コアAIインセンティブを強化、Doubaoが14.6%急伸
ByteDanceは最近、DouBaoの株式に関する説明会を開催し、DouBao部門に関わる従業員向けの新たなインセンティブ政策を発表した。DouBao株式の行使価格は2026年6月の14.85ドルから17.02ドルに引き上げられ、約14.6%の増加となった。この改定により、DouBao株式の評価額が上昇するだけでなく、その配布範囲も大幅に拡大した。個人の役割に応じて、一部の従業員は総報酬の約5%に相当するDouBao株式を受け取ることができる。新しい交換メカニズムの下、ByteDanceは従
MiniMax、グローバルのAI専門家に対するインセンティブを提供する「10xチームプログラム」を発表
MiniMax(稀宇科技)の汎用人工知能ラボは、グローバルな人材連携イニシアチブ「10xチーム」を正式に開始しました。このプログラムは、大規模モデルの専門分野における深い応用を探求するために、各業界のトップエキスパートを募集することを目的としています。深い業界知識と最先端のAIを統合することで、MiniMaxは汎用から専門的なシナリオへと大規模モデルの生産性を拡大し、最終的に業界の効率に「10倍の増加」をもたらすことを目指しています。業界の認知価値を検証し、マルチモーダルの中核リソースを開放す
関連特集おすすめ
コメント (0)
0/500

WWDCでの画期的なデモンストレーション:Appleのハードウェア上で1兆パラメータのAIモデルを実行
先ごろ開催されたWWDCにおいて、AIソフトウェアプラットフォーム「LM Studio」はAppleと協力し、人工知能技術における画期的な成果を披露しました。 同チームは、4台のMac Studioで構成されるクラスターを用いて、Moonshot AIのフラッグシップモデルである「Kimi K2.6」の実行に成功しました。この実演は、超大規模AIモデルの処理において、Apple Siliconアーキテクチャが持つ圧倒的な性能を明確に示しました。
「Kimi K2.6」モデルは、高度なMoEアーキテクチャを基盤として構築されており、最大1兆個のパラメータを備えています。このモデルの動的なエキスパートスケジューリングシステムにより、推論時には一度に約320億個のパラメータのみをアクティブ化することで計算負荷を軽減していますが、モデル全体を読み込むこと自体は依然として大きなメモリ上の課題となっています。 FP16精度で処理する場合、約2TBのメモリが必要となる。従来のデータセンター環境では、この要件を満たすために通常、8~16基のハイエンドGPUを搭載したサーバークラスターを使用する必要があり、そのコストは数百万ドルに上ることもある。
しかし、今回のデモンストレーションでは、革新的な技術的ソリューションによってこの制限を克服しました。M3 Ultraチップを搭載した4台のMac StudioをThunderbolt 5インターフェースで接続し、最新のmacOSバージョンで利用可能な「RDMA-over-Thunderbolt」技術を活用しました。 このアプローチにより、デバイス間の直接的なメモリ共有が可能となり、合計2TBの統合メモリが単一の論理メモリプールとして効果的に統合されました。その結果、1兆パラメータのモデルを問題なく読み込むことができました。ライブデモ中、このクラスターは強力なパフォーマンスを発揮し、従来のGPUベースのコンピューティングセンターよりもはるかに少ない電力消費で、毎秒約28トークンを生成しました。
このデモンストレーションと並行して、LM Studioは本コラボレーションの一環として「LM Link」も発表しました。TailscaleのメッシュVPNアーキテクチャを基盤とするこのツールにより、ユーザーはエンドツーエンドで暗号化された接続を通じて、どこからでもローカルのMac Studioクラスターに安全にアクセスできるようになります。 ユーザーは、ホストデバイスに物理的にいる必要なく、MacBookまたはiPhoneのいずれかを使用して、クラスターの演算能力を推論に活用できます。すべての機密データは、セキュアなループ内でローカルに処理され、サードパーティのクラウドサーバーを経由した転送は一切行われません。
このデモンストレーションは、単なる技術的なショーケースにとどまらず、業界に対して明確なメッセージを発信するものでもありました。 統一メモリ設計と効率的なマルチデバイス接続機能を備えたApple Siliconは、大規模AIモデルの展開における現実的な選択肢として台頭しつつあります。大規模なモデル推論タスクを頻繁かつ長期的に実行する必要がある組織にとって、このソリューションはクラウドサービスに伴う高額なコストをハードウェアへの投資に置き換えることで解消し、長期的には大幅なコスト削減につながります。
コンシューマー向けハードウェアクラスターの性能が向上し続けるにつれ、AI技術の導入障壁はさらに低くなっています。この成果は、最先端のAIイノベーションの源泉が、大規模なスーパーコンピューティング施設を持つ一握りのテック大手企業に限定されなくなることを示唆しています。分散型コンピューティングの分野では、近い将来、新たな開発の機会が生まれる可能性が高いでしょう。
Slackbot が AI エージェントになる
Salesforceの企業向けメッセージングプラットフォームSlackに組み込まれた自動化アシスタント「Slackbot」は、AIエージェントへと進化しつつある。SalesforceのCTOであるパーカー・ハリス氏は、OpenAIのChatGPTに匹敵するバイラルな普及を達成する可能性を構想している。クラウドソフトウェア大手は火曜日、アップデートされたSlackbotをリリースした。Business+およびEnterprise+の顧客が利用可能なこの新しいAI駆動版は、Slack内で直接情報の
ByteDance、コアAIインセンティブを強化、Doubaoが14.6%急伸
ByteDanceは最近、DouBaoの株式に関する説明会を開催し、DouBao部門に関わる従業員向けの新たなインセンティブ政策を発表した。DouBao株式の行使価格は2026年6月の14.85ドルから17.02ドルに引き上げられ、約14.6%の増加となった。この改定により、DouBao株式の評価額が上昇するだけでなく、その配布範囲も大幅に拡大した。個人の役割に応じて、一部の従業員は総報酬の約5%に相当するDouBao株式を受け取ることができる。新しい交換メカニズムの下、ByteDanceは従
MiniMax、グローバルのAI専門家に対するインセンティブを提供する「10xチームプログラム」を発表
MiniMax(稀宇科技)の汎用人工知能ラボは、グローバルな人材連携イニシアチブ「10xチーム」を正式に開始しました。このプログラムは、大規模モデルの専門分野における深い応用を探求するために、各業界のトップエキスパートを募集することを目的としています。深い業界知識と最先端のAIを統合することで、MiniMaxは汎用から専門的なシナリオへと大規模モデルの生産性を拡大し、最終的に業界の効率に「10倍の増加」をもたらすことを目指しています。業界の認知価値を検証し、マルチモーダルの中核リソースを開放す





家






