Heim
Zigong und die Tsinghua-Universität stellen die Netzwerkarchitektur „ZCube“ vor, die den Durchsatz bei der Inferenz großer Modelle um 15 % steigert und gleichzeitig die Netzwerkkosten um ein Drittel senkt
Die Inferenz großer Modelle verändert die KI-Infrastruktur grundlegend, und Innovationen in der Netzwerkarchitektur sind mittlerweile entscheidend, um das Potenzial der Hardware voll auszuschöpfen. Im September 2025 stellten Zhipu, Yuchen Network und die Tsinghua-Universität auf der ACM SIGCOMM 2025, einer führenden Konferenz im Bereich Netzwerktechnik, ihre Forschungsergebnisse zur ZCube-Netzwerkarchitektur vor.
Am 21. Mai 2026 gab Zhipu den erfolgreichen Einsatz der ZCube-Architektur in der GLM-5.1-Produktionsumgebung bekannt, was zu erheblichen Leistungssteigerungen führte. Benchmark-Tests, die mit unveränderter GPU-Hardware, unverändertem Software-Stack und unveränderten Anwendungen durchgeführt wurden, zeigten, dass ZCube die Investitionskosten für Switches und optische Module um 33 % senkte, den durchschnittlichen GPU-Inferenzdurchsatz um 15 % steigerte und die Latenz des ersten Tokens (TTFT P99) um 40,6 % reduzierte. Dieser Durchbruch auf Systemebene schafft ein Gleichgewicht zwischen hoher Wirtschaftlichkeit und hoher Leistung.

Da sich derzeit die Inferenz mit langem Kontext und die Trennung von Prefill und Decode (PD) als Industriestandards etablieren, weist die knotenübergreifende Übertragung des KV-Caches eine erhebliche Asymmetrie auf. Herkömmliche ROFT-Architekturen (Rail-Optimized Fat-Tree), die auf dem Stapeln mehrschichtiger Switches beruhen, sind durch eine statische Topologie eingeschränkt, wodurch sie anfällig für lokale Hotspots und PFC-Gegendruck sind. Dies führt zu einem strukturellen Engpass, bei dem die Gesamtbandbreite zwar ausreicht, es jedoch häufig zu lokaler Überlastung kommt.

Um dieses Problem zu beheben, löst sich die ZCube-Architektur vom hierarchischen Stapeln traditioneller Clos-Designs. Sie verzichtet auf Switches der Spine-Ebene und nutzt stattdessen zwei Gruppen vollständig flacher Switches in einer bipartiten Graph-Verbindung, kombiniert mit dem Single-/Multi-Track-Hybrid-Zugriffsmechanismus von Dual-Port-NICs. Durch ihre einzigartige Routing-Strategie garantiert ZCube für jedes GPU-Paar einen dedizierten, optimalen Pfad, wodurch ein perfekter Lastausgleich auf struktureller Ebene erreicht und eine extrem groß angelegte Erweiterung auf Zehntausende oder sogar Hunderttausende von GPUs unterstützt wird.
Während der Umstellung der Produktionsumgebung meisterte das Team von Yuchen Network die Herausforderungen der Verkabelung und der Neugestaltung der Routingstrategie erfolgreich mithilfe automatisierter Steuerungs- und Verifizierungswerkzeuge und stellte so ein schnelles und stabiles Cluster-Upgrade sicher. Der derzeitige Cluster mit tausend Grafikkarten läuft seit über zwei Wochen stabil. Die erfolgreiche Einführung von ZCube markiert einen Wandel in der intelligenten Recheninfrastruktur von einer allgemeinen Vernetzung hin zu einer durch Modelldatenverkehr gesteuerten Systemzusammenarbeit. In Zukunft wird die tiefe Integration von Netzwerktopologie, Kommunikationsbibliotheken und Planungsstrategien zum zentralen Motor für die weitere Verbesserung der Token-Produktionseffizienz und die Senkung der Gesamtkosten für MaaS werden.
Verwandter Artikel
Suno fügt Wasserzeichen in Songs ein, während Rechtsstreitigkeiten andauern
Suno, die Plattform, die es Nutzern ermöglicht, KI-generierte Musik zu erstellen, hat neue Funktionen vorgestellt, um plattformproduzierte Tracks zu kennzeichnen, Downloads einzuschränken und die Community-Richtlinien zu aktualisieren, um unbefugte K
Musk räumt ein, dass Grok-Build Benutzercode geleakt hat, verspricht aber, alle historischen Daten zu löschen
Elon Musk wandte sich direkt an die Datenschutzkontroverse um Grok Build, beginnend mit einem einfachen „True“, um die Gültigkeit des Vorfalls zu bestätigen. Er versprach, dass alle zuvor bei SpaceXAI hochgeladenen Benutzerdaten unwiderruflich gelösc
U.S.-Aktien erreichen historischen Meilenstein, während KI- und Luft- und Raumfahrtriesen auf ihr Debüt als Billionen-Dollar-Unternehmen vorbereiten
Elon Musk, Sam Altman und Dario Amodei, drei Giganten des Technologiesektors, schreiten den Börsengängen ihrer jeweiligen Unternehmen voran. Mit SpaceX, OpenAI und Anthropic – drei Branchenriesen, die einer Bewertung von einer Billion US-Dollar nahek
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)
Die Inferenz großer Modelle verändert die KI-Infrastruktur grundlegend, und Innovationen in der Netzwerkarchitektur sind mittlerweile entscheidend, um das Potenzial der Hardware voll auszuschöpfen. Im September 2025 stellten Zhipu, Yuchen Network und die Tsinghua-Universität auf der ACM SIGCOMM 2025, einer führenden Konferenz im Bereich Netzwerktechnik, ihre Forschungsergebnisse zur ZCube-Netzwerkarchitektur vor.
Am 21. Mai 2026 gab Zhipu den erfolgreichen Einsatz der ZCube-Architektur in der GLM-5.1-Produktionsumgebung bekannt, was zu erheblichen Leistungssteigerungen führte. Benchmark-Tests, die mit unveränderter GPU-Hardware, unverändertem Software-Stack und unveränderten Anwendungen durchgeführt wurden, zeigten, dass ZCube die Investitionskosten für Switches und optische Module um 33 % senkte, den durchschnittlichen GPU-Inferenzdurchsatz um 15 % steigerte und die Latenz des ersten Tokens (TTFT P99) um 40,6 % reduzierte. Dieser Durchbruch auf Systemebene schafft ein Gleichgewicht zwischen hoher Wirtschaftlichkeit und hoher Leistung.

Da sich derzeit die Inferenz mit langem Kontext und die Trennung von Prefill und Decode (PD) als Industriestandards etablieren, weist die knotenübergreifende Übertragung des KV-Caches eine erhebliche Asymmetrie auf. Herkömmliche ROFT-Architekturen (Rail-Optimized Fat-Tree), die auf dem Stapeln mehrschichtiger Switches beruhen, sind durch eine statische Topologie eingeschränkt, wodurch sie anfällig für lokale Hotspots und PFC-Gegendruck sind. Dies führt zu einem strukturellen Engpass, bei dem die Gesamtbandbreite zwar ausreicht, es jedoch häufig zu lokaler Überlastung kommt.

Um dieses Problem zu beheben, löst sich die ZCube-Architektur vom hierarchischen Stapeln traditioneller Clos-Designs. Sie verzichtet auf Switches der Spine-Ebene und nutzt stattdessen zwei Gruppen vollständig flacher Switches in einer bipartiten Graph-Verbindung, kombiniert mit dem Single-/Multi-Track-Hybrid-Zugriffsmechanismus von Dual-Port-NICs. Durch ihre einzigartige Routing-Strategie garantiert ZCube für jedes GPU-Paar einen dedizierten, optimalen Pfad, wodurch ein perfekter Lastausgleich auf struktureller Ebene erreicht und eine extrem groß angelegte Erweiterung auf Zehntausende oder sogar Hunderttausende von GPUs unterstützt wird.
Während der Umstellung der Produktionsumgebung meisterte das Team von Yuchen Network die Herausforderungen der Verkabelung und der Neugestaltung der Routingstrategie erfolgreich mithilfe automatisierter Steuerungs- und Verifizierungswerkzeuge und stellte so ein schnelles und stabiles Cluster-Upgrade sicher. Der derzeitige Cluster mit tausend Grafikkarten läuft seit über zwei Wochen stabil. Die erfolgreiche Einführung von ZCube markiert einen Wandel in der intelligenten Recheninfrastruktur von einer allgemeinen Vernetzung hin zu einer durch Modelldatenverkehr gesteuerten Systemzusammenarbeit. In Zukunft wird die tiefe Integration von Netzwerktopologie, Kommunikationsbibliotheken und Planungsstrategien zum zentralen Motor für die weitere Verbesserung der Token-Produktionseffizienz und die Senkung der Gesamtkosten für MaaS werden.
Suno fügt Wasserzeichen in Songs ein, während Rechtsstreitigkeiten andauern
Suno, die Plattform, die es Nutzern ermöglicht, KI-generierte Musik zu erstellen, hat neue Funktionen vorgestellt, um plattformproduzierte Tracks zu kennzeichnen, Downloads einzuschränken und die Community-Richtlinien zu aktualisieren, um unbefugte K
Musk räumt ein, dass Grok-Build Benutzercode geleakt hat, verspricht aber, alle historischen Daten zu löschen
Elon Musk wandte sich direkt an die Datenschutzkontroverse um Grok Build, beginnend mit einem einfachen „True“, um die Gültigkeit des Vorfalls zu bestätigen. Er versprach, dass alle zuvor bei SpaceXAI hochgeladenen Benutzerdaten unwiderruflich gelösc
U.S.-Aktien erreichen historischen Meilenstein, während KI- und Luft- und Raumfahrtriesen auf ihr Debüt als Billionen-Dollar-Unternehmen vorbereiten
Elon Musk, Sam Altman und Dario Amodei, drei Giganten des Technologiesektors, schreiten den Börsengängen ihrer jeweiligen Unternehmen voran. Mit SpaceX, OpenAI und Anthropic – drei Branchenriesen, die einer Bewertung von einer Billion US-Dollar nahek











