Die Jagd nach KI-Rechenleistung: Ist Cerebras der nächste große Durchbruch?

Die wachsende Nachfrage nach Rechenleistung für den Betrieb von KI-Modellen nimmt weiter zu, doch die Akteure der Branche stehen vor zwei kritischen Hürden: der Beschaffung der geeigneten Hardware und deren Bereitstellung in Rechenzentren, um Einnahmen zu generieren.

General Compute, ein neuer, auf Inferenz spezialisierter Neocloud-Anbieter, der sich auf die Bereitstellungsphase konzentriert, in der Modelle auf Nutzer reagieren, anstatt trainiert zu werden, bietet Lösungen, die die sich entwickelnde Richtung des KI-Ökosystems verdeutlichen. Diese strategischen Vorteile ermöglichten eine Seed-Finanzierungsrunde in Höhe von 15 Millionen US-Dollar bei einer Bewertung nach der Finanzierung (Post-Money) von 60 Millionen US-Dollar, angeführt von FUSE VC, mit zusätzlicher Beteiligung von Carya Venture Partners und Village Global Ventures.

Die Identifizierung des optimalen Chips ist die erste Herausforderung. Obwohl die Nachfrage nach GPUs in die Höhe geschossen ist, wird zunehmend anerkannt, dass sie nicht die effizienteste Wahl für den Betrieb trainierter KI-Modelle sind. Die Rechenanforderungen für die Inferenz unterscheiden sich erheblich von denen des Trainings, was zur Entwicklung einer neuen Klasse von Chips geführt hat, die speziell für diesen Zweck entwickelt wurden. Nvidias Übernahme von Groq im Dezember für 20 Milliarden US-Dollar und der Börsengang von Cerebras für 57 Milliarden US-Dollar letzte Woche unterstreichen diesen Wandel.

Angesichts von Kapazitätsengpässen bei Groq und Cerebras haben General Compute Co-Gründer, CEO Finn Puklowski und CTO Jason Goodison, eine Alternative identifiziert. Sie haben eine Partnerschaft mit SambaNova eingegangen, einem von Intel unterstützten Chip-Hersteller, der auf Inferenzlösungen spezialisiert ist und in Silicon Valley weniger Aufmerksamkeit erhalten hat.

Diese Dynamik könnte sich ändern, wenn SambaNova später in diesem Jahr seine neuen Chips vorstellt. Die Architektur bietet mehr Flexibilität und nutzt mehr Speicher, um Kontext während der Inferenzberechnungen zu speichern. SambaNova behauptet, dass diese Chips nicht nur GPUs, sondern auch spezialisierte Hardware von Wettbewerbern wie Groq und Cerebras übertreffen. Laut Puklowski werden die neuen Chips Geschwindigkeiten von 600 bis 700 Tokens pro Sekunde erreichen, im Vergleich zu etwa 250 Tokens pro Sekunde für Standard-GPUs.

General Compute hat einen Auftrag über 300 Millionen US-Dollar an SambaNavas SN50-Chips platziert und zielt darauf ab, der erste Neocloud-Anbieter zu sein, der sie bereitstellt.

Diese Chips adressieren auch die zweite große Herausforderung: den Standort der Bereitstellung. Da sie luftgekühlt statt wassergekühlt sind und weniger Strom verbrauchen, können sie in bestehende Rechenzentren integriert werden, ohne dass neue Infrastrukturinvestitionen erforderlich sind.

Puklowski strebt Colocation-Vereinbarungen an, bei denen General Compute seine Hardware in Einrichtungen Dritter installiert. Diese Partnerschaften gehen über traditionelle Rechenzentrumsanbieter hinaus und schließen auch Krypto-Miner ein, die versuchen, ihre Infrastruktur umzunutzen, insbesondere da die Kosten für das Mining von Bitcoin oft dessen Marktwert übersteigen.

General Compute hat seine Cloud-Dienstleistung letzte Woche gestartet und behauptet, dass sie derzeit die schnellste Leistung für MiniMax 2.7 bietet, ein leistungsstarkes Open-Source-Großes Sprachmodell.

Joe Hasselmann, ein Venture-Investor, der Groq im Jahr 2021 in den frühen Phasen des Inferenz-Booms unterstützte, hat in diesem Jahr einen neuen Fonds ins Leben gerufen, Evercrest Capital Partners, der sich auf KI konzentriert. Er hat General Compute zu seiner ersten Investition gemacht. Hasselmann sieht Parallelen zwischen SambaNavas Partnerschaft mit General Compute und Coreweaves Beziehung zu Nvidia sowie der Kombination von Groqs Chip-Herstellung mit seinen früheren Cloud-Angeboten.

„Sie benötigen eine vielfältige Kundenbasis, die ihre Chips in hochwachsenden Umgebungen platziert“, bemerkte Hasselmann. „Genau wie General Compute auf SambaNova setzt, setzt SambaNova auf General Compute.“

Die entscheidende Frage bleibt, welche Computerarchitektur in der Zukunft der KI den größten Wert einfangen wird. Inferenz-Clouds stellen eine implizete Wette auf eine Landschaft mit mehreren Modellen und Agenten dar, in der kein einzelner Anbieter dominiert und Geschwindigkeit sowie Kosten die primären Wettbewerbsfaktoren werden. Dies spiegelt sich in OpenRouters kürzlich abgeschlossener Series-B-Finanzierung in Höhe von 113 Millionen US-Dollar wider, die seine Fähigkeit hervorhebt, Kunden den Zugang zu mehreren Modellen zu bieten, um die Token-Ausgaben zu optimieren.

Geschwindigkeit ist für Preisgestaltung und Leistungsfähigkeit entscheidend. Puklowski zielt darauf ab, stundenlange Arbeitslasten von Coding-Agenten auf fünf oder zehn Minuten zu reduzieren und Audio-Agenten für den Kundenservice wirtschaftlicher zu machen, indem eine schnellere Inferenz für effektive Gespräche ermöglicht wird.

„Wenn Sie ChatGPT verwenden und es 50 Tokens pro Sekunde generiert, ist das immer noch viel schneller als die menschliche Lesegeschwindigkeit“, sagte Puklowski gegenüber TechCrunch. „Doch mit dem Wandel zu Agent-zu-Agent-Interaktionen, bei denen Agenten in unserem Namen lesen oder Datenbanken abfragen, müssen sie mit viel höheren Geschwindigkeiten operieren.“