Heim
Google und NVIDIA veröffentlichen „DiffusionGemma“ als Open-Source-Projekt und beschleunigen die Inferenz auf einer einzelnen Grafikkarte um das Vierfache
Am 10. Juni 2026 stellte Google „DiffusionGemma“ vor, ein experimentelles Open-Source-Sprachmodell, das mit dem traditionellen autoregressiven Paradigma bricht, bei dem Text Wort für Wort generiert wird. Es leistet Pionierarbeit bei der Nutzung von Diffusionsmechanismen aus der Bild-KI zur Textgenerierung, wobei es von zufälligem Rauschen ausgeht und iterativ verfeinert wird, um pro Schritt 256 Token-Blöcke parallel auszugeben.

Was die Hardware-Leistung angeht, ermöglichen die tiefgreifenden Optimierungen von NVIDIA, dass das Modell im Single-GPU-Einzelbenutzermodus fast viermal schneller läuft als vergleichbare traditionelle Modelle. Auf einer H100-GPU erreicht es Ausgabegeschwindigkeiten von bis zu 1.000 Token pro Sekunde für eine einzelne Anfrage, und selbst auf High-End-GPUs für Endverbraucher wie der RTX 5090 kann es 700 Token pro Sekunde überschreiten.
DiffusionGemma verfügt über 26 Milliarden Parameter und nutzt eine „Mixture-of-Experts“-Architektur (MoE), bei der pro Schritt nur 3,8 Milliarden Parameter aktiviert werden. Zwar bleiben die Qualität und Genauigkeit der Textgenerierung bei Standard-Benchmarks leicht hinter den traditionellen Modellen der Gemma-4-Serie zurück, doch überwindet ihr einzigartiges „Full-Block-Awareness“ die Beschränkung autoregressiver Modelle auf rückwärtsgerichtete Verarbeitung. Da sich alle Token während der Generierung gegenseitig referenzieren können, zeichnet es sich bei Aufgaben mit nichtlinearen und strukturierten Daten aus, wie beispielsweise Textvervollständigung, Code-Auffüllung, Sudoku-Lösung und Verarbeitung von Aminosäuresequenzen.

Die Modellgewichte sind nun auf Hugging Face unter der Apache-2.0-Lizenz als Open Source verfügbar und lassen sich nahtlos mit gängigen Inferenz-Frameworks wie vLLM und MLX nutzen. Diese Entwicklung beseitigt nicht nur Speicherbandbreitenbeschränkungen bei der GPU-Rechenleistung, sondern eröffnet auch einen neuen technischen Weg für zukünftige KI-Anwendungen im Bereich komplexer Logik und nichtlinearer Textgenerierung.
Verwandter Artikel
MiniMax stellt 10x-Teamprogramm vor, um globale KI-Experten zu motivieren
MiniMax (Xiyu Technology), das General Artificial Intelligence Lab, hat offiziell „10x Team“ gestartet, eine globale Initiative zur Talentsuche und Zusammenarbeit. Dieses Programm zielt darauf ab, führende Experten aus verschiedenen Branchen zu rekru
Südkorea beginnt mit dem Bau des nationalen KI-Rechenzentrums und investiert 2,5 Billionen Won mit einem Zieljahr von 2028
Der südkoreanische Ableger von EtNews berichtet, dass am 3. August im Solar City-Datenzentrumspark in Sunan, Provinz Jeollanam-do, der Grundstein für das Korea AI Computing Center (KOACC) gelegt wurde. Mit einer Gesamtinvestition von 2,5 Billionen KR
Sechs Tech-Giganten unterstützen die Linux Foundation mit 12,5 Millionen US-Dollar, um das Rauschen bei KI-Schwachstellen zu bekämpfen
Um der Flut von Sicherheitsberichten niedriger Qualität, die durch KI-Automatisierungstools erzeugt werden, zu begegnen, haben sechs große Technologieunternehmen – Anthropic, Amazon (AWS), GitHub, Google, Microsoft und OpenAI – gemeinsam 12,5 Million
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)
Am 10. Juni 2026 stellte Google „DiffusionGemma“ vor, ein experimentelles Open-Source-Sprachmodell, das mit dem traditionellen autoregressiven Paradigma bricht, bei dem Text Wort für Wort generiert wird. Es leistet Pionierarbeit bei der Nutzung von Diffusionsmechanismen aus der Bild-KI zur Textgenerierung, wobei es von zufälligem Rauschen ausgeht und iterativ verfeinert wird, um pro Schritt 256 Token-Blöcke parallel auszugeben.

Was die Hardware-Leistung angeht, ermöglichen die tiefgreifenden Optimierungen von NVIDIA, dass das Modell im Single-GPU-Einzelbenutzermodus fast viermal schneller läuft als vergleichbare traditionelle Modelle. Auf einer H100-GPU erreicht es Ausgabegeschwindigkeiten von bis zu 1.000 Token pro Sekunde für eine einzelne Anfrage, und selbst auf High-End-GPUs für Endverbraucher wie der RTX 5090 kann es 700 Token pro Sekunde überschreiten.
DiffusionGemma verfügt über 26 Milliarden Parameter und nutzt eine „Mixture-of-Experts“-Architektur (MoE), bei der pro Schritt nur 3,8 Milliarden Parameter aktiviert werden. Zwar bleiben die Qualität und Genauigkeit der Textgenerierung bei Standard-Benchmarks leicht hinter den traditionellen Modellen der Gemma-4-Serie zurück, doch überwindet ihr einzigartiges „Full-Block-Awareness“ die Beschränkung autoregressiver Modelle auf rückwärtsgerichtete Verarbeitung. Da sich alle Token während der Generierung gegenseitig referenzieren können, zeichnet es sich bei Aufgaben mit nichtlinearen und strukturierten Daten aus, wie beispielsweise Textvervollständigung, Code-Auffüllung, Sudoku-Lösung und Verarbeitung von Aminosäuresequenzen.

Die Modellgewichte sind nun auf Hugging Face unter der Apache-2.0-Lizenz als Open Source verfügbar und lassen sich nahtlos mit gängigen Inferenz-Frameworks wie vLLM und MLX nutzen. Diese Entwicklung beseitigt nicht nur Speicherbandbreitenbeschränkungen bei der GPU-Rechenleistung, sondern eröffnet auch einen neuen technischen Weg für zukünftige KI-Anwendungen im Bereich komplexer Logik und nichtlinearer Textgenerierung.
MiniMax stellt 10x-Teamprogramm vor, um globale KI-Experten zu motivieren
MiniMax (Xiyu Technology), das General Artificial Intelligence Lab, hat offiziell „10x Team“ gestartet, eine globale Initiative zur Talentsuche und Zusammenarbeit. Dieses Programm zielt darauf ab, führende Experten aus verschiedenen Branchen zu rekru
Südkorea beginnt mit dem Bau des nationalen KI-Rechenzentrums und investiert 2,5 Billionen Won mit einem Zieljahr von 2028
Der südkoreanische Ableger von EtNews berichtet, dass am 3. August im Solar City-Datenzentrumspark in Sunan, Provinz Jeollanam-do, der Grundstein für das Korea AI Computing Center (KOACC) gelegt wurde. Mit einer Gesamtinvestition von 2,5 Billionen KR
Sechs Tech-Giganten unterstützen die Linux Foundation mit 12,5 Millionen US-Dollar, um das Rauschen bei KI-Schwachstellen zu bekämpfen
Um der Flut von Sicherheitsberichten niedriger Qualität, die durch KI-Automatisierungstools erzeugt werden, zu begegnen, haben sechs große Technologieunternehmen – Anthropic, Amazon (AWS), GitHub, Google, Microsoft und OpenAI – gemeinsam 12,5 Million











