Heim
Liquid AI veröffentlicht das hybride Expertenmodell LFM2.5 als Open-Source-Software für Edge-AI
Das KI-Startup Liquid AI hat heute sein neuestes großes Edge-Modell, LFM2.5-8B-A1B , offiziell veröffentlicht und als Open Source zur Verfügung gestellt. Das Modell wurde für den Aufruf von Tools und die Ausführung komplexer Anweisungen auf handelsüblicher Hardware entwickelt und steigert die Leistung bei Schlussfolgerungen und Inferenz auf Edge-Geräten, während die Rechenkosten extrem niedrig bleiben.
Architektonisch basiert es auf einem spärlichen „Mixture-of-Experts“-Design (MoE) mit insgesamt 8,3 Milliarden Parametern. Dank dieser Spärlichkeit werden pro Token nur 1,5 Milliarden Parameter aktiviert, was einen reibungslosen lokalen Betrieb auf Smartphones, Laptops und ähnlichen Geräten ermöglicht.

Erweiterter Kontext und stärkere Schlussfolgerungsfähigkeit
Im Vergleich zu seinem Vorgänger erweitert LFM2.5 das Kontextfenster von 32K auf 128K Token und erhöht die Vortrainingsdaten von 12T auf 38T Token. Als reines Inferenzmodell erzeugt es eine explizite Argumentationskette, bevor es die endgültige Antwort liefert. Sein hochkomprimiertes Vokabular verarbeitet effizient neun Sprachen, darunter Chinesisch und Arabisch.
Um logische Endlosschleifen und Halluzinationen bei langen Schlussfolgerungen zu reduzieren, wandte das Entwicklungsteam während des Trainings zweistufiges Reinforcement Learning (RL) an. Die Präferenzoptimierung reduziert effektiv „Endlosschleifen“ bei langkettigen Schlussfolgerungen, während ein spezieller Anti-Halluzinations-Belohnungsmechanismus es dem Modell ermöglicht, Fragen außerhalb seiner Wissensbasis aktiv abzulehnen.
Leistungsstarke Edge-Performance und breite Ökosystemunterstützung
In puncto Leistung hat LFM2.5 explosive Fortschritte erzielt. Seine Ergebnisse bei Benchmarks für logisches Schlussfolgern und Anti-Halluzination übertreffen seinen Vorgänger bei weitem, und es kann sogar mit größeren Modellen beim Befolgen von Anweisungen mithalten. Beim Aufrufen von Tools gibt das Modell standardmäßig effiziente Python-Funktionsaufrufe aus und unterstützt den nahtlosen Wechsel zum JSON-Format über Systemaufforderungen.
Das Modell wurde am Tag der Veröffentlichung von den wichtigsten Inferenz-Frameworks vollständig unterstützt, darunter llama.cpp, MLX, vLLM und SGLang. In Hardwaretests erreichte es Dekodierungsgeschwindigkeiten von bis zu 253 Byte pro Sekunde auf dem M5 Max-Chip und etwa 30 Byte pro Sekunde auf Mobilgeräten, wodurch Datenschutz und Effizienz für Edge-Bereitstellungen perfekt in Einklang gebracht werden.
Verwandter Artikel
U.S.-Aktien erreichen historischen Meilenstein, während KI- und Luft- und Raumfahrtriesen auf ihr Debüt als Billionen-Dollar-Unternehmen vorbereiten
Elon Musk, Sam Altman und Dario Amodei, drei Giganten des Technologiesektors, schreiten den Börsengängen ihrer jeweiligen Unternehmen voran. Mit SpaceX, OpenAI und Anthropic – drei Branchenriesen, die einer Bewertung von einer Billion US-Dollar nahek
Schwedisches KI-Startup Lovable Eyes: Bewertung von 13,2 Milliarden US-Dollar nach großer Finanzierungsrunde
Während KI-gestützte Coding-Tools an Popularität gewinnen, hat das schwedische Startup Lovable eine bedeutende Finanzierungsrunde abgeschlossen. Das Unternehmen strebt danach, 3 Milliarden US-Dollar einzusammeln, was seine Bewertung potenziell auf 13
Google testet den Remy AI Agent für Gemini, da der Fokus auf die Benutzerkontrolle verlagert wird
Laut Business Insider testet Google Remy, einen neuen KI-Personalagenten für Gemini. Dieses Tool soll Aufgaben im Auftrag von Nutzern ausführen und sowohl professionelle Arbeitsabläufe als auch tägliche Routinen optimieren.Derzeit wird Remy in einer
Empfehlungen zu verwandten Spezialthemen
Kommentare (1)
Das KI-Startup Liquid AI hat heute sein neuestes großes Edge-Modell,
Architektonisch basiert es auf einem spärlichen „Mixture-of-Experts“-Design (MoE) mit insgesamt 8,3 Milliarden Parametern. Dank dieser Spärlichkeit werden pro Token nur 1,5 Milliarden Parameter aktiviert, was einen reibungslosen lokalen Betrieb auf Smartphones, Laptops und ähnlichen Geräten ermöglicht.

Erweiterter Kontext und stärkere Schlussfolgerungsfähigkeit
Im Vergleich zu seinem Vorgänger erweitert LFM2.5 das Kontextfenster von 32K auf 128K Token und erhöht die Vortrainingsdaten von 12T auf 38T Token. Als reines Inferenzmodell erzeugt es eine explizite Argumentationskette, bevor es die endgültige Antwort liefert. Sein hochkomprimiertes Vokabular verarbeitet effizient neun Sprachen, darunter Chinesisch und Arabisch.
Um logische Endlosschleifen und Halluzinationen bei langen Schlussfolgerungen zu reduzieren, wandte das Entwicklungsteam während des Trainings zweistufiges Reinforcement Learning (RL) an. Die Präferenzoptimierung reduziert effektiv „Endlosschleifen“ bei langkettigen Schlussfolgerungen, während ein spezieller Anti-Halluzinations-Belohnungsmechanismus es dem Modell ermöglicht, Fragen außerhalb seiner Wissensbasis aktiv abzulehnen.
Leistungsstarke Edge-Performance und breite Ökosystemunterstützung
In puncto Leistung hat LFM2.5 explosive Fortschritte erzielt. Seine Ergebnisse bei Benchmarks für logisches Schlussfolgern und Anti-Halluzination übertreffen seinen Vorgänger bei weitem, und es kann sogar mit größeren Modellen beim Befolgen von Anweisungen mithalten. Beim Aufrufen von Tools gibt das Modell standardmäßig effiziente Python-Funktionsaufrufe aus und unterstützt den nahtlosen Wechsel zum JSON-Format über Systemaufforderungen.
Das Modell wurde am Tag der Veröffentlichung von den wichtigsten Inferenz-Frameworks vollständig unterstützt, darunter llama.cpp, MLX, vLLM und SGLang. In Hardwaretests erreichte es Dekodierungsgeschwindigkeiten von bis zu 253 Byte pro Sekunde auf dem M5 Max-Chip und etwa 30 Byte pro Sekunde auf Mobilgeräten, wodurch Datenschutz und Effizienz für Edge-Bereitstellungen perfekt in Einklang gebracht werden.
U.S.-Aktien erreichen historischen Meilenstein, während KI- und Luft- und Raumfahrtriesen auf ihr Debüt als Billionen-Dollar-Unternehmen vorbereiten
Elon Musk, Sam Altman und Dario Amodei, drei Giganten des Technologiesektors, schreiten den Börsengängen ihrer jeweiligen Unternehmen voran. Mit SpaceX, OpenAI und Anthropic – drei Branchenriesen, die einer Bewertung von einer Billion US-Dollar nahek
Schwedisches KI-Startup Lovable Eyes: Bewertung von 13,2 Milliarden US-Dollar nach großer Finanzierungsrunde
Während KI-gestützte Coding-Tools an Popularität gewinnen, hat das schwedische Startup Lovable eine bedeutende Finanzierungsrunde abgeschlossen. Das Unternehmen strebt danach, 3 Milliarden US-Dollar einzusammeln, was seine Bewertung potenziell auf 13











