Heim
Tongyi Lab stellt den FIPO-Algorithmus vor: Die Modellinferenz mit 32B übertrifft o1-mini

Das Intelligent Computing-Team von Tongyi Lab hat heute einen neuen Algorithmus für die Nachtrainierung großer Sprachmodelle vorgestellt – FIPO (Future-KL Influenced Policy Optimization). Dieser Algorithmus führt einen neuartigen „Future-KL“-Mechanismus ein, der die häufige technische Herausforderung der „Stagnation der Inferenzlänge“ beim Training mit reinem verstärkendem Lernen (Pure RL) effektiv löst.
Beim Training für das Schlussfolgern aus langen Texten und die komplexe logische Ausrichtung gelingt es dem traditionellen verstärkenden Lernen oft nicht, wichtige Entscheidungspunkte in langen Sequenzen präzise zu identifizieren. Der vom Tongyi-Team entwickelte FIPO-Algorithmus wendet eine differenzierte Belohnungsverteilung auf Schlüssel-Token an und regt das Modell so dazu an, bei der Generierung von Gedankengängen (Chain-of-Thought, CoT) einen stärker vorausschauenden Ansatz zu verfolgen.
Experimentelle Ergebnisse zeigen, dass in einer reinen Reinforcement-Learning-Konfiguration mit einem Modell im 32B-Maßstab das Modell mit dem FIPO-Algorithmus bereits Modelle ähnlicher Größe wie DeepSeek-Zero-MATH und OpenAI’s o1-mini übertroffen hat, was einen bedeutenden Fortschritt bei den Fähigkeiten zur logischen Schlussfolgerung und mathematischen Berechnung einheimischer Großmodelle darstellt.
Derzeit verlagert sich der Wettbewerb unter den großen Modellen vom Umfang des Vortrainings hin zur tiefgreifenden Angleichung zum Zeitpunkt der Inferenz. Die Veröffentlichung von FIPO bietet nicht nur eine neue Möglichkeit, die Qualität von „Denkprozessen“ in Modellen für logisches Schlussfolgern zu bewerten, sondern signalisiert auch, dass die Open-Source-Community und führende inländische Forschungslabore auf ihrem Weg zu Schlussfolgerungsmodellen von Weltklasse allmählich einen eigenständigen technologischen Weg einschlagen.
Verwandter Artikel
Schwedisches KI-Startup Lovable Eyes: Bewertung von 13,2 Milliarden US-Dollar nach großer Finanzierungsrunde
Während KI-gestützte Coding-Tools an Popularität gewinnen, hat das schwedische Startup Lovable eine bedeutende Finanzierungsrunde abgeschlossen. Das Unternehmen strebt danach, 3 Milliarden US-Dollar einzusammeln, was seine Bewertung potenziell auf 13
Google testet den Remy AI Agent für Gemini, da der Fokus auf die Benutzerkontrolle verlagert wird
Laut Business Insider testet Google Remy, einen neuen KI-Personalagenten für Gemini. Dieses Tool soll Aufgaben im Auftrag von Nutzern ausführen und sowohl professionelle Arbeitsabläufe als auch tägliche Routinen optimieren.Derzeit wird Remy in einer
So beheben Sie Core Web Vitals für bessere SEO-Rankings
Berichtskartenkommentare mit KI-Tools optimierenEinführungKI-Tools zur Generierung von BerichtskartenkommentarenMagic SchoolAlmanac AIChat GPTNutzung von Magic School zur Generierung von BerichtskartenkommentarenAnmeldung bei Magic SchoolAuswahl des
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)

Das Intelligent Computing-Team von Tongyi Lab hat heute einen neuen Algorithmus für die Nachtrainierung großer Sprachmodelle vorgestellt – FIPO (Future-KL Influenced Policy Optimization). Dieser Algorithmus führt einen neuartigen „Future-KL“-Mechanismus ein, der die häufige technische Herausforderung der „Stagnation der Inferenzlänge“ beim Training mit reinem verstärkendem Lernen (Pure RL) effektiv löst.
Beim Training für das Schlussfolgern aus langen Texten und die komplexe logische Ausrichtung gelingt es dem traditionellen verstärkenden Lernen oft nicht, wichtige Entscheidungspunkte in langen Sequenzen präzise zu identifizieren. Der vom Tongyi-Team entwickelte FIPO-Algorithmus wendet eine differenzierte Belohnungsverteilung auf Schlüssel-Token an und regt das Modell so dazu an, bei der Generierung von Gedankengängen (Chain-of-Thought, CoT) einen stärker vorausschauenden Ansatz zu verfolgen.
Experimentelle Ergebnisse zeigen, dass in einer reinen Reinforcement-Learning-Konfiguration mit einem Modell im 32B-Maßstab das Modell mit dem FIPO-Algorithmus bereits Modelle ähnlicher Größe wie DeepSeek-Zero-MATH und OpenAI’s o1-mini übertroffen hat, was einen bedeutenden Fortschritt bei den Fähigkeiten zur logischen Schlussfolgerung und mathematischen Berechnung einheimischer Großmodelle darstellt.
Derzeit verlagert sich der Wettbewerb unter den großen Modellen vom Umfang des Vortrainings hin zur tiefgreifenden Angleichung zum Zeitpunkt der Inferenz. Die Veröffentlichung von FIPO bietet nicht nur eine neue Möglichkeit, die Qualität von „Denkprozessen“ in Modellen für logisches Schlussfolgern zu bewerten, sondern signalisiert auch, dass die Open-Source-Community und führende inländische Forschungslabore auf ihrem Weg zu Schlussfolgerungsmodellen von Weltklasse allmählich einen eigenständigen technologischen Weg einschlagen.
Schwedisches KI-Startup Lovable Eyes: Bewertung von 13,2 Milliarden US-Dollar nach großer Finanzierungsrunde
Während KI-gestützte Coding-Tools an Popularität gewinnen, hat das schwedische Startup Lovable eine bedeutende Finanzierungsrunde abgeschlossen. Das Unternehmen strebt danach, 3 Milliarden US-Dollar einzusammeln, was seine Bewertung potenziell auf 13
So beheben Sie Core Web Vitals für bessere SEO-Rankings
Berichtskartenkommentare mit KI-Tools optimierenEinführungKI-Tools zur Generierung von BerichtskartenkommentarenMagic SchoolAlmanac AIChat GPTNutzung von Magic School zur Generierung von BerichtskartenkommentarenAnmeldung bei Magic SchoolAuswahl des











