Option
Heim
Nachricht
Pruna AI enthüllt Open-Source-AI-Modelloptimierungsrahmen

Pruna AI enthüllt Open-Source-AI-Modelloptimierungsrahmen

10. April 2025
222

Pruna AI, ein europäisches Startup, das sich auf die Entwicklung von Kompressionsalgorithmen für KI-Modelle konzentriert, wird am Donnerstag sein Optimierungs-Framework als Open Source veröffentlichen. Das Unternehmen hat an einem Framework gearbeitet, das verschiedene Effizienztechniken wie Caching, Pruning, Quantisierung und Destillation integriert, um die Leistung von KI-Modellen zu verbessern.

John Rachwan, Mitbegründer und CTO von Pruna AI, erklärte gegenüber TechCrunch, dass ihr Framework diese Methoden nicht nur anwendet, sondern auch den Prozess des Speicherns, Ladens und Evaluierens komprimierter Modelle standardisiert. Dies ermöglicht es Nutzern, mögliche Qualitätsverluste und die durch Kompression erzielten Leistungsverbesserungen zu bewerten.

Rachwan verglich die Rolle von Pruna AI mit der von Hugging Face, das die Nutzung von Transformern und Diffusoren standardisiert hat. „Wir tun dasselbe, aber für Effizienzmethoden“, betonte er und hob die Standardisierung der Anwendung und Verwaltung dieser Methoden hervor.

Große KI-Labore haben bereits ähnliche Kompressionstechniken übernommen. Zum Beispiel hat OpenAI Destillation genutzt, um schnellere Versionen seiner Modelle wie GPT-4 Turbo zu entwickeln. Ebenso hat Black Forest Labs Flux.1-schnell erschaffen, eine destillierte Version ihres Flux.1-Modells. Destillation folgt einem „Lehrer-Schüler“-Ansatz, bei dem die Ausgaben eines größeren Modells genutzt werden, um ein kleineres, effizienteres Modell zu trainieren.

Rachwan wies darauf hin, dass große Unternehmen solche Tools oft intern entwickeln, während die Open-Source-Community sich in der Regel auf einzelne Methoden konzentriert. „Aber man findet kein Tool, das alle zusammenführt, sie einfach nutzbar macht und miteinander kombiniert“, sagte er und unterstrich den einzigartigen Mehrwert von Pruna AI.

Von links nach rechts: Rayan Nait Mazi, Bertrand Charpentier, John Rachwan, Stephan GünnemannBildnachweis: Pruna AI
Obwohl das Framework von Pruna AI eine Vielzahl von Modellen unterstützt, darunter große Sprachmodelle, Diffusionsmodelle, Sprach-zu-Text-Modelle und Computervisionsmodelle, konzentriert sich das Unternehmen derzeit auf Modelle für die Bild- und Videogenerierung. Zu den bestehenden Nutzern von Pruna AI gehören Scenario und PhotoRoom.

Zusätzlich zur Open-Source-Version bietet Pruna AI eine Enterprise-Edition mit erweiterten Optimierungsfunktionen an, einschließlich eines kommenden Kompressionsagenten. Rachwan beschrieb diesen Agenten als ein Tool, das automatisch die beste Kompressionskombination für ein Modell basierend auf den vom Nutzer spezifizierten Leistungs- und Genauigkeitsanforderungen findet.

Die Pro-Version von Pruna AI wird stundenweise abgerechnet, ähnlich wie die Anmietung einer GPU auf Cloud-Diensten wie AWS. Durch die Optimierung von Modellen können Nutzer die Inferenzkosten erheblich senken. Zum Beispiel gelang es Pruna AI, ein Llama-Modell auf ein Achtel seiner ursprünglichen Größe zu komprimieren, mit minimalem Qualitätsverlust, was das Potenzial für Kosteneinsparungen verdeutlicht.

Das Unternehmen sicherte sich kürzlich eine Seed-Finanzierung in Höhe von 6,5 Millionen US-Dollar von Investoren wie EQT Ventures, Daphni, Motier Ventures und Kima Ventures. Pruna AI betrachtet sein Kompressions-Framework als strategische Investition, die sich durch reduzierte Betriebskosten selbst amortisieren kann.

Verwandter Artikel
Sechs Tech-Giganten unterstützen die Linux Foundation mit 12,5 Millionen US-Dollar, um das Rauschen bei KI-Schwachstellen zu bekämpfen Sechs Tech-Giganten unterstützen die Linux Foundation mit 12,5 Millionen US-Dollar, um das Rauschen bei KI-Schwachstellen zu bekämpfen Um der Flut von Sicherheitsberichten niedriger Qualität, die durch KI-Automatisierungstools erzeugt werden, zu begegnen, haben sechs große Technologieunternehmen – Anthropic, Amazon (AWS), GitHub, Google, Microsoft und OpenAI – gemeinsam 12,5 Million
Musk erwog, OpenAI an seine Kinder zu übergeben, während Altman aussagte Musk erwog, OpenAI an seine Kinder zu übergeben, während Altman aussagte Diesen Morgen trat OpenAI-CEO Sam Altman vor Gericht, um sich zur Klage von Ex-Mitbegründer Elon Musk zu äußern, die die Unternehmensstruktur der Firma anfechtet.Auf die Frage nach Musks Behauptung, andere Mitbegründer hätten „eine Wohltätigkeitsorg
Sam Altman löst eine Debatte über die Verlangsamung der KI-Entwicklung aus Sam Altman löst eine Debatte über die Verlangsamung der KI-Entwicklung aus Bei Apple Podcasts anhörenBei Spotify anhörenDer CEO von OpenAI, Sam Altman, hat kürzlich vorgeschlagen, es könnte an der Zeit sein, „das Tempo der KI-Entwicklung zu drosseln“, um der Gesellschaft Zeit zu geben, „sich um einige dieser neuen Fähigkei
Empfehlungen zu verwandten Spezialthemen
Geschäft Die besten KI-Tools zur Wettbewerbsanalyse für kleine Unternehmen
Die besten KI-Tools zur Wettbewerbsanalyse für kleine Unternehmen

Die besten und am besten bewerteten KI-Tools für die Wettbewerbsanalyse für kleine Unternehmen im Jahr 2026! XIX.AI hat eine äußerst leistungsstarke, bahnbrechende Auswahl zusammengestellt, die wöchentlich anhand strenger Praxistests und detaillierter Rankings aktualisiert wird. Hier finden Sie einen umfassenden Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, der Ihnen dabei hilft, die unverzichtbaren Tools zu identifizieren, die Ihre Produktivität steigern und Ihnen einen Wettbewerbsvorteil verschaffen. Entdecken Sie jetzt das perfekte Tool für sich!

9 Tools
xix.ai
Bildbearbeitung Photoshop-KI-Retuschierungstools für E-Commerce-Bekleidung, Hautbereinigung und Farbkonstanz
Photoshop-KI-Retuschierungstools für E-Commerce-Bekleidung, Hautbereinigung und Farbkonstanz

2026 Neueste beste Photoshop-KI-Retuschierungstools für E-Commerce-Bekleidung, Hautbereinigung und Farbkonsistenz! Diese hoch bewertete kuratierte Liste bietet leistungsstarke, bahnbrechende Lösungen, die Ihnen helfen, die Schreibeffizienz zu steigern, die Content-Erstellung zu optimieren und mühelos perfekte visuelle Ergebnisse zu erzielen. Jedes Tool wurde durch wöchentlich aktualisierte Rankings mit echten Tests geprüft, einschließlich detaillierter Vergleiche zwischen kostenlosen und kostenpflichtigen Versionen. Unterstützt von XIX.AI ist es der unverzichtbare Leitfaden für alle, die ihre KI-Vorteile nutzen möchten. Jetzt entdecken!

10 Tools
xix.ai
Prompt Die besten KI-Prompt-Bibliotheken für ChatGPT-Workflows
Die besten KI-Prompt-Bibliotheken für ChatGPT-Workflows

Die besten und am besten bewerteten KI-Prompt-Bibliotheken des Jahres 2026 zur Optimierung aller Arten von ChatGPT-Workflows. XIX.AI hat eine leistungsstarke, bahnbrechende Sammlung zusammengestellt, die strengen Praxistests unterzogen wird, um Spitzenleistung zu gewährleisten. Hier finden Sie detaillierte Vergleiche zwischen kostenlosen und kostenpflichtigen Angeboten sowie Experten-Rankings, die Ihnen dabei helfen, die unverzichtbaren Tools auszuwählen, mit denen Sie Ihre Produktivität steigern und Ihren KI-Vorteil ausschöpfen können. Entdecken Sie sie jetzt!

11 Tools
xix.ai
Bildung und Lernen AI Quiz Builder Plattformen für Lehrer, Nachhilfelehrer und kohortenbasierte Lernprogramme
AI Quiz Builder Plattformen für Lehrer, Nachhilfelehrer und kohortenbasierte Lernprogramme

2026 Neueste und beste KI-Quiz-Erstellungstools für Lehrer, Nachhilfelehrer und kohortenbasierte Lernprogramme! XIX.AI hat eine hochbewertete Liste leistungsstarker, bahnbrechender Tools zusammengestellt, die realen Tests unterzogen wurden, um genaue Rankings zu liefern. Diese unbedingt auszuprobierenden Plattformen helfen dabei, die Schreibeffizienz zu steigern, die Inhaltserstellung zu optimieren und das Quiz-Design in allen Lernszenarien zu vereinfachen. Entdecken Sie jetzt Ihr perfektes Tool, um Ihren KI-Vorteil im Unterricht voll auszuschöpfen!

13 Tools
xix.ai
Code KI-Tools zur Überprüfung von Pull-Requests für GitHub-Teams, die sich mit Refactorings, Fehlern und Sicherheitslücken befassen
KI-Tools zur Überprüfung von Pull-Requests für GitHub-Teams, die sich mit Refactorings, Fehlern und Sicherheitslücken befassen

Die besten neuen KI-Tools zur Pull-Request-Prüfung für GitHub-Teams im Jahr 2026 finden Sie hier auf XIX.AI! Diese sorgfältig zusammengestellte Liste mit den besten Bewertungen präsentiert leistungsstarke, bahnbrechende Lösungen, die Refactoring, Fehlerbehebung und die Erkennung von Sicherheitslücken in allen Team-Workflows optimieren. Profitieren Sie von einem Vergleich zwischen kostenlosen und kostenpflichtigen Tools sowie von Praxistests und detaillierten Rankings, die Ihnen helfen, das perfekte Tool zu finden, mit dem Sie Ihre Produktivität deutlich steigern können. Entdecken Sie die Tools jetzt und sichern Sie sich Ihren KI-Vorteil!

12 Tools
xix.ai
Text-zu-Sprache Die besten KI-Tools zur Text-zu-Sprache-Umwandlung für natürliche Sprachausgabe
Die besten KI-Tools zur Text-zu-Sprache-Umwandlung für natürliche Sprachausgabe

Die besten und am besten bewerteten KI-Text-to-Speech-Tools für natürliche Sprachausgabe des Jahres 2026 finden Sie hier auf XIX.AI! Diese sorgfältig zusammengestellte Liste enthält leistungsstarke, bahnbrechende Optionen, die für jeden Anwendungsfall kristallklare Stimmen liefern – gestützt auf Tests in der Praxis und wöchentlich aktualisierte Rankings. Holen Sie sich einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, um die Lösung zu finden, die Sie unbedingt ausprobieren sollten und die Ihre Produktivität sofort steigert. Entdecken Sie jetzt die Möglichkeiten und sichern Sie sich Ihren KI-Vorteil!

11 Tools
xix.ai
Kommentare (32)
0/500
WilliamRoberts
WilliamRoberts 9. März 2026 23:00:37 MEZ

开源这事儿挺有意思,我看Pruna AI这框架里集成了缓存、剪枝、量化这些技术,是不是真能大幅降低推理成本啊?有人试过吗?感觉现在AI模型优化都卷得不行了,期待周四看看代码质量怎么样。😄

WyattHill
WyattHill 30. Dezember 2025 03:30:54 MEZ

Finalmente algo open-source pra otimizar modelos grandes! A quantidade de técnicas que mencionaram (cache, poda, quantização) é impressionante. Vai ser interessante testar isso em alguns projetos que tenho em mente. Acho que isso pode ajudar muito desenvolvedores independentes como eu a ter acesso a modelos mais eficientes. Boa iniciativa da startup europeia! 👏

PaulRoberts
PaulRoberts 25. April 2025 06:04:39 MESZ

O framework de código aberto da Pruna AI é uma bênção para nós entusiastas de AI DIY! É como ter uma faca suíça para otimizar modelos. Consegui reduzir meus modelos sem perder muita precisão, o que é incrível. O único problema? A documentação poderia ser mais detalhada. Ainda assim, mal posso esperar para ver o que mais eles vão lançar! 🚀

DouglasMitchell
DouglasMitchell 24. April 2025 19:25:23 MESZ

El marco de código abierto de Pruna AI es un regalo para nosotros los entusiastas del AI DIY. ¡Es como tener un cuchillo suizo para optimizar modelos! He podido reducir mis modelos sin perder mucha precisión, lo cual es genial. El único inconveniente es que la documentación podría ser más completa. ¡Aun así, no puedo esperar a ver qué más sacan! 🚀

WillieMartinez
WillieMartinez 20. April 2025 03:20:47 MESZ

Pruna AI's open-source framework sounds promising, but the setup was a bit of a headache. Once I got it running, the optimization really sped up my models. Just wish the documentation was clearer. Still, it's a solid tool for anyone looking to optimize AI models! 🤓

JamesLopez
JamesLopez 19. April 2025 00:46:00 MESZ

Pruna AI's open-source framework is a godsend for us DIY AI enthusiasts! It's like having a Swiss Army knife for optimizing models. I've been able to shrink my models without losing much accuracy, which is just awesome. The only hiccup? The documentation could use a bit more love. Still, can't wait to see what else they roll out! 🚀

OR