вариант
Дом
Новости
Pruna AI открывает структуру оптимизации модели ИИ с открытым исходным кодом

Pruna AI открывает структуру оптимизации модели ИИ с открытым исходным кодом

10 апреля 2025 г.
222

Pruna AI, европейский стартап, специализирующийся на разработке алгоритмов сжатия для моделей ИИ, планирует выпустить свой оптимизационный фреймворк с открытым исходным кодом в этот четверг. Компания работает над фреймворком, который включает различные техники повышения эффективности, такие как кэширование, обрезка, квантование и дистилляция для улучшения производительности моделей ИИ.

Джон Рахван, сооснователь и технический директор Pruna AI, объяснил TechCrunch, что их фреймворк не только применяет эти методы, но и стандартизирует процесс сохранения, загрузки и оценки сжатых моделей. Это позволяет пользователям оценить возможную потерю качества и улучшения производительности, достигнутые благодаря сжатию.

Рахван сравнил роль Pruna AI с ролью Hugging Face, которая стандартизировала использование трансформеров и диффузионных моделей. «Мы делаем то же самое, но для методов повышения эффективности», — заявил он, подчеркивая стандартизацию применения и управления этими методами.

Крупные лаборатории ИИ уже применяют подобные техники сжатия. Например, OpenAI использовала дистилляцию для создания более быстрых версий своих моделей, таких как GPT-4 Turbo. Аналогично, Black Forest Labs создала Flux.1-schnell, дистиллированную версию своей модели Flux.1. Дистилляция предполагает подход «учитель-ученик», при котором выходные данные большей модели используются для обучения меньшей, более эффективной модели.

Рахван отметил, что крупные компании часто разрабатывают такие инструменты внутри компании, тогда как сообщество с открытым исходным кодом обычно фокусируется на отдельных методах. «Но вы не найдете инструмент, который объединяет их все, делает их простыми в использовании и комбинировании», — сказал он, подчеркивая уникальное ценностное предложение Pruna AI.

Слева направо: Райан Наит Мази, Бертран Шарпантье, Джон Рахван, Стефан ГюннеманнИзображение предоставлено: Pruna AI
Хотя фреймворк Pruna AI поддерживает широкий спектр моделей, включая большие языковые модели, диффузионные модели, модели преобразования речи в текст и модели компьютерного зрения, компания в настоящее время сосредоточена на моделях генерации изображений и видео. Среди текущих пользователей Pruna AI — Scenario и PhotoRoom.

Помимо версии с открытым исходным кодом, Pruna AI предлагает корпоративную версию с продвинутыми функциями оптимизации, включая готовящийся к выпуску агент сжатия. Рахван описал этот агент как инструмент, который автоматически подбирает оптимальную комбинацию сжатия для модели на основе заданных пользователем требований к производительности и точности.

Профессиональная версия Pruna AI оплачивается почасово, подобно аренде GPU на облачных сервисах, таких как AWS. Оптимизируя модели, пользователи могут значительно снизить затраты на инференс. Например, Pruna AI удалось сжать модель Llama до одной восьмой от её исходного размера с минимальной потерей качества, демонстрируя потенциальную экономию затрат.

Компания недавно привлекла $6.5 миллиона в раунде начального финансирования от инвесторов, включая EQT Ventures, Daphni, Motier Ventures и Kima Ventures. Pruna AI рассматривает свой фреймворк сжатия как стратегическую инвестицию, которая может окупиться за счёт снижения операционных затрат.

Связанная статья
Slackbot становится ИИ-агентом Slackbot становится ИИ-агентом Slackbot, автоматизированный помощник, встроенный в корпоративную платформу обмена сообщениями Salesforce Slack, превращается в ИИ-агента. Технический директор Salesforce Паркер Харрис предполагает, что он достигнет вирусной популярности, сопоставимо
ByteDance усиливает основные стимулы для ИИ, поскольку Doubao растет на 14,6% ByteDance усиливает основные стимулы для ИИ, поскольку Doubao растет на 14,6% Недавно ByteDance провела краткий брифинг по акциям DouBao, чтобы раскрыть новые стимулирующие политики для сотрудников, участвующих в подразделении DouBao. Цена исполнения для акций DouBao была повышена с $14.85 в июне 2026 года до $17.02, что соста
MiniMax представляет программу Team Program с 10-кратным вознаграждением для стимулирования глобальных экспертов в области ИИ MiniMax представляет программу Team Program с 10-кратным вознаграждением для стимулирования глобальных экспертов в области ИИ Компания MiniMax (Xiyu Technology), Лаборатория общего искусственного интеллекта, официально запустила инициативу по глобальному сотрудничеству с талантами «Команда 10x». Эта программа направлена на привлечение ведущих экспертов из различных отраслей
Рекомендации по связанным специальным темам
Образование и обучение Инструменты на базе искусственного интеллекта для выполнения домашних заданий и подготовки к экзаменам
Инструменты на базе искусственного интеллекта для выполнения домашних заданий и подготовки к экзаменам

2026: лучшие современные инструменты на базе ИИ для выполнения домашних заданий и подготовки к экзаменам! XIX.AI подготовило рейтинг самых эффективных и революционных инструментов, которые помогают учащимся повысить продуктивность, оптимизировать выполнение домашних заданий и сдавать экзамены на «отлично», проходя проверку в реальных условиях. Получите сравнение бесплатных и платных версий, подробные рейтинги и варианты, которые обязательно стоит попробовать, чтобы раскрыть свой потенциал с помощью ИИ. Узнайте больше прямо сейчас!

10 инструментов
xix.ai
Музыкальная композиция Инструменты для создания вокальных демо на основе ИИ для авторов песен, создания хуков, написания тоpline-мелодий и проведения многоязычных черновых сессий
Инструменты для создания вокальных демо на основе ИИ для авторов песен, создания хуков, написания тоpline-мелодий и проведения многоязычных черновых сессий

2026 г. лучшие инструменты для демо-записи вокала на базе ИИ для авторов песен, создателей хуков и команд, работающих с контентом на нескольких языках! XIX.AI подготовил список высокооцененных мощных инструментов, изменивших правила игры, прошедших строгие реальные тесты. Вы найдёте подробные данные сравнения бесплатных и платных версий, комплексные рейтинги и обязательные к использованию варианты, которые помогут повысить эффективность написания и раскрыть ваш творческий потенциал. Исследуйте сейчас, чтобы найти идеальный инструмент для всех ваших задач по созданию контента!

9 инструментов
xix.ai
Бизнес Лучшие инструменты для анализа конкурентов на основе искусственного интеллекта для малого бизнеса
Лучшие инструменты для анализа конкурентов на основе искусственного интеллекта для малого бизнеса

2026: новейшие, лучшие и самые высокооцененные инструменты для анализа конкурентов на базе ИИ для малого бизнеса! XIX.AI подготовила чрезвычайно мощную подборку, способную кардинально изменить ситуацию на рынке, которая еженедельно обновляется на основе тщательных тестов в реальных условиях и подробных рейтингов. Вы найдете здесь исчерпывающее сравнение бесплатных и платных версий, которое поможет вам определить инструменты, которые обязательно стоит попробовать, чтобы повысить свою продуктивность и получить конкурентное преимущество. Ознакомьтесь с ней прямо сейчас, чтобы найти идеальный инструмент для себя!

9 инструментов
xix.ai
Редактирование изображений Инструменты ИИ-ретуши в Photoshop для электронной коммерции, одежды, очистки кожи и обеспечения цветового единообразия
Инструменты ИИ-ретуши в Photoshop для электронной коммерции, одежды, очистки кожи и обеспечения цветового единообразия

2026 Latest Best Photoshop AI retouch tools for ecommerce apparel, skin cleanup, and color consistency! This top-rated curated list features powerful game-changing solutions that help you boost writing efficiency, streamline content creation, and achieve perfect visual results effortlessly. Each tool has undergone real-world tests through weekly updated rankings, complete with free vs paid comparison details. Backed by XIX.AI, it’s the must-try guide for anyone aiming to unlock your AI edge. Explore now!

10 инструментов
xix.ai
Быстрый Лучшие библиотеки подсказок для ИИ в рабочих процессах ChatGPT
Лучшие библиотеки подсказок для ИИ в рабочих процессах ChatGPT

2026: новейшие и лучшие библиотеки подсказок для ИИ с высоким рейтингом, предназначенные для оптимизации всех типов рабочих процессов ChatGPT. XIX.AI подготовила мощную, революционную подборку, прошедшую тщательные тесты в реальных условиях для обеспечения максимальной производительности. Вы найдёте подробные сравнения бесплатных и платных вариантов, а также рейтинги экспертов, которые помогут вам выбрать инструменты, которые обязательно стоит попробовать, чтобы повысить свою продуктивность и раскрыть весь потенциал ИИ. Откройте для себя их прямо сейчас!

11 инструментов
xix.ai
Образование и обучение Платформы для создания викторин с ИИ для учителей, репетиторов и программ обучения в группах
Платформы для создания викторин с ИИ для учителей, репетиторов и программ обучения в группах

2026 Latest Best AI Quiz Builder Platforms for Teachers, Tutors, and Cohort-Based Learning Programs! XIX.AI has curated a top-rated list of powerful game-changing tools that go through real-world tests to deliver accurate rankings. These must-try platforms help boost writing efficiency, streamline content creation, and simplify quiz design across all learning scenarios. Explore now to discover your perfect tool for unlocking your AI edge in teaching!

13 инструментов
xix.ai
Комментарии (32)
0/500
WilliamRoberts
WilliamRoberts 10 марта 2026 г., 1:00:37 GMT+03:00

开源这事儿挺有意思,我看Pruna AI这框架里集成了缓存、剪枝、量化这些技术,是不是真能大幅降低推理成本啊?有人试过吗?感觉现在AI模型优化都卷得不行了,期待周四看看代码质量怎么样。😄

WyattHill
WyattHill 30 декабря 2025 г., 5:30:54 GMT+03:00

Finalmente algo open-source pra otimizar modelos grandes! A quantidade de técnicas que mencionaram (cache, poda, quantização) é impressionante. Vai ser interessante testar isso em alguns projetos que tenho em mente. Acho que isso pode ajudar muito desenvolvedores independentes como eu a ter acesso a modelos mais eficientes. Boa iniciativa da startup europeia! 👏

PaulRoberts
PaulRoberts 25 апреля 2025 г., 7:04:39 GMT+03:00

O framework de código aberto da Pruna AI é uma bênção para nós entusiastas de AI DIY! É como ter uma faca suíça para otimizar modelos. Consegui reduzir meus modelos sem perder muita precisão, o que é incrível. O único problema? A documentação poderia ser mais detalhada. Ainda assim, mal posso esperar para ver o que mais eles vão lançar! 🚀

DouglasMitchell
DouglasMitchell 24 апреля 2025 г., 20:25:23 GMT+03:00

El marco de código abierto de Pruna AI es un regalo para nosotros los entusiastas del AI DIY. ¡Es como tener un cuchillo suizo para optimizar modelos! He podido reducir mis modelos sin perder mucha precisión, lo cual es genial. El único inconveniente es que la documentación podría ser más completa. ¡Aun así, no puedo esperar a ver qué más sacan! 🚀

WillieMartinez
WillieMartinez 20 апреля 2025 г., 4:20:47 GMT+03:00

Pruna AI's open-source framework sounds promising, but the setup was a bit of a headache. Once I got it running, the optimization really sped up my models. Just wish the documentation was clearer. Still, it's a solid tool for anyone looking to optimize AI models! 🤓

JamesLopez
JamesLopez 19 апреля 2025 г., 1:46:00 GMT+03:00

Pruna AI's open-source framework is a godsend for us DIY AI enthusiasts! It's like having a Swiss Army knife for optimizing models. I've been able to shrink my models without losing much accuracy, which is just awesome. The only hiccup? The documentation could use a bit more love. Still, can't wait to see what else they roll out! 🚀

OR