вариант
Дом
Новости
Модель TTS с открытым исходным кодом OmniVoice от Xiaomi позволяет осуществлять клонирование без предварительного обучения на более чем 600 языках

Модель TTS с открытым исходным кодом OmniVoice от Xiaomi позволяет осуществлять клонирование без предварительного обучения на более чем 600 языках

8 мая 2026 г.
205

Недавно команда Kaldi нового поколения (k2-fsa) из компании Xiaomi официально открыла исходный код OmniVoice — масштабной многоязычной модели преобразования текста в речь без предварительного обучения, поддерживающей более 600 языков. Модель демонстрирует передовые результаты по нескольким ключевым тестам для синтеза речи на китайском, английском и в многоязычном режиме, что стало значительным прорывом в этой области.

Лидирующая производительность: WER для китайского языка составляет всего 0,84%, что превосходит показатели основных моделей в многоязычных тестах

На тестовом наборе Seed-TTS для китайского языка OmniVoice демонстрирует чрезвычайно низкий показатель ошибок на слова (WER) — всего 0,84%. В многоязычных оценках его показатели сходства (SIM-o) и WER превосходят известные коммерческие модели, такие как ElevenLabs v2 и MiniMax, демонстрируя исключительную естественность и четкость речи.

image.png

Сверхбыстрая инференция: RTF всего 0,025, что в 40 раз быстрее, чем в реальном времени

OmniVoice может похвастаться коэффициентом реального времени (RTF) всего 0,025, что означает, что его скорость синтеза намного превышает требования реального времени. Этот огромный прирост эффективности позволяет быстро генерировать длинные речевые фрагменты в практических приложениях, что значительно улучшает пользовательский опыт.

Инновационная архитектура: дискретная неавторегрессивная конструкция, вдохновленная диффузионными моделями

OmniVoice использует новую дискретную неавторегрессивную архитектуру, вдохновленную диффузионными языковыми моделями. Она генерирует речь из текста за один шаг, минуя традиционные промежуточные семантические токены. Эта оптимизированная конструкция упрощает конвейер, сохраняя при этом высокое качество вывода. Стратегия полного случайного маскирования кодовой книги в сочетании с инициализацией предварительно обученной LLM еще больше повышает эффективность обучения и улучшает четкость и разборчивость конечной речи.

Гибкое клонирование и настройка голоса: работает всего с 3–10 секундами аудио

Модель поддерживает высококачественное клонирование голоса без предварительного обучения, используя всего 3–10 секунд эталонного аудио. Пользователи также могут настраивать атрибуты голоса с помощью подсказок на естественном языке, указывая пол, возраст, высоту тона, акцент, диалект и даже специальные эффекты, такие как шепот.

Обработка нелингвистических символов и тонкое управление произношением

OmniVoice может обрабатывать нелингвистические символы, такие как [смех], и поддерживает коррекцию произношения с помощью пиньинь или фонетических символов. Это делает его особенно подходящим для точного синтеза на китайском языке и различных диалектах.

Поддержка более 600 языков: содействие цифровому сохранению языков меньшинств и исчезающих языков

Одной из ключевых особенностей OmniVoice является обширный языковой охват, обеспечивающий эффективную поддержку как основных, так и многочисленных языков с ограниченными ресурсами. Для языков меньшинств и исчезающих языков система может генерировать высококачественную речь с минимальным количеством данных, что открывает значительный потенциал для цифрового сохранения языков и защиты культуры.

Код OmniVoice и предварительно обученные модели теперь доступны в открытом доступе на GitHub и Hugging Face, что позволяет разработчикам развертывать их локально или интегрировать в приложения. AIbase будет продолжать отслеживать отзывы сообщества и реальные примеры использования. Разработчикам рекомендуется делиться своим опытом.

Ссылка на проект: https://github.com/k2-fsa/OmniVoice

Связанная статья
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её
Google тестирует агента Remy AI для Gemini по мере смещения фокуса на управление пользователями Google тестирует агента Remy AI для Gemini по мере смещения фокуса на управление пользователями Согласно Business Insider, Google тестирует Remy, нового ИИ-персонального агента для Gemini. Этот инструмент предназначен для выполнения задач от имени пользователей, упрощая как профессиональные рабочие процессы, так и повседневные рутины.В настоящ
Как исправить Core Web Vitals для улучшения позиций в поисковой выдаче Как исправить Core Web Vitals для улучшения позиций в поисковой выдаче Оптимизация написания комментариев в отчетных карточках с помощью ИИ-инструментовВведениеИИ-инструменты для генерации комментариев в отчетных карточкахMagic SchoolAlmanac AIChat GPTИспользование Magic School для генерации комментариев в отчетны
Рекомендации по связанным специальным темам
письмо Лучшие генераторы конспектов на базе ИИ для длинных статей, оптимизированных для SEO
Лучшие генераторы конспектов на базе ИИ для длинных статей, оптимизированных для SEO

2026 год: лучшие и самые высокооцененные генераторы конспектов на базе ИИ для длинных SEO-статей, тщательно отобранные XIX.AI. Эти мощные инструменты обеспечивают революционную помощь в быстром создании высококачественного контента, значительно повышая эффективность написания текстов. Ознакомьтесь со сравнением бесплатных и платных версий, а также с результатами реальных тестов и подробными рейтингами, которые помогут вам найти вариант, который обязательно стоит попробовать и который соответствует вашим потребностям. Изучите их прямо сейчас, чтобы раскрыть весь потенциал ИИ.

8 инструментов
xix.ai
Образование и обучение Инструменты на базе искусственного интеллекта для выполнения домашних заданий и подготовки к экзаменам
Инструменты на базе искусственного интеллекта для выполнения домашних заданий и подготовки к экзаменам

2026: лучшие современные инструменты на базе ИИ для выполнения домашних заданий и подготовки к экзаменам! XIX.AI подготовило рейтинг самых эффективных и революционных инструментов, которые помогают учащимся повысить продуктивность, оптимизировать выполнение домашних заданий и сдавать экзамены на «отлично», проходя проверку в реальных условиях. Получите сравнение бесплатных и платных версий, подробные рейтинги и варианты, которые обязательно стоит попробовать, чтобы раскрыть свой потенциал с помощью ИИ. Узнайте больше прямо сейчас!

10 инструментов
xix.ai
Музыкальная композиция Инструменты для создания вокальных демо на основе ИИ для авторов песен, создания хуков, написания тоpline-мелодий и проведения многоязычных черновых сессий
Инструменты для создания вокальных демо на основе ИИ для авторов песен, создания хуков, написания тоpline-мелодий и проведения многоязычных черновых сессий

2026 г. лучшие инструменты для демо-записи вокала на базе ИИ для авторов песен, создателей хуков и команд, работающих с контентом на нескольких языках! XIX.AI подготовил список высокооцененных мощных инструментов, изменивших правила игры, прошедших строгие реальные тесты. Вы найдёте подробные данные сравнения бесплатных и платных версий, комплексные рейтинги и обязательные к использованию варианты, которые помогут повысить эффективность написания и раскрыть ваш творческий потенциал. Исследуйте сейчас, чтобы найти идеальный инструмент для всех ваших задач по созданию контента!

9 инструментов
xix.ai
Бизнес Лучшие инструменты для анализа конкурентов на основе искусственного интеллекта для малого бизнеса
Лучшие инструменты для анализа конкурентов на основе искусственного интеллекта для малого бизнеса

2026: новейшие, лучшие и самые высокооцененные инструменты для анализа конкурентов на базе ИИ для малого бизнеса! XIX.AI подготовила чрезвычайно мощную подборку, способную кардинально изменить ситуацию на рынке, которая еженедельно обновляется на основе тщательных тестов в реальных условиях и подробных рейтингов. Вы найдете здесь исчерпывающее сравнение бесплатных и платных версий, которое поможет вам определить инструменты, которые обязательно стоит попробовать, чтобы повысить свою продуктивность и получить конкурентное преимущество. Ознакомьтесь с ней прямо сейчас, чтобы найти идеальный инструмент для себя!

9 инструментов
xix.ai
Редактирование изображений Инструменты ИИ-ретуши в Photoshop для электронной коммерции, одежды, очистки кожи и обеспечения цветового единообразия
Инструменты ИИ-ретуши в Photoshop для электронной коммерции, одежды, очистки кожи и обеспечения цветового единообразия

2026 Latest Best Photoshop AI retouch tools for ecommerce apparel, skin cleanup, and color consistency! This top-rated curated list features powerful game-changing solutions that help you boost writing efficiency, streamline content creation, and achieve perfect visual results effortlessly. Each tool has undergone real-world tests through weekly updated rankings, complete with free vs paid comparison details. Backed by XIX.AI, it’s the must-try guide for anyone aiming to unlock your AI edge. Explore now!

10 инструментов
xix.ai
Быстрый Лучшие библиотеки подсказок для ИИ в рабочих процессах ChatGPT
Лучшие библиотеки подсказок для ИИ в рабочих процессах ChatGPT

2026: новейшие и лучшие библиотеки подсказок для ИИ с высоким рейтингом, предназначенные для оптимизации всех типов рабочих процессов ChatGPT. XIX.AI подготовила мощную, революционную подборку, прошедшую тщательные тесты в реальных условиях для обеспечения максимальной производительности. Вы найдёте подробные сравнения бесплатных и платных вариантов, а также рейтинги экспертов, которые помогут вам выбрать инструменты, которые обязательно стоит попробовать, чтобы повысить свою продуктивность и раскрыть весь потенциал ИИ. Откройте для себя их прямо сейчас!

11 инструментов
xix.ai
Комментарии (0)
0/500
OR