選項
首頁
新聞
美團開源語音模型樹立了語音克隆的新標竿

美團開源語音模型樹立了語音克隆的新標竿

2026-04-06
319

音訊生成領域正經歷一場根本性的轉變,從多階段級聯架構轉向端到端模型。 為克服傳統 TTS 系統所採用的「梅爾頻譜圖」中間表示形式所固有的資訊損失與誤差累積問題,美團 LongCat 團隊已正式發布並開源 LongCat-AudioDiT(提供 10 億與 35 億參數版本)。該模型透過直接波形潛空間建模,成功突破了零樣本語音克隆的既有性能極限。

QQ20260402-101320.jpg

核心架構:突破梅爾頻譜圖的局限

LongCat-AudioDiT 摒棄了傳統的「聲學特徵預測 + 神經語音編碼器」多階段流程,轉而建立一套基於 Wav-VAE(波形變分自編碼器)DiT(擴散變換器)的簡化極簡架構。

高效 Wav-VAE:採用全卷積設計,將 24kHz 波形壓縮 2000 倍至 11.7Hz 幀率。透過非參數捷徑分支與多目標對抗式訓練,確保重建波形在維持精確時頻結構的同時,呈現極佳的自然聆聽品質。

語義增強型 DiT:該模型創新性地將 UMT5 文字編碼器的原始詞嵌入向量與其頂層隱藏狀態進行融合。此舉彌補了高階語義表示中遺失的語音細節,顯著提升了生成的語音可懂度。

推論優化:精準修正語音漂移

為進一步提升生成品質,研究團隊實施了兩項關鍵技術改進:

雙重約束機制:此技術能識別並修正流匹配 TTS 中長期存在的「訓練與推論不匹配」問題。透過在推論階段強制重置提示區的潛在變量,徹底解決了發音者聲音漂移與不穩定的問題。

自適應投影引導(APG):APG 取代了傳統的無分類器引導(CFG)。它能精準篩選引導訊號中的有益成分,同時抑制導致音質退化的成分,在避免引發頻譜「過飽和」的情況下,顯著提升語音自然度。

性能:SOTA 級別的克隆準確度

在 Seed 資料集的基準測試中,LongCat-AudioDiT 展現出領先的表現:

相似度 (SIM):該 35 億參數模型在 Seed-ZH 測試集上獲得 0.818 的分數,並在具挑戰性的 Seed-Hard 句子集上取得 0.797,表現優於 Seed-TTS、CosyVoice3.5 及 MiniMax-Speech 等知名模型。

準確度:在關鍵指標上名列業界頂尖,包括英語 WER 為 1.50%,以及中文難句 CER 為 6.04%。

值得注意的是,LongCat-AudioDiT 僅透過對預處理後的 ASR 轉錄資料進行單階段訓練,便能取得優於多階段訓練模型的卓越成果。相關研究論文、原始碼及模型權重現已全面開源,並可於 GitHub 和 HuggingFace 取得。

專案連結:

GitHub:https://github.com/meituan-longcat/LongCat-AudioDiT

HuggingFace:https://huggingface.co/meituan-longcat/LongCat-AudioDiT

相關文章
Google 測試 Remy AI 代理,以 Gemini 為重點轉向使用者控制 Google 測試 Remy AI 代理,以 Gemini 為重點轉向使用者控制 根據《商業內幕》的報道,谷歌正在測試 Remy,這是 Gemini 的一款全新 AI 個人代理工具。該工具旨在代表使用者執行任務,從而簡化專業工作流程和日常事務。目前,Remy 正在 Gemini 應用的內部員工專屬版本中進行測試。該報告引用了一份內部檔案以及對兩位熟悉該專案的個人的採訪。內部資料將 Remy 描述為“全天候個人代理”,將 Gemini 定位為能夠代表使用者行事的主動助手。接近該專案的訊息人士證實,谷歌員工正在積極測試 Remy。谷歌發言人拒絕提供進一步評論。該報告未提及公開發布
如何修復核心網頁指標以獲得更好的 SEO 排名 如何修復核心網頁指標以獲得更好的 SEO 排名 利用 AI 工具簡化成績單評語撰寫引言用於生成成績單評語的 AI 工具Magic SchoolAlmanac AIChat GPT使用 Magic School 生成成績單評語登入 Magic School選擇成績單評語工具為學生定製評語使用 Almanac AI 生成成績單評語設定課程與評分方案配置評語長度與學生資訊使用 Almanac AI 生成評語比較 Magic School 與 Almanac AI設定的便捷性可定製性與課程內容的整合速度與效率使用
Slackbot 成為 AI 智慧體 Slackbot 成為 AI 智慧體 Slackbot,嵌入在Salesforce企業訊息平臺Slack中的自動化助手,正在演變為一個AI智慧體。Salesforce技術長Parker Harris設想它將達到與OpenAI的ChatGPT相媲美的病毒式傳播地位。這家雲軟體巨頭於週二推出了更新版的Slackbot。該新版AI驅動版本面向Business+和Enterprise+客戶,可直接在Slack內查詢資訊、起草電子郵件和安排會議。在獲得適當許可權的情況下,它還能與Microsoft Teams和Google Drive等企
相關專題推薦
寫作 最適合撰寫長篇 SEO 文章的 AI 大綱生成工具
最適合撰寫長篇 SEO 文章的 AI 大綱生成工具

2026 年最新最佳、評價最高的 AI 大綱生成器,專為長篇 SEO 文章打造,由 XIX.AI 精心精選。這些強大的工具能為快速創作高品質內容提供革命性的協助,大幅提升寫作效率。 透過免費版與付費版的比較、實際測試結果及詳細排名,協助您找出最符合需求且不容錯過的選項。立即探索,釋放您的 AI 優勢。

8 個工具
xix.ai
教育與學習 適用於作業與考試準備的人工智慧學習工具
適用於作業與考試準備的人工智慧學習工具

2026 年最新最佳 AI 學習工具,助您完成作業與備考!XIX.AI 精心整理了一份備受好評的清單,收錄了這些強大且具革命性、經實測驗證的工具,能幫助學生提升效率、簡化作業流程,並在考試中取得優異成績。 獲取免費版與付費版的比較、詳細排名,以及必試選項,以釋放您的 AI 優勢。立即探索!

10 個工具
xix.ai
音樂創作 面向詞曲創作者、旋律片段、主旋律及多語言草稿創作的AI人聲演示工具
面向詞曲創作者、旋律片段、主旋律及多語言草稿創作的AI人聲演示工具

2026 年最新最佳 AI 人聲演示工具,專為詞曲創作者、旋律創作者和多語言內容團隊打造!XIX.AI 精心整理了一份經過嚴格真實世界測試的高評分、變革性工具列表。您將找到詳細的免費與付費對比資料、全面排名以及必試選項,幫助您提升創作效率並釋放創意潛力。立即探索,發現滿足您所有內容需求的完美工具!

9 個工具
xix.ai
商業 最適合小型企業的頂尖 AI 競爭情勢分析工具
最適合小型企業的頂尖 AI 競爭情勢分析工具

2026 年最新、最佳且評價最高的中小企業 AI 競爭研究工具!XIX.AI 精心精選了一系列極具威力且能改變遊戲規則的工具,並透過嚴謹的實測與詳細排名,每週更新內容。您可在此找到詳盡的免費版與付費版比較,協助您找出必試的工具,以提升工作效率並獲得競爭優勢。 立即探索,找出最適合您的工具!

9 個工具
xix.ai
圖像編輯 用於電商服裝、皮膚清潔和色彩一致性的 Photoshop AI 修圖工具
用於電商服裝、皮膚清潔和色彩一致性的 Photoshop AI 修圖工具

2026 年最新最佳 Photoshop AI 修圖工具,適用於電商服裝、皮膚清潔和色彩一致性!這份頂級精選列表包含強大的變革性解決方案,可幫助您提升寫作效率、簡化內容創作並輕鬆實現完美的視覺效果。每個工具都經過實際測試,並透過每週更新的排名進行驗證,同時提供免費與付費版本的詳細對比。由 XIX.AI 支援,這是任何希望發揮 AI 優勢的人必試指南。立即探索!

10 個工具
xix.ai
迅速的 適用於 ChatGPT 工作流程的最佳 AI 提示詞庫
適用於 ChatGPT 工作流程的最佳 AI 提示詞庫

2026 年最新、最受好評的 AI 提示詞庫,可優化各類 ChatGPT 工作流程。XIX.AI 精心蒐羅了一套強大且具革命性的精選集合,並經過嚴格的實際測試,以確保其表現卓越。 您可查閱詳盡的免費版與付費版比較分析,以及專家評比,助您挑選必試工具,從而提升工作效率並釋放您的 AI 優勢。立即探索!

11 個工具
xix.ai
評論 (1)
0/500
FredGreen
FredGreen 2026-06-25 20:00:13

Honestly, the switch from multi-stage cascades to end-to-end models in audio generation sounds like a huge leap forward. But I'm wondering—how do they ensure the cloned voice doesn't pick up weird artifacts or biases from the training data? Also, open-sourcing it is cool, but I hope they've thought about potential misuse, like deepfake audio scams. 😅

OR