Google 與 NVIDIA 將 DiffusionGemma 開源,使單張顯卡的推論速度提升 4 倍
2026年6月10日,Google 推出了 DiffusionGemma,這是一款實驗性的開源語言模型,它擺脫了傳統的自迴歸範式——即一次僅生成一個單字的文本生成方式。 該模型首創將圖像 AI 中的擴散機制應用於文字生成,從隨機噪聲出發,並透過迭代精煉,每一步可並行輸出 256 個標記區塊。

在硬體效能方面,得益於 NVIDIA 的深度優化,該模型在單 GPU 單使用者模式下的運行速度,比同級傳統模型快近四倍。 在 H100 GPU 上,單次請求的輸出速度可達每秒 1,000 個標記;即使在 RTX 5090 等高階消費級 GPU 上,其輸出速度也能超過每秒 700 個標記。
DiffusionGemma 擁有 260 億個參數,並採用專家混合 (MoE) 架構,每一步僅激活 38 億個參數。 雖然在標準基準測試中,其文字生成品質與準確度略遜於傳統的 Gemma4 系列模型,但其獨特的「全區塊感知」能力克服了自迴歸模型僅能向後推導的限制。 由於在生成過程中所有標記皆可相互參照,該模型在涉及非線性與結構化資料的任務上表現卓越,例如文本補全、程式碼填空、數獨解題以及胺基酸序列處理。

該模型的權重現已根據 Apache 2.0 授權在 Hugging Face 上開源,並能與 vLLM 和 MLX 等主流推論框架無縫整合。這項探索不僅消除了 GPU 運算能力在記憶體頻寬方面的限制,更為未來人工智慧在複雜邏輯與非線性文本生成領域的應用開闢了一條嶄新的技術道路。
相關文章
Slackbot 成為 AI 智慧體
Slackbot,嵌入在Salesforce企業訊息平臺Slack中的自動化助手,正在演變為一個AI智慧體。Salesforce技術長Parker Harris設想它將達到與OpenAI的ChatGPT相媲美的病毒式傳播地位。這家雲軟體巨頭於週二推出了更新版的Slackbot。該新版AI驅動版本面向Business+和Enterprise+客戶,可直接在Slack內查詢資訊、起草電子郵件和安排會議。在獲得適當許可權的情況下,它還能與Microsoft Teams和Google Drive等企
位元組跳動加大核心AI激勵,豆包增長14.6%
位元組跳動近日召開豆包股權說明會,公佈面向豆包部門員工的最新激勵政策。豆包股票的行權價已從2026年6月的14.85美元上調至17.02美元,漲幅約為14.6%。此次調整不僅提升了豆包股票的估值,還大幅擴大了其覆蓋範圍。根據員工崗位的不同,部分員工可能獲得相當於其總薪酬約5%的豆包股票。根據新的兌換機制,位元組跳動允許員工在整體薪酬包中,將部分現金工資兌換為豆包股權。兌換比例因職級而異,設有20%和30%等不同檔位。例如,L2和L3級員工可選擇20%的全覆蓋兌換比例,而L3和L4級員工的該比例可
MiniMax 推出 10 倍團隊計劃,以激勵全球 AI 專家
MiniMax(稀宇科技)通用人工智慧實驗室正式推出“10x Team”,這是一項全球人才協作計劃。該計劃旨在招募跨行業的頂尖專家,探索大模型在垂直領域的深度應用。透過將深厚的行業知識與前沿人工智慧技術相結合,MiniMax 致力於將大模型的生產力從通用場景拓展至專業場景,最終推動行業效率實現“十倍增長”。驗證行業認知價值,開放多模態核心資源過去與行業專家的合作表明,深厚的專業洞察對於構建高質量、實用的行業專屬大模型至關重要。在此基礎上,“10x Team”計劃將向合作伙伴開放包括多模態模型
相關專題推薦
評論 (0)
0/500
2026年6月10日,Google 推出了 DiffusionGemma,這是一款實驗性的開源語言模型,它擺脫了傳統的自迴歸範式——即一次僅生成一個單字的文本生成方式。 該模型首創將圖像 AI 中的擴散機制應用於文字生成,從隨機噪聲出發,並透過迭代精煉,每一步可並行輸出 256 個標記區塊。

在硬體效能方面,得益於 NVIDIA 的深度優化,該模型在單 GPU 單使用者模式下的運行速度,比同級傳統模型快近四倍。 在 H100 GPU 上,單次請求的輸出速度可達每秒 1,000 個標記;即使在 RTX 5090 等高階消費級 GPU 上,其輸出速度也能超過每秒 700 個標記。
DiffusionGemma 擁有 260 億個參數,並採用專家混合 (MoE) 架構,每一步僅激活 38 億個參數。 雖然在標準基準測試中,其文字生成品質與準確度略遜於傳統的 Gemma4 系列模型,但其獨特的「全區塊感知」能力克服了自迴歸模型僅能向後推導的限制。 由於在生成過程中所有標記皆可相互參照,該模型在涉及非線性與結構化資料的任務上表現卓越,例如文本補全、程式碼填空、數獨解題以及胺基酸序列處理。

該模型的權重現已根據 Apache 2.0 授權在 Hugging Face 上開源,並能與 vLLM 和 MLX 等主流推論框架無縫整合。這項探索不僅消除了 GPU 運算能力在記憶體頻寬方面的限制,更為未來人工智慧在複雜邏輯與非線性文本生成領域的應用開闢了一條嶄新的技術道路。
Slackbot 成為 AI 智慧體
Slackbot,嵌入在Salesforce企業訊息平臺Slack中的自動化助手,正在演變為一個AI智慧體。Salesforce技術長Parker Harris設想它將達到與OpenAI的ChatGPT相媲美的病毒式傳播地位。這家雲軟體巨頭於週二推出了更新版的Slackbot。該新版AI驅動版本面向Business+和Enterprise+客戶,可直接在Slack內查詢資訊、起草電子郵件和安排會議。在獲得適當許可權的情況下,它還能與Microsoft Teams和Google Drive等企
位元組跳動加大核心AI激勵,豆包增長14.6%
位元組跳動近日召開豆包股權說明會,公佈面向豆包部門員工的最新激勵政策。豆包股票的行權價已從2026年6月的14.85美元上調至17.02美元,漲幅約為14.6%。此次調整不僅提升了豆包股票的估值,還大幅擴大了其覆蓋範圍。根據員工崗位的不同,部分員工可能獲得相當於其總薪酬約5%的豆包股票。根據新的兌換機制,位元組跳動允許員工在整體薪酬包中,將部分現金工資兌換為豆包股權。兌換比例因職級而異,設有20%和30%等不同檔位。例如,L2和L3級員工可選擇20%的全覆蓋兌換比例,而L3和L4級員工的該比例可
MiniMax 推出 10 倍團隊計劃,以激勵全球 AI 專家
MiniMax(稀宇科技)通用人工智慧實驗室正式推出“10x Team”,這是一項全球人才協作計劃。該計劃旨在招募跨行業的頂尖專家,探索大模型在垂直領域的深度應用。透過將深厚的行業知識與前沿人工智慧技術相結合,MiniMax 致力於將大模型的生產力從通用場景拓展至專業場景,最終推動行業效率實現“十倍增長”。驗證行業認知價值,開放多模態核心資源過去與行業專家的合作表明,深厚的專業洞察對於構建高質量、實用的行業專屬大模型至關重要。在此基礎上,“10x Team”計劃將向合作伙伴開放包括多模態模型





首頁






