京東推出 JoyAI-LLM-Flash 模型,推動人工智慧發展

京東於 2 月 14 日在 Hugging Face 平台上公開了其最新的大型語言模型 JoyAI-LLM-Flash。該模型擁有總計 48 億個參數,其中 30 億個在推論過程中被激活。它基於 20 兆個文本令牌進行預訓練,在理解當代知識、邏輯推理及程式設計任務方面展現出強大的能力。
JoyAI-LLM-Flash採用創新的FiberPO優化框架,該框架將纖維束理論融入強化的學習中。結合Muon優化器與密集多令牌預測(MTP)技術,此方法有效解決了傳統模型擴展時常見的不穩定性挑戰。相較於未採用MTP的版本,其吞吐量提升了1.3至1.7倍,顯著提高了訓練效率與實際應用潛力。
該模型基於混合專家(MoE)架構,具備 40 個層級。其支援 128K 令牌的上下文長度,詞彙量達 129K,標誌著京東在人工智慧領域邁出了重要一步。
相關文章
如何修復核心網頁指標以獲得更好的 SEO 排名
利用 AI 工具簡化成績單評語撰寫引言用於生成成績單評語的 AI 工具Magic SchoolAlmanac AIChat GPT使用 Magic School 生成成績單評語登入 Magic School選擇成績單評語工具為學生定製評語使用 Almanac AI 生成成績單評語設定課程與評分方案配置評語長度與學生資訊使用 Almanac AI 生成評語比較 Magic School 與 Almanac AI設定的便捷性可定製性與課程內容的整合速度與效率使用
Slackbot 成為 AI 智慧體
Slackbot,嵌入在Salesforce企業訊息平臺Slack中的自動化助手,正在演變為一個AI智慧體。Salesforce技術長Parker Harris設想它將達到與OpenAI的ChatGPT相媲美的病毒式傳播地位。這家雲軟體巨頭於週二推出了更新版的Slackbot。該新版AI驅動版本面向Business+和Enterprise+客戶,可直接在Slack內查詢資訊、起草電子郵件和安排會議。在獲得適當許可權的情況下,它還能與Microsoft Teams和Google Drive等企
位元組跳動加大核心AI激勵,豆包增長14.6%
位元組跳動近日召開豆包股權說明會,公佈面向豆包部門員工的最新激勵政策。豆包股票的行權價已從2026年6月的14.85美元上調至17.02美元,漲幅約為14.6%。此次調整不僅提升了豆包股票的估值,還大幅擴大了其覆蓋範圍。根據員工崗位的不同,部分員工可能獲得相當於其總薪酬約5%的豆包股票。根據新的兌換機制,位元組跳動允許員工在整體薪酬包中,將部分現金工資兌換為豆包股權。兌換比例因職級而異,設有20%和30%等不同檔位。例如,L2和L3級員工可選擇20%的全覆蓋兌換比例,而L3和L4級員工的該比例可
相關專題推薦
評論 (1)
0/500

京東於 2 月 14 日在 Hugging Face 平台上公開了其最新的大型語言模型 JoyAI-LLM-Flash。該模型擁有總計 48 億個參數,其中 30 億個在推論過程中被激活。它基於 20 兆個文本令牌進行預訓練,在理解當代知識、邏輯推理及程式設計任務方面展現出強大的能力。
JoyAI-LLM-Flash採用創新的FiberPO優化框架,該框架將纖維束理論融入強化的學習中。結合Muon優化器與密集多令牌預測(MTP)技術,此方法有效解決了傳統模型擴展時常見的不穩定性挑戰。相較於未採用MTP的版本,其吞吐量提升了1.3至1.7倍,顯著提高了訓練效率與實際應用潛力。
該模型基於混合專家(MoE)架構,具備 40 個層級。其支援 128K 令牌的上下文長度,詞彙量達 129K,標誌著京東在人工智慧領域邁出了重要一步。
如何修復核心網頁指標以獲得更好的 SEO 排名
利用 AI 工具簡化成績單評語撰寫引言用於生成成績單評語的 AI 工具Magic SchoolAlmanac AIChat GPT使用 Magic School 生成成績單評語登入 Magic School選擇成績單評語工具為學生定製評語使用 Almanac AI 生成成績單評語設定課程與評分方案配置評語長度與學生資訊使用 Almanac AI 生成評語比較 Magic School 與 Almanac AI設定的便捷性可定製性與課程內容的整合速度與效率使用
Slackbot 成為 AI 智慧體
Slackbot,嵌入在Salesforce企業訊息平臺Slack中的自動化助手,正在演變為一個AI智慧體。Salesforce技術長Parker Harris設想它將達到與OpenAI的ChatGPT相媲美的病毒式傳播地位。這家雲軟體巨頭於週二推出了更新版的Slackbot。該新版AI驅動版本面向Business+和Enterprise+客戶,可直接在Slack內查詢資訊、起草電子郵件和安排會議。在獲得適當許可權的情況下,它還能與Microsoft Teams和Google Drive等企
位元組跳動加大核心AI激勵,豆包增長14.6%
位元組跳動近日召開豆包股權說明會,公佈面向豆包部門員工的最新激勵政策。豆包股票的行權價已從2026年6月的14.85美元上調至17.02美元,漲幅約為14.6%。此次調整不僅提升了豆包股票的估值,還大幅擴大了其覆蓋範圍。根據員工崗位的不同,部分員工可能獲得相當於其總薪酬約5%的豆包股票。根據新的兌換機制,位元組跳動允許員工在整體薪酬包中,將部分現金工資兌換為豆包股權。兌換比例因職級而異,設有20%和30%等不同檔位。例如,L2和L3級員工可選擇20%的全覆蓋兌換比例,而L3和L4級員工的該比例可





首頁






