首頁Meta的Llama 3.1是AI代的進步
週二，Meta揭開了其Llama大型語言模型（LLMs）家族最新成員的面紗，推出了Llama 3.1。該公司自豪地宣稱Llama 3.1是首個開源的「前沿模型」，這個術語通常用於描述最先進的AI模型。
Llama 3.1有多種規模，但真正引人注目的還是其龐大的「405B」版本。憑藉驚人的4050億個神經「權重」或參數，它超越了其他知名的開源模型，如Nvidia的Nemotron 4、Google的Gemma 2和Mixtral。更引人入勝的是Meta團隊在打造這個巨型模型時做出的三個關鍵決策。
這些決策堪稱神經網絡工程的典範，構成了Llama 3.1 405B建構與訓練的支柱。它們也延續了Meta在Llama 2中展示的效率提升，顯示出降低深度學習總體計算預算的潛力。
首先，Llama 3.1 405B放棄了Google在其閉源Gemini 1.5和Mistral在其Mixtral中使用的「專家混合」方法。這種方法涉及創建不同的神經權重組合，其中一些可以關閉以簡化預測。相反，Meta的研究人員堅持使用自Google於2017年引入的經典「僅解碼器Transformer模型架構」。他們聲稱這一選擇帶來更穩定的訓練過程。
其次，為了提升這種簡單Transformer模型的性能，Meta的團隊提出了一種巧妙的多階段訓練方法。我們都知道，平衡訓練數據量和計算資源會顯著影響預測質量。但傳統的「規模法則」，即根據模型大小和數據預測性能的規則，並不一定能反映模型在「下游」任務（如推理測試）中的表現。
因此，Meta開發了自己的規模法則。他們增加了訓練數據和計算資源，通過多次迭代測試不同組合，觀察所得模型在關鍵下游任務中的表現。這一細緻的過程幫助他們找到最佳平衡點，最終選擇了4050億個參數作為旗艦模型。最終訓練由Meta的Grand Teton AI伺服器上的16,000個Nvidia H100 GPU晶片提供動力，並採用複雜的系統並行運行數據和權重。
第三項創新在於訓練後階段。每次訓練後，Llama 3.1都會經過嚴格的人類反饋引導過程，類似於OpenAI和其他公司用來優化模型輸出的方法。這包括「監督微調」，模型根據人類偏好學習區分理想與非理想的輸出。
Meta隨後引入了一個新變化，採用「直接偏好優化」（DPO），這是今年由Stanford University AI學者開創的更高效的人類反饋強化學習版本。他們還訓練Llama 3.1使用「工具」，如外部搜尋引擎，通過展示使用API調用解決的提示範例，提升其「零次學習」工具使用能力。
為了對抗「幻覺」，團隊精心挑選特定訓練數據並創建原始問答對，微調模型以僅回答其確知的內容，拒絕回答不確定的問題。
在整個開發過程中，Meta研究人員強調簡單性，指出高質量數據、規模和直接方法始終帶來最佳結果。儘管他們探索了更複雜的架構和訓練配方，但發現增加的複雜性並不能證明其效益。
Llama 3.1 405B的規模對於開源模型來說是一個里程碑，通常被商業閉源模型所壓倒。Meta的首席執行官Mark Zuckerberg強調了經濟優勢，指出開發者運行Llama 3.1 405B的推理成本僅為使用GPT-4o等模型的一半。
Zuckerberg還支持開源AI作為軟體的自然進展，將其比作Unix從專有到更先進、安全且更廣泛的生態系統的演變，這得益於開源開發。
然而，正如ZDNET的Steven Vaughan-Nichols指出，Meta在Hugging Face上發布的程式碼缺少一些細節，且程式碼許可證比典型的開源許可證更具限制性。因此，雖然Llama 3.1算是開源，但並未完全符合標準。然而，其訓練過程的詳細公開是一個令人振奮的變化，特別是當OpenAI和Google等巨頭對其閉源模型越來越守口如瓶時。
相關文章
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及，瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元，其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”（vibe coding）技術，該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求，系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業，並擴充套件至 Work
Google 測試 Remy AI 代理，以 Gemini 為重點轉向使用者控制
根據《商業內幕》的報道，谷歌正在測試 Remy，這是 Gemini 的一款全新 AI 個人代理工具。該工具旨在代表使用者執行任務，從而簡化專業工作流程和日常事務。目前，Remy 正在 Gemini 應用的內部員工專屬版本中進行測試。該報告引用了一份內部檔案以及對兩位熟悉該專案的個人的採訪。內部資料將 Remy 描述為“全天候個人代理”，將 Gemini 定位為能夠代表使用者行事的主動助手。接近該專案的訊息人士證實，谷歌員工正在積極測試 Remy。谷歌發言人拒絕提供進一步評論。該報告未提及公開發布
如何修復核心網頁指標以獲得更好的 SEO 排名
利用 AI 工具簡化成績單評語撰寫引言用於生成成績單評語的 AI 工具Magic SchoolAlmanac AIChat GPT使用 Magic School 生成成績單評語登入 Magic School選擇成績單評語工具為學生定製評語使用 Almanac AI 生成成績單評語設定課程與評分方案配置評語長度與學生資訊使用 Almanac AI 生成評語比較 Magic School 與 Almanac AI設定的便捷性可定製性與課程內容的整合速度與效率使用
相關專題推薦
寫作
最適合撰寫長篇 SEO 文章的 AI 大綱生成工具
2026 年最新最佳、評價最高的 AI 大綱生成器，專為長篇 SEO 文章打造，由 XIX.AI 精心精選。這些強大的工具能為快速創作高品質內容提供革命性的協助，大幅提升寫作效率。 透過免費版與付費版的比較、實際測試結果及詳細排名，協助您找出最符合需求且不容錯過的選項。立即探索，釋放您的 AI 優勢。
8 個工具
xix.ai
教育與學習
適用於作業與考試準備的人工智慧學習工具
2026 年最新最佳 AI 學習工具，助您完成作業與備考！XIX.AI 精心整理了一份備受好評的清單，收錄了這些強大且具革命性、經實測驗證的工具，能幫助學生提升效率、簡化作業流程，並在考試中取得優異成績。 獲取免費版與付費版的比較、詳細排名，以及必試選項，以釋放您的 AI 優勢。立即探索！
10 個工具
xix.ai
音樂創作
面向詞曲創作者、旋律片段、主旋律及多語言草稿創作的AI人聲演示工具
2026 年最新最佳 AI 人聲演示工具，專為詞曲創作者、旋律創作者和多語言內容團隊打造！XIX.AI 精心整理了一份經過嚴格真實世界測試的高評分、變革性工具列表。您將找到詳細的免費與付費對比資料、全面排名以及必試選項，幫助您提升創作效率並釋放創意潛力。立即探索，發現滿足您所有內容需求的完美工具！
9 個工具
xix.ai
商業
最適合小型企業的頂尖 AI 競爭情勢分析工具
2026 年最新、最佳且評價最高的中小企業 AI 競爭研究工具！XIX.AI 精心精選了一系列極具威力且能改變遊戲規則的工具，並透過嚴謹的實測與詳細排名，每週更新內容。您可在此找到詳盡的免費版與付費版比較，協助您找出必試的工具，以提升工作效率並獲得競爭優勢。 立即探索，找出最適合您的工具！
9 個工具
xix.ai
圖像編輯
用於電商服裝、皮膚清潔和色彩一致性的 Photoshop AI 修圖工具
2026 年最新最佳 Photoshop AI 修圖工具，適用於電商服裝、皮膚清潔和色彩一致性！這份頂級精選列表包含強大的變革性解決方案，可幫助您提升寫作效率、簡化內容創作並輕鬆實現完美的視覺效果。每個工具都經過實際測試，並透過每週更新的排名進行驗證，同時提供免費與付費版本的詳細對比。由 XIX.AI 支援，這是任何希望發揮 AI 優勢的人必試指南。立即探索！
10 個工具
xix.ai
迅速的
適用於 ChatGPT 工作流程的最佳 AI 提示詞庫
2026 年最新、最受好評的 AI 提示詞庫，可優化各類 ChatGPT 工作流程。XIX.AI 精心蒐羅了一套強大且具革命性的精選集合，並經過嚴格的實際測試，以確保其表現卓越。 您可查閱詳盡的免費版與付費版比較分析，以及專家評比，助您挑選必試工具，從而提升工作效率並釋放您的 AI 優勢。立即探索！
11 個工具
xix.ai
評論 (27)
0/500
![DavidRodriguez]()
Interessant, dass Meta Llama 3.1 als erstes Open-Source-Modell bezeichnet. Aber wer kann so ein riesiges Modell eigentlich sinnvoll nutzen? Für kleine Unternehmen bestimmt zu teuer im Betrieb. 🧐
![ThomasBaker]()
Wow, Llama 3.1 sounds like a game-changer! Open-source and frontier-level? That’s huge for AI devs. Curious how it stacks up against closed models like GPT-4. 😎
![AlbertThomas]()
O Llama 3.1 é incrível! Adoro que seja de código aberto, é como ter um superpoder no meu arsenal de programação. No começo pode ser um pouco confuso, mas vale a pena experimentar se você gosta de IA! 🚀
![GaryGonzalez]()
ラマ3.1は本当にすごい！オープンソースで使えるのが最高です。最初は少し圧倒されましたが、慣れると便利です。AIに興味があるなら、ぜひ試してみてください！🚀
![AnthonyPerez]()
¡Llama 3.1 es una bestia! Me encanta que sea de código abierto, es como tener un superpoder en mi arsenal de programación. Al principio puede ser un poco abrumador, pero definitivamente vale la pena probarlo si te interesa la IA! 🚀
![JustinAnderson]()
¡Llama 3.1 de Meta es una maravilla! Me sorprende cómo están empujando los límites con la IA de código abierto. El rendimiento es genial, pero desearía que hubiera más documentación para principiantes. De todas formas, ¡es una herramienta que hay que probar! 💪
週二，Meta揭開了其Llama大型語言模型（LLMs）家族最新成員的面紗，推出了Llama 3.1。該公司自豪地宣稱Llama 3.1是首個開源的「前沿模型」，這個術語通常用於描述最先進的AI模型。
Llama 3.1有多種規模，但真正引人注目的還是其龐大的「405B」版本。憑藉驚人的4050億個神經「權重」或參數，它超越了其他知名的開源模型，如Nvidia的Nemotron 4、Google的Gemma 2和Mixtral。更引人入勝的是Meta團隊在打造這個巨型模型時做出的三個關鍵決策。
這些決策堪稱神經網絡工程的典範，構成了Llama 3.1 405B建構與訓練的支柱。它們也延續了Meta在Llama 2中展示的效率提升，顯示出降低深度學習總體計算預算的潛力。
首先，Llama 3.1 405B放棄了Google在其閉源Gemini 1.5和Mistral在其Mixtral中使用的「專家混合」方法。這種方法涉及創建不同的神經權重組合，其中一些可以關閉以簡化預測。相反，Meta的研究人員堅持使用自Google於2017年引入的經典「僅解碼器Transformer模型架構」。他們聲稱這一選擇帶來更穩定的訓練過程。
其次，為了提升這種簡單Transformer模型的性能，Meta的團隊提出了一種巧妙的多階段訓練方法。我們都知道，平衡訓練數據量和計算資源會顯著影響預測質量。但傳統的「規模法則」，即根據模型大小和數據預測性能的規則，並不一定能反映模型在「下游」任務（如推理測試）中的表現。
因此，Meta開發了自己的規模法則。他們增加了訓練數據和計算資源，通過多次迭代測試不同組合，觀察所得模型在關鍵下游任務中的表現。這一細緻的過程幫助他們找到最佳平衡點，最終選擇了4050億個參數作為旗艦模型。最終訓練由Meta的Grand Teton AI伺服器上的16,000個Nvidia H100 GPU晶片提供動力，並採用複雜的系統並行運行數據和權重。
第三項創新在於訓練後階段。每次訓練後，Llama 3.1都會經過嚴格的人類反饋引導過程，類似於OpenAI和其他公司用來優化模型輸出的方法。這包括「監督微調」，模型根據人類偏好學習區分理想與非理想的輸出。
Meta隨後引入了一個新變化，採用「直接偏好優化」（DPO），這是今年由Stanford University AI學者開創的更高效的人類反饋強化學習版本。他們還訓練Llama 3.1使用「工具」，如外部搜尋引擎，通過展示使用API調用解決的提示範例，提升其「零次學習」工具使用能力。
為了對抗「幻覺」，團隊精心挑選特定訓練數據並創建原始問答對，微調模型以僅回答其確知的內容，拒絕回答不確定的問題。
在整個開發過程中，Meta研究人員強調簡單性，指出高質量數據、規模和直接方法始終帶來最佳結果。儘管他們探索了更複雜的架構和訓練配方，但發現增加的複雜性並不能證明其效益。
Llama 3.1 405B的規模對於開源模型來說是一個里程碑，通常被商業閉源模型所壓倒。Meta的首席執行官Mark Zuckerberg強調了經濟優勢，指出開發者運行Llama 3.1 405B的推理成本僅為使用GPT-4o等模型的一半。
Zuckerberg還支持開源AI作為軟體的自然進展，將其比作Unix從專有到更先進、安全且更廣泛的生態系統的演變，這得益於開源開發。
然而，正如ZDNET的Steven Vaughan-Nichols指出，Meta在Hugging Face上發布的程式碼缺少一些細節，且程式碼許可證比典型的開源許可證更具限制性。因此，雖然Llama 3.1算是開源，但並未完全符合標準。然而，其訓練過程的詳細公開是一個令人振奮的變化，特別是當OpenAI和Google等巨頭對其閉源模型越來越守口如瓶時。
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及，瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元，其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”（vibe coding）技術，該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求，系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業，並擴充套件至 Work
Google 測試 Remy AI 代理，以 Gemini 為重點轉向使用者控制
根據《商業內幕》的報道，谷歌正在測試 Remy，這是 Gemini 的一款全新 AI 個人代理工具。該工具旨在代表使用者執行任務，從而簡化專業工作流程和日常事務。目前，Remy 正在 Gemini 應用的內部員工專屬版本中進行測試。該報告引用了一份內部檔案以及對兩位熟悉該專案的個人的採訪。內部資料將 Remy 描述為“全天候個人代理”，將 Gemini 定位為能夠代表使用者行事的主動助手。接近該專案的訊息人士證實，谷歌員工正在積極測試 Remy。谷歌發言人拒絕提供進一步評論。該報告未提及公開發布
如何修復核心網頁指標以獲得更好的 SEO 排名
利用 AI 工具簡化成績單評語撰寫引言用於生成成績單評語的 AI 工具Magic SchoolAlmanac AIChat GPT使用 Magic School 生成成績單評語登入 Magic School選擇成績單評語工具為學生定製評語使用 Almanac AI 生成成績單評語設定課程與評分方案配置評語長度與學生資訊使用 Almanac AI 生成評語比較 Magic School 與 Almanac AI設定的便捷性可定製性與課程內容的整合速度與效率使用
2026 年最新最佳、評價最高的 AI 大綱生成器，專為長篇 SEO 文章打造，由 XIX.AI 精心精選。這些強大的工具能為快速創作高品質內容提供革命性的協助，大幅提升寫作效率。 透過免費版與付費版的比較、實際測試結果及詳細排名，協助您找出最符合需求且不容錯過的選項。立即探索，釋放您的 AI 優勢。
8 個工具
xix.ai
2026 年最新最佳 AI 學習工具，助您完成作業與備考！XIX.AI 精心整理了一份備受好評的清單，收錄了這些強大且具革命性、經實測驗證的工具，能幫助學生提升效率、簡化作業流程，並在考試中取得優異成績。 獲取免費版與付費版的比較、詳細排名，以及必試選項，以釋放您的 AI 優勢。立即探索！
10 個工具
xix.ai
2026 年最新最佳 AI 人聲演示工具，專為詞曲創作者、旋律創作者和多語言內容團隊打造！XIX.AI 精心整理了一份經過嚴格真實世界測試的高評分、變革性工具列表。您將找到詳細的免費與付費對比資料、全面排名以及必試選項，幫助您提升創作效率並釋放創意潛力。立即探索，發現滿足您所有內容需求的完美工具！
9 個工具
xix.ai
2026 年最新、最佳且評價最高的中小企業 AI 競爭研究工具！XIX.AI 精心精選了一系列極具威力且能改變遊戲規則的工具，並透過嚴謹的實測與詳細排名，每週更新內容。您可在此找到詳盡的免費版與付費版比較，協助您找出必試的工具，以提升工作效率並獲得競爭優勢。 立即探索，找出最適合您的工具！
9 個工具
xix.ai
2026 年最新最佳 Photoshop AI 修圖工具，適用於電商服裝、皮膚清潔和色彩一致性！這份頂級精選列表包含強大的變革性解決方案，可幫助您提升寫作效率、簡化內容創作並輕鬆實現完美的視覺效果。每個工具都經過實際測試，並透過每週更新的排名進行驗證，同時提供免費與付費版本的詳細對比。由 XIX.AI 支援，這是任何希望發揮 AI 優勢的人必試指南。立即探索！
10 個工具
xix.ai
2026 年最新、最受好評的 AI 提示詞庫，可優化各類 ChatGPT 工作流程。XIX.AI 精心蒐羅了一套強大且具革命性的精選集合，並經過嚴格的實際測試，以確保其表現卓越。 您可查閱詳盡的免費版與付費版比較分析，以及專家評比，助您挑選必試工具，從而提升工作效率並釋放您的 AI 優勢。立即探索！
11 個工具
xix.ai
Interessant, dass Meta Llama 3.1 als erstes Open-Source-Modell bezeichnet. Aber wer kann so ein riesiges Modell eigentlich sinnvoll nutzen? Für kleine Unternehmen bestimmt zu teuer im Betrieb. 🧐
Wow, Llama 3.1 sounds like a game-changer! Open-source and frontier-level? That’s huge for AI devs. Curious how it stacks up against closed models like GPT-4. 😎
O Llama 3.1 é incrível! Adoro que seja de código aberto, é como ter um superpoder no meu arsenal de programação. No começo pode ser um pouco confuso, mas vale a pena experimentar se você gosta de IA! 🚀
ラマ3.1は本当にすごい！オープンソースで使えるのが最高です。最初は少し圧倒されましたが、慣れると便利です。AIに興味があるなら、ぜひ試してみてください！🚀
¡Llama 3.1 es una bestia! Me encanta que sea de código abierto, es como tener un superpoder en mi arsenal de programación. Al principio puede ser un poco abrumador, pero definitivamente vale la pena probarlo si te interesa la IA! 🚀
¡Llama 3.1 de Meta es una maravilla! Me sorprende cómo están empujando los límites con la IA de código abierto. El rendimiento es genial, pero desearía que hubiera más documentación para principiantes. De todas formas, ¡es una herramienta que hay que probar! 💪
