奔騰4的復興:這款已有20年曆史的CPU能夠執行Meta Llama 3大型模型

最近,YouTube技術頻道Fully Buffered進行了一項令人印象深刻且極具挑戰性的實驗:他們成功地在2006年推出的Pentium 4 641處理器上執行了Meta最新的Llama 3.2 3B大型模型。
這項測試迫使現代人工智慧技術與二十年前的硬體裝置進行了碰撞,不僅揭示了大語言模型的基本相容性限制,還引發了眾多觀眾的思考:在人工智慧時代,摩爾定律是如何以這種不同尋常的方式實現跨代際應用的。
硬體考古學:將2006年的元件推向極限
為了完成這項測試,Fully Buffered團隊重新構建了一臺2006年典型的愛好者組裝電腦的硬體配置:
核心處理器:英特爾Pentium 4 641(3.2GHz,單核處理器,2MB L2快取)。
記憶體配置:華碩P5WDH Deluxe主機板搭配四塊2GB DDR2-800記憶體條,總容量為8GB。
軟體環境:團隊專門配置了一種無AVX模式的推理環境,以彌補這種老舊架構中缺乏AVX2指令的問題。
極慢的推理速度:每秒0.21個token
在測試過程中,當系統被問到“什麼是Pentium 4?”時,這款二十年前的單核處理器立即進入了滿負荷執行狀態。
輸出速度:該處理器的生成速度最低僅為每秒0.21個token。
所需時間:為了生成一個完整的答案,Pentium 4需要以最大負荷執行近33分鐘。
在當今人工智慧應用要求毫秒級響應的時代,33分鐘的等待時間簡直是一場災難。但對於這款NetBurst時代的單核晶片來說,這卻是人工智慧原理在老舊矽片上執行的20年漫長曆程。
超出實用範圍:測試人工智慧的相容性邊界
為什麼要在如此古老的硬體上執行人工智慧呢?測試團隊解釋說,他們的目的並非為了實際應用,而是要探究兩個關鍵的極限問題:
無AVX指令集的可行性:現代大型模型幾乎總是依賴AVX指令集來執行,但透過特定的推理模式,人工智慧仍然可以在沒有這些指令的情況下進行運算。
記憶體作為基礎:這個擁有30億個引數的模型勉強能夠適應8GB的DDR2記憶體容量,這一事實證明,即使計算能力極其有限,單核CPU也同樣可以支援現代的大語言模型,而無需依賴高階GPU的效能。
結語:NetBurst架構的最後篇章
早在2006年,英特爾的Pentium 4還在透過NetBurst架構追求更高的時脈頻率,當時人們更注重處理器的頻率而非能效。當時的工程師們或許預見到了未來強大處理器的時代,但他們肯定沒有想到,他們的這種架構會在二十年後被用來仔細回顧和詮釋自己的歷史。
這項實驗為人工智慧硬體生態系統提供了一個極端的參考點:計算能力決定了響應速度,但指令集的相容性和記憶體容量才是執行大型模型的真正關鍵因素。當Pentium 4最終在螢幕上輸出了自己的描述時,這不僅僅是一次成功的推理測試——更是計算機歷史上一段富有詩意的告別。
相關文章
Suno 在法律訴訟中為歌曲新增水印
Suno,這個允許使用者生成由人工智慧創作的音樂的平臺,近日推出了新功能,包括為平臺製作的曲目新增標籤、限制下載,並更新社羣標準以遏制未經授權的複製品。這些更新是在Suno面臨多家唱片公司和藝術家組織提起的多起訴訟之際推出的。在部落格文章中,聯合創始人兼執行長Mikey Shulman概述了核心原則,強調該平臺旨在促進原創創作,同時擴大更廣泛受眾對人工智慧音樂工具的訪問許可權。一個主要的爭議點在於,使用者將人工智慧生成的歌曲上傳到其他流媒體服務並透過操縱系統獲取收入。Suno表示,現在將採用音訊
馬斯克承認 Grok 構建過程中洩露了使用者程式碼,並承諾清除所有歷史資料
埃隆·馬斯克直接回應了圍繞 Grok Build 的隱私爭議,首先以簡單的“True”(屬實)確認了該事件的有效性。他承諾,此前上傳至 SpaceXAI 的所有使用者資料將被永久刪除,並表示“不留一個位元組”。這是人工智慧行業首次由主要科技領袖公開承認錯誤並主動刪除使用者資料。安全研究人員的“釣魚”測試揭示了資料洩露的具體證據此次爭議源於獨立人工智慧安全研究人員 @cereblab 的一份報告。SpaceXAI 推出的 AI 程式設計助手 Grok Build 在其官方網站上聲稱其“優先本地執行,程式碼
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
相關專題推薦
評論 (0)
0/500

最近,YouTube技術頻道Fully Buffered進行了一項令人印象深刻且極具挑戰性的實驗:他們成功地在2006年推出的Pentium 4 641處理器上執行了Meta最新的Llama 3.2 3B大型模型。
這項測試迫使現代人工智慧技術與二十年前的硬體裝置進行了碰撞,不僅揭示了大語言模型的基本相容性限制,還引發了眾多觀眾的思考:在人工智慧時代,摩爾定律是如何以這種不同尋常的方式實現跨代際應用的。
硬體考古學:將2006年的元件推向極限
為了完成這項測試,Fully Buffered團隊重新構建了一臺2006年典型的愛好者組裝電腦的硬體配置:
核心處理器:英特爾Pentium 4 641(3.2GHz,單核處理器,2MB L2快取)。
記憶體配置:華碩P5WDH Deluxe主機板搭配四塊2GB DDR2-800記憶體條,總容量為8GB。
軟體環境:團隊專門配置了一種無AVX模式的推理環境,以彌補這種老舊架構中缺乏AVX2指令的問題。
極慢的推理速度:每秒0.21個token
在測試過程中,當系統被問到“什麼是Pentium 4?”時,這款二十年前的單核處理器立即進入了滿負荷執行狀態。
輸出速度:該處理器的生成速度最低僅為每秒0.21個token。
所需時間:為了生成一個完整的答案,Pentium 4需要以最大負荷執行近33分鐘。
在當今人工智慧應用要求毫秒級響應的時代,33分鐘的等待時間簡直是一場災難。但對於這款NetBurst時代的單核晶片來說,這卻是人工智慧原理在老舊矽片上執行的20年漫長曆程。
超出實用範圍:測試人工智慧的相容性邊界
為什麼要在如此古老的硬體上執行人工智慧呢?測試團隊解釋說,他們的目的並非為了實際應用,而是要探究兩個關鍵的極限問題:
無AVX指令集的可行性:現代大型模型幾乎總是依賴AVX指令集來執行,但透過特定的推理模式,人工智慧仍然可以在沒有這些指令的情況下進行運算。
記憶體作為基礎:這個擁有30億個引數的模型勉強能夠適應8GB的DDR2記憶體容量,這一事實證明,即使計算能力極其有限,單核CPU也同樣可以支援現代的大語言模型,而無需依賴高階GPU的效能。
結語:NetBurst架構的最後篇章
早在2006年,英特爾的Pentium 4還在透過NetBurst架構追求更高的時脈頻率,當時人們更注重處理器的頻率而非能效。當時的工程師們或許預見到了未來強大處理器的時代,但他們肯定沒有想到,他們的這種架構會在二十年後被用來仔細回顧和詮釋自己的歷史。
這項實驗為人工智慧硬體生態系統提供了一個極端的參考點:計算能力決定了響應速度,但指令集的相容性和記憶體容量才是執行大型模型的真正關鍵因素。當Pentium 4最終在螢幕上輸出了自己的描述時,這不僅僅是一次成功的推理測試——更是計算機歷史上一段富有詩意的告別。
Suno 在法律訴訟中為歌曲新增水印
Suno,這個允許使用者生成由人工智慧創作的音樂的平臺,近日推出了新功能,包括為平臺製作的曲目新增標籤、限制下載,並更新社羣標準以遏制未經授權的複製品。這些更新是在Suno面臨多家唱片公司和藝術家組織提起的多起訴訟之際推出的。在部落格文章中,聯合創始人兼執行長Mikey Shulman概述了核心原則,強調該平臺旨在促進原創創作,同時擴大更廣泛受眾對人工智慧音樂工具的訪問許可權。一個主要的爭議點在於,使用者將人工智慧生成的歌曲上傳到其他流媒體服務並透過操縱系統獲取收入。Suno表示,現在將採用音訊
馬斯克承認 Grok 構建過程中洩露了使用者程式碼,並承諾清除所有歷史資料
埃隆·馬斯克直接回應了圍繞 Grok Build 的隱私爭議,首先以簡單的“True”(屬實)確認了該事件的有效性。他承諾,此前上傳至 SpaceXAI 的所有使用者資料將被永久刪除,並表示“不留一個位元組”。這是人工智慧行業首次由主要科技領袖公開承認錯誤並主動刪除使用者資料。安全研究人員的“釣魚”測試揭示了資料洩露的具體證據此次爭議源於獨立人工智慧安全研究人員 @cereblab 的一份報告。SpaceXAI 推出的 AI 程式設計助手 Grok Build 在其官方網站上聲稱其“優先本地執行,程式碼
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑





首頁






