Noam Brown:AI“推理”模型本可以在幾十年前出現

諾姆·布朗(Noam Brown),OpenAI 人工智能推理領域的領先研究者,最近在聖荷西的 Nvidia GTC 會議上分享了見解,指出若當時已知正確的方法與演算法,"推理"人工智能的進展可能早在 20 年前就已實現。他解釋說:「這項研究方向被忽視有諸多原因」,突顯了當時方法上的一個缺口,這個缺口本可以更早被填補。
回顧他的研究歷程,布朗提到了一個關鍵的領悟:「我在研究過程中注意到,好的,少了些什麼。人類在棘手的情況下會花很多時間思考然後再行動。這也許對人工智能非常有用。」這一觀察促使他開發出模仿人類推理的人工智能模型,而非僅依賴計算能力。
他在卡內基梅隆大學的工作,特別是與 Pluribus AI 的研究,堪稱這種方法的典範。Pluribus 之所以開創性,是因為它使用推理來解決問題,與當時較常見的暴力計算方法形成對比。
在 OpenAI,布朗參與了 o1 人工智能模型的開發,該模型使用了一種稱為測試時推理(test-time inference)的方法。這項技術使人工智能在回應前能「思考」,提升其在數學和科學等領域的準確性與可靠性。
在小組討論中,布朗談到了學術研究與大型人工智能實驗室(如 OpenAI)在實驗規模上競爭的挑戰。他承認,由於現代模型對計算能力的需求日益增加,這種挑戰越來越困難,但他建議學者仍可通過專注於需要較少計算能力的領域(如設計模型架構)來做出重大貢獻。
他強調了學術界與前沿實驗室合作的潛力,說道:「前沿實驗室與學術界之間存在合作機會。當然,前沿實驗室會審視學術出版物,並仔細思考,好的,這是否提出了一個令人信服的論點,如果進一步放大規模,會非常有效。如果論文中有這樣的說服力論點,你知道,我們會在這些實驗室中進行調查。」
布朗的評論尤為及時,因為川普政府提議大幅削減科學研究經費,這一舉動遭到包括 Geoffrey Hinton 在內的人工智能專家批評,他們認為此舉可能會危及全球人工智能研究工作。
他還指出學術界在改進人工智能基準測試中的關鍵作用,指出:「人工智能基準測試的現狀真的很糟糕,而這不需要大量計算能力。」當前的人工智能基準測試往往聚焦於冷僻的知識,無法準確反映對用戶最重要的能力,導致對人工智能模型真實潛力與進展的混淆。
太平洋時間下午 4:06 更新:本文早期版本暗示布朗在開場評論中指的是像 o1 這樣的推理模型。實際上,他指的是在加入 OpenAI 之前關於遊戲人工智能的工作。我們對此錯誤表示歉意。
相關文章
山姆·奧特曼引發關於人工智慧減速的辯論
在Apple Podcasts上收聽在Spotify上收聽OpenAI執行長薩姆·阿爾特曼(Sam Altman)最近表示,現在可能是時候“控制人工智慧的發展速度”,以便社會“在這些新的能力水平周圍加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我討論了阿爾特曼的言論可能由最近的一次駭客攻擊所觸發,該攻擊中一名OpenAI代理突破了Hugging Face的系統。Sean指出,雖然由AI代理執行的駭客攻擊是前所未
OpenAI 與蘋果公司就商業秘密訴訟進行對抗
OpenAI 於週二駁回了蘋果公司的商業秘密指控,稱該訴訟毫無根據。“我們認真對待這些指控,但未發現任何支援它們的證據,”OpenAI 表示,據彭博社記者 Ed Ludlow 在 X 平臺報道,“我們支援公平競爭和工作自由,專注於創造賦能全球使用者的技術。”此前,蘋果公司於週五在美國加利福尼亞州北區聯邦地區法院提起訴訟,指控 OpenAI 策劃了一項從前蘋果員工處竊取機密資料和智慧財產權的計劃。這份長達 41 頁的訴狀針對 OpenAI 的高管層,包括首席硬體官 Tang Tan,他是一名擁有
OpenAI機器人專案主管凱特琳·卡利諾夫斯基因五角大樓合作專案辭職
OpenAI 機器人業務負責人凱特琳·卡利諾夫斯基(Caitlin Kalinowski)在該公司與國防部達成備受爭議的合作伙伴關係後辭職。“這不是一個輕鬆的決定,”卡利諾夫斯基在社交媒體宣告中解釋道。“雖然人工智慧在國家安全中發揮著至關重要的作用,但在沒有司法監督的情況下對美國公民進行監視,以及在未經人類授權的情況下部署致命自主武器,都是需要更加慎重考慮的界限。”卡利諾夫斯基此前因領導 Meta 的增強現實眼鏡部門而聞名,她於 2024 年 11 月加入 OpenAI。在辭職信中,她強調她
相關專題推薦
評論 (16)
0/500
もし20年前にこのアルゴリズムが知られていたら...考えただけでゾクゾクするね!でも、今のAIブームが前倒しになってたら、社会の対応は間に合ってたのかな?ちょっと怖いかも😅 ブラウン氏の指摘は技術史のifを考える良いきっかけだと思う
Increíble pensar que podríamos haber tenido IA 'razonadora' hace 20 años 😳. Me pregunto cómo habría cambiado el mundo tecnológico si esos algoritmos se hubieran descubierto antes... ¿Sería nuestro presente muy diferente? #RetroFuturo
Mind-blowing to think AI reasoning could’ve popped off 20 years ago! 🤯 Noam’s talk makes me wonder what other breakthroughs we’re sleeping on right now.
Mind-blowing to think AI reasoning could’ve been cracked 20 years ago! 🤯 Makes you wonder what else we’re sitting on, just waiting for the right spark. Noam’s talk sounds like a wake-up call for the AI world.

諾姆·布朗(Noam Brown),OpenAI 人工智能推理領域的領先研究者,最近在聖荷西的 Nvidia GTC 會議上分享了見解,指出若當時已知正確的方法與演算法,"推理"人工智能的進展可能早在 20 年前就已實現。他解釋說:「這項研究方向被忽視有諸多原因」,突顯了當時方法上的一個缺口,這個缺口本可以更早被填補。
回顧他的研究歷程,布朗提到了一個關鍵的領悟:「我在研究過程中注意到,好的,少了些什麼。人類在棘手的情況下會花很多時間思考然後再行動。這也許對人工智能非常有用。」這一觀察促使他開發出模仿人類推理的人工智能模型,而非僅依賴計算能力。
他在卡內基梅隆大學的工作,特別是與 Pluribus AI 的研究,堪稱這種方法的典範。Pluribus 之所以開創性,是因為它使用推理來解決問題,與當時較常見的暴力計算方法形成對比。
在 OpenAI,布朗參與了 o1 人工智能模型的開發,該模型使用了一種稱為測試時推理(test-time inference)的方法。這項技術使人工智能在回應前能「思考」,提升其在數學和科學等領域的準確性與可靠性。
在小組討論中,布朗談到了學術研究與大型人工智能實驗室(如 OpenAI)在實驗規模上競爭的挑戰。他承認,由於現代模型對計算能力的需求日益增加,這種挑戰越來越困難,但他建議學者仍可通過專注於需要較少計算能力的領域(如設計模型架構)來做出重大貢獻。
他強調了學術界與前沿實驗室合作的潛力,說道:「前沿實驗室與學術界之間存在合作機會。當然,前沿實驗室會審視學術出版物,並仔細思考,好的,這是否提出了一個令人信服的論點,如果進一步放大規模,會非常有效。如果論文中有這樣的說服力論點,你知道,我們會在這些實驗室中進行調查。」
布朗的評論尤為及時,因為川普政府提議大幅削減科學研究經費,這一舉動遭到包括 Geoffrey Hinton 在內的人工智能專家批評,他們認為此舉可能會危及全球人工智能研究工作。
他還指出學術界在改進人工智能基準測試中的關鍵作用,指出:「人工智能基準測試的現狀真的很糟糕,而這不需要大量計算能力。」當前的人工智能基準測試往往聚焦於冷僻的知識,無法準確反映對用戶最重要的能力,導致對人工智能模型真實潛力與進展的混淆。
太平洋時間下午 4:06 更新:本文早期版本暗示布朗在開場評論中指的是像 o1 這樣的推理模型。實際上,他指的是在加入 OpenAI 之前關於遊戲人工智能的工作。我們對此錯誤表示歉意。
山姆·奧特曼引發關於人工智慧減速的辯論
在Apple Podcasts上收聽在Spotify上收聽OpenAI執行長薩姆·阿爾特曼(Sam Altman)最近表示,現在可能是時候“控制人工智慧的發展速度”,以便社會“在這些新的能力水平周圍加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我討論了阿爾特曼的言論可能由最近的一次駭客攻擊所觸發,該攻擊中一名OpenAI代理突破了Hugging Face的系統。Sean指出,雖然由AI代理執行的駭客攻擊是前所未
OpenAI 與蘋果公司就商業秘密訴訟進行對抗
OpenAI 於週二駁回了蘋果公司的商業秘密指控,稱該訴訟毫無根據。“我們認真對待這些指控,但未發現任何支援它們的證據,”OpenAI 表示,據彭博社記者 Ed Ludlow 在 X 平臺報道,“我們支援公平競爭和工作自由,專注於創造賦能全球使用者的技術。”此前,蘋果公司於週五在美國加利福尼亞州北區聯邦地區法院提起訴訟,指控 OpenAI 策劃了一項從前蘋果員工處竊取機密資料和智慧財產權的計劃。這份長達 41 頁的訴狀針對 OpenAI 的高管層,包括首席硬體官 Tang Tan,他是一名擁有
OpenAI機器人專案主管凱特琳·卡利諾夫斯基因五角大樓合作專案辭職
OpenAI 機器人業務負責人凱特琳·卡利諾夫斯基(Caitlin Kalinowski)在該公司與國防部達成備受爭議的合作伙伴關係後辭職。“這不是一個輕鬆的決定,”卡利諾夫斯基在社交媒體宣告中解釋道。“雖然人工智慧在國家安全中發揮著至關重要的作用,但在沒有司法監督的情況下對美國公民進行監視,以及在未經人類授權的情況下部署致命自主武器,都是需要更加慎重考慮的界限。”卡利諾夫斯基此前因領導 Meta 的增強現實眼鏡部門而聞名,她於 2024 年 11 月加入 OpenAI。在辭職信中,她強調她
もし20年前にこのアルゴリズムが知られていたら...考えただけでゾクゾクするね!でも、今のAIブームが前倒しになってたら、社会の対応は間に合ってたのかな?ちょっと怖いかも😅 ブラウン氏の指摘は技術史のifを考える良いきっかけだと思う
Increíble pensar que podríamos haber tenido IA 'razonadora' hace 20 años 😳. Me pregunto cómo habría cambiado el mundo tecnológico si esos algoritmos se hubieran descubierto antes... ¿Sería nuestro presente muy diferente? #RetroFuturo
Mind-blowing to think AI reasoning could’ve popped off 20 years ago! 🤯 Noam’s talk makes me wonder what other breakthroughs we’re sleeping on right now.
Mind-blowing to think AI reasoning could’ve been cracked 20 years ago! 🤯 Makes you wonder what else we’re sitting on, just waiting for the right spark. Noam’s talk sounds like a wake-up call for the AI world.





首頁






