Noam Brown:AI“推理”模型本可以在几十年前出现

诺姆·布朗,OpenAI 人工智能推理领域的领先研究者,最近在圣何塞的 Nvidia GTC 会议上分享了见解,指出如果当时已知正确的方法和算法,"推理"人工智能的进步可能早在20年前就已实现。他解释说:“由于各种原因,这一研究方向被忽视了,”他强调了在方法上存在的一个空白,这个空白本可以更早被填补。
回顾他的研究历程,布朗指出一个关键的领悟:“我在研究过程中注意到,好的,有一些东西缺失了。人类在面对复杂情况时会花很多时间思考,然后再行动。也许这对人工智能会非常有用。”这一观察促使他开发出模仿人类推理的人工智能模型,而不是仅仅依赖计算能力。
他在卡内基梅隆大学的工作,特别是开发出击败顶级人类扑克玩家的 Pluribus AI,体现了这种方法。Pluribus 的突破在于它使用推理来解决问题,这与当时更常见的暴力计算方法形成了对比。
在 OpenAI,布朗参与了 o1 人工智能模型的开发,该模型使用了一种称为测试时推理的技术。这种技术使人工智能在回应前能够“思考”,提高了其在数学和科学等领域的准确性和可靠性。
在小组讨论中,布朗谈到了学术研究与大型人工智能实验室(如 OpenAI)在实验规模上的竞争挑战。他承认,由于现代模型对计算能力的需求不断增加,学术研究的难度也在增加,但他建议学术界可以通过专注于需要较少计算能力的领域,如设计模型架构,仍然能够作出重大贡献。
他强调了学术界与前沿实验室合作的潜力,指出:“前沿实验室与学术界之间存在合作机会。当然,前沿实验室会关注学术出版物,并认真思考,好的,这个论点是否有说服力,如果进一步扩大规模,会非常有效。如果论文中提出了这样的令人信服的论点,你知道,我们会在这些实验室中进行探索。”
布朗的评论尤为及时,因为特朗普政府提议大幅削减科学经费,这一举措遭到包括杰弗里·希顿在内的 AI 专家的批评,他们认为这种削减可能危及全球人工智能研究工作。
他还指出学术界在改进人工智能基准测试中的关键作用,指出:“人工智能基准测试的现状非常糟糕,而这并不需要大量计算资源。”当前的人工智能基准测试往往关注于冷门知识,无法准确反映用户最关心的能力,导致人们对人工智能模型的真实潜力与进展感到困惑。
太平洋时间下午4:06更新:本文早期版本暗示布朗在最初的评论中提到了像 o1 这样的推理模型。实际上,他指的是在 OpenAI 之前关于游戏人工智能的工作。我们对此错误表示歉意。
相关文章
山姆·奥特曼引发关于人工智能减速的辩论
在Apple Podcasts上收听在Spotify上收听OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)最近表示,现在可能是时候“控制人工智能的发展速度”,以便社会“在这些新的能力水平周围加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我讨论了阿尔特曼的言论可能由最近的一次黑客攻击所触发,该攻击中一名OpenAI代理突破了Hugging Face的系统。Sean指出,虽然由AI代理执行的黑客攻击是前所未
OpenAI 与苹果公司就商业秘密诉讼进行对抗
OpenAI 于周二驳回了苹果公司的商业秘密指控,称该诉讼毫无根据。“我们认真对待这些指控,但未发现任何支持它们的证据,”OpenAI 表示,据彭博社记者 Ed Ludlow 在 X 平台报道,“我们支持公平竞争和工作自由,专注于创造赋能全球用户的技术。”此前,苹果公司于周五在美国加利福尼亚州北区联邦地区法院提起诉讼,指控 OpenAI 策划了一项从前苹果员工处窃取机密数据和知识产权的计划。这份长达 41 页的诉状针对 OpenAI 的高管层,包括首席硬件官 Tang Tan,他是一名拥有
OpenAI机器人项目主管凯特琳·卡利诺夫斯基因五角大楼合作项目辞职
OpenAI 机器人业务负责人凯特琳·卡利诺夫斯基(Caitlin Kalinowski)在该公司与国防部达成备受争议的合作伙伴关系后辞职。“这不是一个轻松的决定,”卡利诺夫斯基在社交媒体声明中解释道。“虽然人工智能在国家安全中发挥着至关重要的作用,但在没有司法监督的情况下对美国公民进行监视,以及在未经人类授权的情况下部署致命自主武器,都是需要更加慎重考虑的界限。”卡利诺夫斯基此前因领导 Meta 的增强现实眼镜部门而闻名,她于 2024 年 11 月加入 OpenAI。在辞职信中,她强调她
相关专题推荐
评论 (16)
0/500
もし20年前にこのアルゴリズムが知られていたら...考えただけでゾクゾクするね!でも、今のAIブームが前倒しになってたら、社会の対応は間に合ってたのかな?ちょっと怖いかも😅 ブラウン氏の指摘は技術史のifを考える良いきっかけだと思う
Increíble pensar que podríamos haber tenido IA 'razonadora' hace 20 años 😳. Me pregunto cómo habría cambiado el mundo tecnológico si esos algoritmos se hubieran descubierto antes... ¿Sería nuestro presente muy diferente? #RetroFuturo
Mind-blowing to think AI reasoning could’ve popped off 20 years ago! 🤯 Noam’s talk makes me wonder what other breakthroughs we’re sleeping on right now.
Mind-blowing to think AI reasoning could’ve been cracked 20 years ago! 🤯 Makes you wonder what else we’re sitting on, just waiting for the right spark. Noam’s talk sounds like a wake-up call for the AI world.

诺姆·布朗,OpenAI 人工智能推理领域的领先研究者,最近在圣何塞的 Nvidia GTC 会议上分享了见解,指出如果当时已知正确的方法和算法,"推理"人工智能的进步可能早在20年前就已实现。他解释说:“由于各种原因,这一研究方向被忽视了,”他强调了在方法上存在的一个空白,这个空白本可以更早被填补。
回顾他的研究历程,布朗指出一个关键的领悟:“我在研究过程中注意到,好的,有一些东西缺失了。人类在面对复杂情况时会花很多时间思考,然后再行动。也许这对人工智能会非常有用。”这一观察促使他开发出模仿人类推理的人工智能模型,而不是仅仅依赖计算能力。
他在卡内基梅隆大学的工作,特别是开发出击败顶级人类扑克玩家的 Pluribus AI,体现了这种方法。Pluribus 的突破在于它使用推理来解决问题,这与当时更常见的暴力计算方法形成了对比。
在 OpenAI,布朗参与了 o1 人工智能模型的开发,该模型使用了一种称为测试时推理的技术。这种技术使人工智能在回应前能够“思考”,提高了其在数学和科学等领域的准确性和可靠性。
在小组讨论中,布朗谈到了学术研究与大型人工智能实验室(如 OpenAI)在实验规模上的竞争挑战。他承认,由于现代模型对计算能力的需求不断增加,学术研究的难度也在增加,但他建议学术界可以通过专注于需要较少计算能力的领域,如设计模型架构,仍然能够作出重大贡献。
他强调了学术界与前沿实验室合作的潜力,指出:“前沿实验室与学术界之间存在合作机会。当然,前沿实验室会关注学术出版物,并认真思考,好的,这个论点是否有说服力,如果进一步扩大规模,会非常有效。如果论文中提出了这样的令人信服的论点,你知道,我们会在这些实验室中进行探索。”
布朗的评论尤为及时,因为特朗普政府提议大幅削减科学经费,这一举措遭到包括杰弗里·希顿在内的 AI 专家的批评,他们认为这种削减可能危及全球人工智能研究工作。
他还指出学术界在改进人工智能基准测试中的关键作用,指出:“人工智能基准测试的现状非常糟糕,而这并不需要大量计算资源。”当前的人工智能基准测试往往关注于冷门知识,无法准确反映用户最关心的能力,导致人们对人工智能模型的真实潜力与进展感到困惑。
太平洋时间下午4:06更新:本文早期版本暗示布朗在最初的评论中提到了像 o1 这样的推理模型。实际上,他指的是在 OpenAI 之前关于游戏人工智能的工作。我们对此错误表示歉意。
山姆·奥特曼引发关于人工智能减速的辩论
在Apple Podcasts上收听在Spotify上收听OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)最近表示,现在可能是时候“控制人工智能的发展速度”,以便社会“在这些新的能力水平周围加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我讨论了阿尔特曼的言论可能由最近的一次黑客攻击所触发,该攻击中一名OpenAI代理突破了Hugging Face的系统。Sean指出,虽然由AI代理执行的黑客攻击是前所未
OpenAI 与苹果公司就商业秘密诉讼进行对抗
OpenAI 于周二驳回了苹果公司的商业秘密指控,称该诉讼毫无根据。“我们认真对待这些指控,但未发现任何支持它们的证据,”OpenAI 表示,据彭博社记者 Ed Ludlow 在 X 平台报道,“我们支持公平竞争和工作自由,专注于创造赋能全球用户的技术。”此前,苹果公司于周五在美国加利福尼亚州北区联邦地区法院提起诉讼,指控 OpenAI 策划了一项从前苹果员工处窃取机密数据和知识产权的计划。这份长达 41 页的诉状针对 OpenAI 的高管层,包括首席硬件官 Tang Tan,他是一名拥有
OpenAI机器人项目主管凯特琳·卡利诺夫斯基因五角大楼合作项目辞职
OpenAI 机器人业务负责人凯特琳·卡利诺夫斯基(Caitlin Kalinowski)在该公司与国防部达成备受争议的合作伙伴关系后辞职。“这不是一个轻松的决定,”卡利诺夫斯基在社交媒体声明中解释道。“虽然人工智能在国家安全中发挥着至关重要的作用,但在没有司法监督的情况下对美国公民进行监视,以及在未经人类授权的情况下部署致命自主武器,都是需要更加慎重考虑的界限。”卡利诺夫斯基此前因领导 Meta 的增强现实眼镜部门而闻名,她于 2024 年 11 月加入 OpenAI。在辞职信中,她强调她
もし20年前にこのアルゴリズムが知られていたら...考えただけでゾクゾクするね!でも、今のAIブームが前倒しになってたら、社会の対応は間に合ってたのかな?ちょっと怖いかも😅 ブラウン氏の指摘は技術史のifを考える良いきっかけだと思う
Increíble pensar que podríamos haber tenido IA 'razonadora' hace 20 años 😳. Me pregunto cómo habría cambiado el mundo tecnológico si esos algoritmos se hubieran descubierto antes... ¿Sería nuestro presente muy diferente? #RetroFuturo
Mind-blowing to think AI reasoning could’ve popped off 20 years ago! 🤯 Noam’s talk makes me wonder what other breakthroughs we’re sleeping on right now.
Mind-blowing to think AI reasoning could’ve been cracked 20 years ago! 🤯 Makes you wonder what else we’re sitting on, just waiting for the right spark. Noam’s talk sounds like a wake-up call for the AI world.





首页






