关于AI领域的“扑翼飞机”: “我们希望探索截然不同的方法”

近几个月来,一批雄心勃勃、专注于研究的人工智能实验室如雨后春笋般涌现,其中“Flapping Airplanes”无疑是最引人入胜的之一。 在年轻且充满好奇心的创始团队带领下,该实验室致力于探索数据消耗更少的人工智能训练方法。这种方法有望从根本上重塑人工智能模型的经济效益和功能——而凭借1.8亿美元的种子轮融资,他们拥有充足的探索空间。
上周,我与该实验室的三位联合创始人——本和阿舍·斯佩克特兄弟,以及艾丹·史密斯——坐下来,探讨了为何现在是创立新人工智能实验室的绝佳时机,以及他们为何不断回归受人类大脑启发的理念。
让我先问一个显而易见的问题:为什么是现在?像OpenAI和DeepMind这样的实验室已经投入了大量资源来扩展其模型。我想竞争压力一定很大。是什么让你们觉得现在正是成立一家基础模型公司的最佳时机?
本:还有太多事情有待完成。过去五到十年的进展确实令人惊叹。我们热爱这些工具——每天都在使用它们。但问题在于,这是否就是我们需要实现的全部? 我们经过深思熟虑,得出的答案是否定的——未来还有更多待探索的领域。对我们而言,数据效率问题似乎是亟待解决的关键。当今最前沿的模型基本上是基于人类全部知识进行训练的,而人类却能用远少于此的信息量进行处理。这种差距巨大,值得深入探究。
我们所做的工作,本质上是对以下三点做出的集中押注。首先,数据效率是值得解决的正确问题——这是一个真正崭新的方向,且有望取得进展。 其次,解决这一问题将具有商业价值,并能让世界变得更好。第三,能够承担这一任务的理想团队应当富有创造力,在某些方面甚至略显“生涩”——这支团队愿意从零开始重新审视这些问题。
艾丹:完全正确。我们并不认为自己与其他实验室处于竞争关系,因为我们专注于完全不同的一系列问题。 看看人类的大脑——它的学习方式与Transformer模型在根本上不同。未必更好,只是截然不同。因此,我们看到的权衡取舍也不同。大型语言模型(LLMs)在记忆和调用海量知识方面非常出色,但它们难以快速掌握新技能——适应新任务需要海量的数据。 若深入观察人脑,其运作的算法与梯度下降及其他当前训练技术有着根本性的差异。正因如此,我们正在培养新一代研究人员,以解决这些问题并重新构想人工智能的未来图景。
阿舍尔:这个问题在科学上极具吸引力:为什么我们构建的智能系统与人类的行为如此不同?这种差异从何而来,我们又如何利用它来构建更好的系统?与此同时,我相信这在商业上可行,并且对世界有益。 许多重要领域都面临数据瓶颈——机器人技术、科学发现,甚至企业应用。一种数据效率提高一百万倍的模型,将其融入经济体系的难度也将降低一百万倍。因此,对我们而言,采用全新的视角令人振奋:如果我们能构建出数据效率大幅提升的模型,它将带来怎样的可能?
TechCrunch 活动TechCrunch 2026 创始人峰会:门票开售
6月23日,波士顿 将迎来1,100余位创始人 齐聚TechCrunch 2026创始人峰会,共同度过一个专注于增长、执行与实际规模化发展的全天活动。向那些塑造了行业格局的创始人及投资者学习。与处于相似成长阶段的同行建立联系。带走可立即付诸实践的策略
购买个人通行证最高可节省300 美元;四人及以上团队购买团体票,最高可享 30% 折扣。
TechCrunch创始人峰会:门票开售
6月23日,波士顿将 迎来2026年TechCrunch创始人峰会 ,届时将有超过1,100位创始人齐聚一堂,共同度过这一专注于增长、执行和实际规模化发展的全天盛会。向那些塑造了行业格局的创始人及投资者取经,与处于相似成长阶段的同行建立联系,并带走可立即付诸实践的策略
购买通行证最高可节省300美元,四人及以上团队购买团体票最高可享30%折扣。
马萨诸塞州波士顿 | 2026年6月23日 立即注册这引出了我的下一个问题,这也与“Flapping Airplanes”这个名字有关。 在人工智能领域,存在一场哲学层面的争论:我们究竟应该在多大程度上尝试复制人类大脑的运作过程,还是应该创造一种遵循完全不同路径的、更抽象的智能。艾丹来自Neuralink,而该公司完全专注于人类大脑。你们是否认为自己正在追求一种更具神经形态特征的人工智能视角?
艾丹:我 将大脑视为一种“存在性证明”——它证明了世上存在其他算法,而不仅仅是一种正统理论。大脑在极其严苛的限制下运作。触发一次动作电位需要一毫秒;而在同一时间内,你的计算机可以执行无数次运算。 因此,很可能存在一种比大脑更优越、且与Transformer模型截然不同的方法。我们虽然从大脑的某些运作方式中汲取了灵感,但并不觉得自己受其束缚。
本:补充一点 ,这恰恰体现在我们的名字里:“Flapping Airplanes”(振翅飞机)。不妨把当前的系统看作巨大的波音787客机。我们并不试图制造鸟类——那目标太远了。 我们试图构建的,更像是一架拍翼飞机。从计算机系统的角度来看,大脑和硅芯片的限制条件存在显著差异,因此我们不应期望这两种系统最终会呈现出相同的外观。由于基底如此不同,且在计算成本、局部性及数据移动等方面存在截然不同的权衡取舍,这些系统自然会呈现出略有不同的形态。 但这并不意味着我们不应该从大脑中汲取灵感,并利用我们认为有趣的部分来改进我们自己的系统。
如今,实验室似乎拥有了更大的自由度,可以专注于研究而非仅仅开发产品。这对这一代实验室来说,似乎是一个巨大的转变。有些实验室非常注重研究;另一些则只是“目前以研究为主”。在“Flapping Airplanes”内部,关于这一点的讨论是如何展开的?
阿舍尔:我真希望能给你一个时间表。真希望能说,三年内我们将解决这个研究难题,然后这样进行商业化。但我做不到。我们不知道答案。 我们正在探索真理。话虽如此,我们确实拥有商业背景。我曾为企业开发技术,并为这些企业创造了可观的收入。本则曾孵化过具有商业根基的初创公司,我们真心期待实现商业化——我们认为,将创造出的价值交到能真正利用它的人手中,对世界是有益的。 所以我们并不反对商业化。只是必须从研究做起,因为如果一开始就签署大型企业合同,我们会因此分心,从而无法开展有价值的研究。
艾丹:没错——我们想尝试彻底不同的东西,而有时激进的想法可能比现有模式更糟糕。我们正在探索一系列不同的权衡取舍,希望它们从长远来看能带来回报。
本:企业 真正专注于做好一件事时,才能发挥出最佳状态,对吧?大公司有能力同时做很多事情。作为初创公司,你必须选择最有价值的事情并全力以赴。目前,当我们全心全意致力于解决根本性问题时,才能创造最大的价值。
其实我对此持乐观态度,相信不久之后我们就能取得足够进展,开始在现实世界中崭露头角。从现实世界的反馈中能学到很多东西。这个世界最神奇之处在于它会不断教会你——它就像一个巨大的真理之池,你可以随时从中汲取智慧。 我认为,近期这些商业模式在经济和融资方面的转变,使企业能够更长时间地专注于自身擅长的领域。这种专注——这也是我最兴奋的地方——将让我们做出真正与众不同的成果。
为了明确你所指的内容:当前人工智能领域热度极高,以至于投资者愿意向一家由一群非常聪明、非常年轻的人组成的全新公司提供1.8亿美元的种子轮融资,而这些人并非刚从PayPal套现离职。参与这一过程的体验如何? 你一开始就知道市场有这种需求,还是后来才发现这比你预期的要大得多?
本:两者兼而有之。市场已经火热了好几个月,所以大额融资即将达成并不是什么秘密。但你永远无法预知融资环境会如何回应你的具体构想。 归根结底,你必须让外界给你反馈。即使在融资过程中,我们也学到了很多并调整了思路——我们优化了商业化的优先级和时间表。
我们的理念能引起如此强烈的共鸣,这让我们有些意外。虽然对我们来说这很明确,但你永远不知道别人是否会认同,还是会觉得你疯了。 我们非常幸运地遇到了一群出色的投资者,他们真正理解了我们的理念,并表示:“没错,这正是我们一直在寻找的。”这真是太棒了——既令人惊喜又美妙。
艾丹:是的,对“研究时代”的渴望已经酝酿了一段时间。我们越来越发现,自己正处于引领这一时代、尝试这些颠覆性想法的关键位置。
至少对于以规模驱动的公司而言,基础模型的入门成本极其高昂——构建如此大规模的模型需要极其庞大的计算资源。而研究则处于中间地带:虽然你可能也在构建基础模型,但如果使用较少的数据且不那么注重规模,或许就能找到突破口。 你预计计算成本会在多大程度上限制你们的资金续航能力?
Ben:深入的基础研究有一个优势,这听起来有些矛盾:尝试真正疯狂、激进的想法,反而比做增量工作要便宜得多。进行增量工作时,为了验证其可行性,你必须在规模化阶梯上走得很远——许多小规模的干预措施在扩大规模后往往无法持续。 这很昂贵。但如果你对架构优化器有一个大胆的新想法,它第一轮运行时很可能就会失败,所以你不需要将其扩展。它本来就行不通——这太棒了。
这并不意味着规模对我们无关紧要。规模是工具箱中的重要工具。能够将我们的想法扩展到更大规模当然很重要。所以我不会把我们定位为规模的对立面。但我们工作的一个美妙之处在于,在考虑大规模之前,我们可以在非常小的规模上尝试许多想法。
阿舍:是的 ,你应该能够利用整个互联网——但你并不需要这样做。我们觉得非常难以理解的是,竟然需要利用整个互联网才能实现人类级别的智能。
那么,如果能更高效地利用数据进行训练,会带来什么可能性?可以推测,模型将变得更强大、更智能。你对这将带来什么结果有具体的设想吗?我们是在谈论更强的分布外泛化能力,还是指模型在经验更少的情况下就能在特定任务上表现得更好?
阿舍尔:首先, 我们是在做科学研究,所以我不知道答案——但我可以提出三个假设。我的第一个假设是,单纯寻找统计模式与拥有深刻理解之间存在一个广阔的谱系。当前的模型位于这个谱系的某个位置——尚未达到深刻理解的程度,但显然也不仅仅是模式匹配。 在较少数据上进行训练,可能会迫使模型对其所见的一切形成极其深刻的理解。这可能会以有趣的方式使模型变得更智能——它可能掌握的事实较少,但推理能力更强。这是其中一个假设。
另一个假设与你所说的相似:目前,由于需要海量数据,教模型掌握新能力在运营和资金上都成本高昂。我们研究的一个成果可能是大幅提高训练后的效率,这样只需少量示例,就能将模型应用到新领域。
此外,这也可能为人工智能开辟新的应用领域。例如在机器人领域,无论出于何种原因,我们始终无法使其具备商业可行性。我认为这是数据有限的问题,而非硬件问题——能够远程操控机器人这一事实,就证明了硬件已经足够成熟。 类似的领域还有很多,比如科学发现。
本:有一点 我想深入探讨:当我们思考人工智能的影响时,有一种观点认为它是一种通缩性技术——自动化取代工作岗位,降低劳动力成本,从而减少经济中的工作岗位。这种情况确实会发生。 但在我看来,这并不是最令人振奋的愿景。最令人振奋的愿景是:人工智能帮助我们构建人类智慧无法独立构想、但其他系统能够实现的新科学和技术。
在这方面,阿舍提到的那个维度——真正的泛化能力与死记硬背或插值之间的区别——对于获得能推动医学和科学进步的深刻洞见至关重要。 至关重要的是,模型必须位于这一光谱的创造性一端。我对我们的工作如此兴奋的部分原因在于,除了个别经济影响之外,我真正关注的是能否让人工智能完成人类此前根本无法做到的事情。这绝不仅仅是“解雇一大批人”那么简单。
确实如此。这是否意味着你在关于AGI的讨论中——特别是关于分布外泛化能力的讨论中——属于某个特定阵营?
阿舍尔:我 其实并不确切知道AGI究竟意味着什么。技术能力正在快速进步,并创造了巨大的经济价值。但我认为我们离“盒中神”还很远。 我不认为未来两个月甚至两年内会出现人类变得多余的“奇点”。我基本上同意本的说法:世界非常广阔,有大量工作需要完成,我们很兴奋能为此做出贡献。
嗯,关于大脑和神经形态计算的部分确实很有启发性。你的意思是,将大型语言模型(LLMs)与人类大脑进行比较才是恰当的,而非与之前的Mechanical Turk或确定性计算机进行比较。
艾丹:我要 强调的是:大脑并非上限——从许多方面来看,它只是起点。 我没有看到任何证据表明,大脑不是一个遵循物理定律且可被理解的系统。它受到许多约束。因此,从长远来看,我们应该期待创造出比大脑更有趣、更独特、甚至可能更强大的能力。无论它被称为AGI还是其他什么,我们都期待为这一未来贡献力量。
阿舍:而且 我确实认为大脑是一个有意义的参照对象,因为它能帮助我们理解这个领域有多广阔。看到所有这些进展时,人们很容易会想:“哇,我们已经找到了答案,快要大功告成了。”但如果你退后一步,从更宏观的角度来看,还有很多我们不知道的事情。
本:我们 并不是单纯地追求“更好”。我们追求的是“不同”——这是我想重点强调的关键。所有这些系统几乎肯定都会面临不同的权衡取舍。 你在某方面获得优势,就会在另一方面有所牺牲。外面的世界很大,许多领域都存在不同的权衡取舍。拥有更多针对这些不同领域的系统和基础技术,很可能让人工智能更有效、更迅速地普及到世界各地。
你们在招聘策略上独树一帜——招募非常年轻的人才,有些甚至还在读大学或高中。当与某人交谈时,是什么触动了你们,让你们觉得“我想让这个人来攻克这些研究难题”?
艾丹:就是 当你与某人交谈时,他们会让你眼前一亮——他们拥有许多新颖的想法,且思维方式是许多资深研究人员无法企及的,因为他们尚未被成千上万篇论文所“污染”。我们最看重的是创造力。 我们的团队极具创造力,每天能与这些构想着截然不同未来的人一起探讨解决重大人工智能难题的颠覆性方案,我深感幸运。
本:我最看重的信号大概是:与他们相处时,他们能否教会我新东西?如果他们能教会我新东西,那么他们也很可能为我们的工作带来新见解。在开展研究时,富有创意的新想法是重中之重。
在我本科和博士阶段,曾参与创办过一家名为Prod的孵化器,该机构合作的企业后来都发展得相当不错。我们观察到的一点是,年轻人完全有能力在行业的最高层与人竞争。 实现突破的关键很大程度上在于意识到:“没错,我完全可以去做这些事情。”你绝对能在最高水平上做出贡献。
当然,我们也认可经验的价值。那些曾参与过大型系统开发的人非常出色——我们已经招聘了其中一些人,并且期待与各行各业的人才合作。 我认为我们的使命也引起了经验丰富人士的共鸣。关键在于,我们需要那些不惧改变范式、能够构想事物运作新体系的人才。
有一件事一直让我困惑:你认为最终开发出来的人工智能系统会有多大不同?很容易想象像Claude Opus这样的系统,它的性能仅提升20%,功能也仅增加20%。 但如果它完全是全新的,就很难预见它将走向何方,最终会呈现出什么样貌。
阿舍:不知道你有没有机会和GPT-4基础模型交流过,它展现出了许多奇怪的新能力。例如,你可以拿一段未发表的博客文章片段问它作者是谁,它就能识别出来。
还有许多类似的能力,模型展现出的智慧超出了我们的想象。未来的模型将会以更加奇特的方式变得更聪明。 我认为我们应该预期未来会非常奇特,而其架构将更加奇特。我们追求的是数据效率的1000倍飞跃——而非渐进式变革。因此,在极限条件下,我们应该预期会出现同样难以预料、宛如外星般的变化与能力。
本:我总体上同意。对于这些技术最终将如何被世界所体验,我的态度可能稍显审慎——就像 OpenAI 对 GPT-4 基础模型所做的调整一样。你需要将事物呈现为一种形式,让消费者不会直面深渊。这一点很重要。 但我总体上同意,我们的研究议程旨在构建与当前能力截然不同的根本性新能力。
太棒了!大家有什么方式可以参与“Flapping Airplanes”项目吗?现在参与是否为时过早,还是应该静待研究和模型发布?
阿舍尔:如果你只是想打个招呼,可以访问 [email protected]。如果你想对我们提出异议,也可以访问 [email protected]。我们曾进行过一些非常精彩的对话,有人会发来长篇大论,阐述他们认为我们所做之事为何不可能——我们很乐意参与讨论。
本:但他们还没说服我们。到目前为止,还没有人说服过我们。
阿舍:其次,我们正在寻找那些渴望改变这个领域乃至世界、才华出众的人才。如果你感兴趣,欢迎联系我们。
本: 如果你有非传统的背景,也没关系。你不需要两个博士学位。我们真正寻找的是思维方式与众不同的人。
相关文章
这是否会成为代币经济危机的起点?
微软近期对 GitHub Copilot 的定价进行了大幅调整,变动幅度之大甚至有 Reddit 用户将企业内部出现的状况称为“代币末日”。在 TechCrunch 的《Equity》播客最新一集中,Kirsten Korosec、Sean O’Kane 与我一同探讨了这些价格变动可能对整个 AI 行业产生的影响。随着 Anthropic 及其他大型 AI 公司准备上市,关于盈利能力的疑问日益增多,企业为控制开支,很可能会再次提高价格并增设使用限制。Sean 提出了一个关键问题:“这些 AI
美国政府对Anthropic的禁令可能会无意中提升该品牌的知名度
正在加载播放器……就在上周即将结束之际,美国政府以国家安全为由,迫使Anthropic下架其最新推出的两个模型——Fable 5和Mythos 5。此前,亚马逊的研究人员据称发现了一种绕过Fable 5安全防护机制的方法。此后,网络安全研究人员联名发表公开信,称此举十分危险;Anthropic公司本身也指出,其他模型中同样存在此类“越狱”漏洞。那么,这究竟是真正的安全隐患,还是Anthropic与
Humble Robotics让自动驾驶车辆领域的热度再度回归货运领域
正在加载播放器……自动驾驶行业似乎又要重演2016年的那轮炒作热潮。特拉维斯·卡兰尼克再度投身机器人初创企业的发展,人才争夺与资金投入的激烈程度也与当初如出一辙。资金再度涌入,而那些经历过第一波浪潮的人正主导着下一波发展。Humble Robotics的创始人兼首席执行官埃亚尔·科恩便是其中之一。在Uber伸出橄榄枝时,他还在Otto工作;之后他又跟随安东尼·莱万多夫斯基加入了Pronto。在旧金山湾区深耕深度科技领域二十年之后,他的新公司于4月低调成立,获得了2400万美元的资金支持,用于
相关专题推荐
评论 (0)
0/500

近几个月来,一批雄心勃勃、专注于研究的人工智能实验室如雨后春笋般涌现,其中“Flapping Airplanes”无疑是最引人入胜的之一。 在年轻且充满好奇心的创始团队带领下,该实验室致力于探索数据消耗更少的人工智能训练方法。这种方法有望从根本上重塑人工智能模型的经济效益和功能——而凭借1.8亿美元的种子轮融资,他们拥有充足的探索空间。
上周,我与该实验室的三位联合创始人——本和阿舍·斯佩克特兄弟,以及艾丹·史密斯——坐下来,探讨了为何现在是创立新人工智能实验室的绝佳时机,以及他们为何不断回归受人类大脑启发的理念。
让我先问一个显而易见的问题:为什么是现在?像OpenAI和DeepMind这样的实验室已经投入了大量资源来扩展其模型。我想竞争压力一定很大。是什么让你们觉得现在正是成立一家基础模型公司的最佳时机?
本:还有太多事情有待完成。过去五到十年的进展确实令人惊叹。我们热爱这些工具——每天都在使用它们。但问题在于,这是否就是我们需要实现的全部? 我们经过深思熟虑,得出的答案是否定的——未来还有更多待探索的领域。对我们而言,数据效率问题似乎是亟待解决的关键。当今最前沿的模型基本上是基于人类全部知识进行训练的,而人类却能用远少于此的信息量进行处理。这种差距巨大,值得深入探究。
我们所做的工作,本质上是对以下三点做出的集中押注。首先,数据效率是值得解决的正确问题——这是一个真正崭新的方向,且有望取得进展。 其次,解决这一问题将具有商业价值,并能让世界变得更好。第三,能够承担这一任务的理想团队应当富有创造力,在某些方面甚至略显“生涩”——这支团队愿意从零开始重新审视这些问题。
艾丹:完全正确。我们并不认为自己与其他实验室处于竞争关系,因为我们专注于完全不同的一系列问题。 看看人类的大脑——它的学习方式与Transformer模型在根本上不同。未必更好,只是截然不同。因此,我们看到的权衡取舍也不同。大型语言模型(LLMs)在记忆和调用海量知识方面非常出色,但它们难以快速掌握新技能——适应新任务需要海量的数据。 若深入观察人脑,其运作的算法与梯度下降及其他当前训练技术有着根本性的差异。正因如此,我们正在培养新一代研究人员,以解决这些问题并重新构想人工智能的未来图景。
阿舍尔:这个问题在科学上极具吸引力:为什么我们构建的智能系统与人类的行为如此不同?这种差异从何而来,我们又如何利用它来构建更好的系统?与此同时,我相信这在商业上可行,并且对世界有益。 许多重要领域都面临数据瓶颈——机器人技术、科学发现,甚至企业应用。一种数据效率提高一百万倍的模型,将其融入经济体系的难度也将降低一百万倍。因此,对我们而言,采用全新的视角令人振奋:如果我们能构建出数据效率大幅提升的模型,它将带来怎样的可能?
TechCrunch 活动TechCrunch 2026 创始人峰会:门票开售
6月23日,波士顿 将迎来1,100余位创始人 齐聚TechCrunch 2026创始人峰会,共同度过一个专注于增长、执行与实际规模化发展的全天活动。向那些塑造了行业格局的创始人及投资者学习。与处于相似成长阶段的同行建立联系。带走可立即付诸实践的策略
购买个人通行证最高可节省300 美元;四人及以上团队购买团体票,最高可享 30% 折扣。
TechCrunch创始人峰会:门票开售
6月23日,波士顿将 迎来2026年TechCrunch创始人峰会 ,届时将有超过1,100位创始人齐聚一堂,共同度过这一专注于增长、执行和实际规模化发展的全天盛会。向那些塑造了行业格局的创始人及投资者取经,与处于相似成长阶段的同行建立联系,并带走可立即付诸实践的策略
购买通行证最高可节省300美元,四人及以上团队购买团体票最高可享30%折扣。
马萨诸塞州波士顿 | 2026年6月23日 立即注册这引出了我的下一个问题,这也与“Flapping Airplanes”这个名字有关。 在人工智能领域,存在一场哲学层面的争论:我们究竟应该在多大程度上尝试复制人类大脑的运作过程,还是应该创造一种遵循完全不同路径的、更抽象的智能。艾丹来自Neuralink,而该公司完全专注于人类大脑。你们是否认为自己正在追求一种更具神经形态特征的人工智能视角?
艾丹:我 将大脑视为一种“存在性证明”——它证明了世上存在其他算法,而不仅仅是一种正统理论。大脑在极其严苛的限制下运作。触发一次动作电位需要一毫秒;而在同一时间内,你的计算机可以执行无数次运算。 因此,很可能存在一种比大脑更优越、且与Transformer模型截然不同的方法。我们虽然从大脑的某些运作方式中汲取了灵感,但并不觉得自己受其束缚。
本:补充一点 ,这恰恰体现在我们的名字里:“Flapping Airplanes”(振翅飞机)。不妨把当前的系统看作巨大的波音787客机。我们并不试图制造鸟类——那目标太远了。 我们试图构建的,更像是一架拍翼飞机。从计算机系统的角度来看,大脑和硅芯片的限制条件存在显著差异,因此我们不应期望这两种系统最终会呈现出相同的外观。由于基底如此不同,且在计算成本、局部性及数据移动等方面存在截然不同的权衡取舍,这些系统自然会呈现出略有不同的形态。 但这并不意味着我们不应该从大脑中汲取灵感,并利用我们认为有趣的部分来改进我们自己的系统。
如今,实验室似乎拥有了更大的自由度,可以专注于研究而非仅仅开发产品。这对这一代实验室来说,似乎是一个巨大的转变。有些实验室非常注重研究;另一些则只是“目前以研究为主”。在“Flapping Airplanes”内部,关于这一点的讨论是如何展开的?
阿舍尔:我真希望能给你一个时间表。真希望能说,三年内我们将解决这个研究难题,然后这样进行商业化。但我做不到。我们不知道答案。 我们正在探索真理。话虽如此,我们确实拥有商业背景。我曾为企业开发技术,并为这些企业创造了可观的收入。本则曾孵化过具有商业根基的初创公司,我们真心期待实现商业化——我们认为,将创造出的价值交到能真正利用它的人手中,对世界是有益的。 所以我们并不反对商业化。只是必须从研究做起,因为如果一开始就签署大型企业合同,我们会因此分心,从而无法开展有价值的研究。
艾丹:没错——我们想尝试彻底不同的东西,而有时激进的想法可能比现有模式更糟糕。我们正在探索一系列不同的权衡取舍,希望它们从长远来看能带来回报。
本:企业 真正专注于做好一件事时,才能发挥出最佳状态,对吧?大公司有能力同时做很多事情。作为初创公司,你必须选择最有价值的事情并全力以赴。目前,当我们全心全意致力于解决根本性问题时,才能创造最大的价值。
其实我对此持乐观态度,相信不久之后我们就能取得足够进展,开始在现实世界中崭露头角。从现实世界的反馈中能学到很多东西。这个世界最神奇之处在于它会不断教会你——它就像一个巨大的真理之池,你可以随时从中汲取智慧。 我认为,近期这些商业模式在经济和融资方面的转变,使企业能够更长时间地专注于自身擅长的领域。这种专注——这也是我最兴奋的地方——将让我们做出真正与众不同的成果。
为了明确你所指的内容:当前人工智能领域热度极高,以至于投资者愿意向一家由一群非常聪明、非常年轻的人组成的全新公司提供1.8亿美元的种子轮融资,而这些人并非刚从PayPal套现离职。参与这一过程的体验如何? 你一开始就知道市场有这种需求,还是后来才发现这比你预期的要大得多?
本:两者兼而有之。市场已经火热了好几个月,所以大额融资即将达成并不是什么秘密。但你永远无法预知融资环境会如何回应你的具体构想。 归根结底,你必须让外界给你反馈。即使在融资过程中,我们也学到了很多并调整了思路——我们优化了商业化的优先级和时间表。
我们的理念能引起如此强烈的共鸣,这让我们有些意外。虽然对我们来说这很明确,但你永远不知道别人是否会认同,还是会觉得你疯了。 我们非常幸运地遇到了一群出色的投资者,他们真正理解了我们的理念,并表示:“没错,这正是我们一直在寻找的。”这真是太棒了——既令人惊喜又美妙。
艾丹:是的,对“研究时代”的渴望已经酝酿了一段时间。我们越来越发现,自己正处于引领这一时代、尝试这些颠覆性想法的关键位置。
至少对于以规模驱动的公司而言,基础模型的入门成本极其高昂——构建如此大规模的模型需要极其庞大的计算资源。而研究则处于中间地带:虽然你可能也在构建基础模型,但如果使用较少的数据且不那么注重规模,或许就能找到突破口。 你预计计算成本会在多大程度上限制你们的资金续航能力?
Ben:深入的基础研究有一个优势,这听起来有些矛盾:尝试真正疯狂、激进的想法,反而比做增量工作要便宜得多。进行增量工作时,为了验证其可行性,你必须在规模化阶梯上走得很远——许多小规模的干预措施在扩大规模后往往无法持续。 这很昂贵。但如果你对架构优化器有一个大胆的新想法,它第一轮运行时很可能就会失败,所以你不需要将其扩展。它本来就行不通——这太棒了。
这并不意味着规模对我们无关紧要。规模是工具箱中的重要工具。能够将我们的想法扩展到更大规模当然很重要。所以我不会把我们定位为规模的对立面。但我们工作的一个美妙之处在于,在考虑大规模之前,我们可以在非常小的规模上尝试许多想法。
阿舍:是的 ,你应该能够利用整个互联网——但你并不需要这样做。我们觉得非常难以理解的是,竟然需要利用整个互联网才能实现人类级别的智能。
那么,如果能更高效地利用数据进行训练,会带来什么可能性?可以推测,模型将变得更强大、更智能。你对这将带来什么结果有具体的设想吗?我们是在谈论更强的分布外泛化能力,还是指模型在经验更少的情况下就能在特定任务上表现得更好?
阿舍尔:首先, 我们是在做科学研究,所以我不知道答案——但我可以提出三个假设。我的第一个假设是,单纯寻找统计模式与拥有深刻理解之间存在一个广阔的谱系。当前的模型位于这个谱系的某个位置——尚未达到深刻理解的程度,但显然也不仅仅是模式匹配。 在较少数据上进行训练,可能会迫使模型对其所见的一切形成极其深刻的理解。这可能会以有趣的方式使模型变得更智能——它可能掌握的事实较少,但推理能力更强。这是其中一个假设。
另一个假设与你所说的相似:目前,由于需要海量数据,教模型掌握新能力在运营和资金上都成本高昂。我们研究的一个成果可能是大幅提高训练后的效率,这样只需少量示例,就能将模型应用到新领域。
此外,这也可能为人工智能开辟新的应用领域。例如在机器人领域,无论出于何种原因,我们始终无法使其具备商业可行性。我认为这是数据有限的问题,而非硬件问题——能够远程操控机器人这一事实,就证明了硬件已经足够成熟。 类似的领域还有很多,比如科学发现。
本:有一点 我想深入探讨:当我们思考人工智能的影响时,有一种观点认为它是一种通缩性技术——自动化取代工作岗位,降低劳动力成本,从而减少经济中的工作岗位。这种情况确实会发生。 但在我看来,这并不是最令人振奋的愿景。最令人振奋的愿景是:人工智能帮助我们构建人类智慧无法独立构想、但其他系统能够实现的新科学和技术。
在这方面,阿舍提到的那个维度——真正的泛化能力与死记硬背或插值之间的区别——对于获得能推动医学和科学进步的深刻洞见至关重要。 至关重要的是,模型必须位于这一光谱的创造性一端。我对我们的工作如此兴奋的部分原因在于,除了个别经济影响之外,我真正关注的是能否让人工智能完成人类此前根本无法做到的事情。这绝不仅仅是“解雇一大批人”那么简单。
确实如此。这是否意味着你在关于AGI的讨论中——特别是关于分布外泛化能力的讨论中——属于某个特定阵营?
阿舍尔:我 其实并不确切知道AGI究竟意味着什么。技术能力正在快速进步,并创造了巨大的经济价值。但我认为我们离“盒中神”还很远。 我不认为未来两个月甚至两年内会出现人类变得多余的“奇点”。我基本上同意本的说法:世界非常广阔,有大量工作需要完成,我们很兴奋能为此做出贡献。
嗯,关于大脑和神经形态计算的部分确实很有启发性。你的意思是,将大型语言模型(LLMs)与人类大脑进行比较才是恰当的,而非与之前的Mechanical Turk或确定性计算机进行比较。
艾丹:我要 强调的是:大脑并非上限——从许多方面来看,它只是起点。 我没有看到任何证据表明,大脑不是一个遵循物理定律且可被理解的系统。它受到许多约束。因此,从长远来看,我们应该期待创造出比大脑更有趣、更独特、甚至可能更强大的能力。无论它被称为AGI还是其他什么,我们都期待为这一未来贡献力量。
阿舍:而且 我确实认为大脑是一个有意义的参照对象,因为它能帮助我们理解这个领域有多广阔。看到所有这些进展时,人们很容易会想:“哇,我们已经找到了答案,快要大功告成了。”但如果你退后一步,从更宏观的角度来看,还有很多我们不知道的事情。
本:我们 并不是单纯地追求“更好”。我们追求的是“不同”——这是我想重点强调的关键。所有这些系统几乎肯定都会面临不同的权衡取舍。 你在某方面获得优势,就会在另一方面有所牺牲。外面的世界很大,许多领域都存在不同的权衡取舍。拥有更多针对这些不同领域的系统和基础技术,很可能让人工智能更有效、更迅速地普及到世界各地。
你们在招聘策略上独树一帜——招募非常年轻的人才,有些甚至还在读大学或高中。当与某人交谈时,是什么触动了你们,让你们觉得“我想让这个人来攻克这些研究难题”?
艾丹:就是 当你与某人交谈时,他们会让你眼前一亮——他们拥有许多新颖的想法,且思维方式是许多资深研究人员无法企及的,因为他们尚未被成千上万篇论文所“污染”。我们最看重的是创造力。 我们的团队极具创造力,每天能与这些构想着截然不同未来的人一起探讨解决重大人工智能难题的颠覆性方案,我深感幸运。
本:我最看重的信号大概是:与他们相处时,他们能否教会我新东西?如果他们能教会我新东西,那么他们也很可能为我们的工作带来新见解。在开展研究时,富有创意的新想法是重中之重。
在我本科和博士阶段,曾参与创办过一家名为Prod的孵化器,该机构合作的企业后来都发展得相当不错。我们观察到的一点是,年轻人完全有能力在行业的最高层与人竞争。 实现突破的关键很大程度上在于意识到:“没错,我完全可以去做这些事情。”你绝对能在最高水平上做出贡献。
当然,我们也认可经验的价值。那些曾参与过大型系统开发的人非常出色——我们已经招聘了其中一些人,并且期待与各行各业的人才合作。 我认为我们的使命也引起了经验丰富人士的共鸣。关键在于,我们需要那些不惧改变范式、能够构想事物运作新体系的人才。
有一件事一直让我困惑:你认为最终开发出来的人工智能系统会有多大不同?很容易想象像Claude Opus这样的系统,它的性能仅提升20%,功能也仅增加20%。 但如果它完全是全新的,就很难预见它将走向何方,最终会呈现出什么样貌。
阿舍:不知道你有没有机会和GPT-4基础模型交流过,它展现出了许多奇怪的新能力。例如,你可以拿一段未发表的博客文章片段问它作者是谁,它就能识别出来。
还有许多类似的能力,模型展现出的智慧超出了我们的想象。未来的模型将会以更加奇特的方式变得更聪明。 我认为我们应该预期未来会非常奇特,而其架构将更加奇特。我们追求的是数据效率的1000倍飞跃——而非渐进式变革。因此,在极限条件下,我们应该预期会出现同样难以预料、宛如外星般的变化与能力。
本:我总体上同意。对于这些技术最终将如何被世界所体验,我的态度可能稍显审慎——就像 OpenAI 对 GPT-4 基础模型所做的调整一样。你需要将事物呈现为一种形式,让消费者不会直面深渊。这一点很重要。 但我总体上同意,我们的研究议程旨在构建与当前能力截然不同的根本性新能力。
太棒了!大家有什么方式可以参与“Flapping Airplanes”项目吗?现在参与是否为时过早,还是应该静待研究和模型发布?
阿舍尔:如果你只是想打个招呼,可以访问 [email protected]。如果你想对我们提出异议,也可以访问 [email protected]。我们曾进行过一些非常精彩的对话,有人会发来长篇大论,阐述他们认为我们所做之事为何不可能——我们很乐意参与讨论。
本:但他们还没说服我们。到目前为止,还没有人说服过我们。
阿舍:其次,我们正在寻找那些渴望改变这个领域乃至世界、才华出众的人才。如果你感兴趣,欢迎联系我们。
本: 如果你有非传统的背景,也没关系。你不需要两个博士学位。我们真正寻找的是思维方式与众不同的人。
这是否会成为代币经济危机的起点?
微软近期对 GitHub Copilot 的定价进行了大幅调整,变动幅度之大甚至有 Reddit 用户将企业内部出现的状况称为“代币末日”。在 TechCrunch 的《Equity》播客最新一集中,Kirsten Korosec、Sean O’Kane 与我一同探讨了这些价格变动可能对整个 AI 行业产生的影响。随着 Anthropic 及其他大型 AI 公司准备上市,关于盈利能力的疑问日益增多,企业为控制开支,很可能会再次提高价格并增设使用限制。Sean 提出了一个关键问题:“这些 AI
美国政府对Anthropic的禁令可能会无意中提升该品牌的知名度
正在加载播放器……就在上周即将结束之际,美国政府以国家安全为由,迫使Anthropic下架其最新推出的两个模型——Fable 5和Mythos 5。此前,亚马逊的研究人员据称发现了一种绕过Fable 5安全防护机制的方法。此后,网络安全研究人员联名发表公开信,称此举十分危险;Anthropic公司本身也指出,其他模型中同样存在此类“越狱”漏洞。那么,这究竟是真正的安全隐患,还是Anthropic与
Humble Robotics让自动驾驶车辆领域的热度再度回归货运领域
正在加载播放器……自动驾驶行业似乎又要重演2016年的那轮炒作热潮。特拉维斯·卡兰尼克再度投身机器人初创企业的发展,人才争夺与资金投入的激烈程度也与当初如出一辙。资金再度涌入,而那些经历过第一波浪潮的人正主导着下一波发展。Humble Robotics的创始人兼首席执行官埃亚尔·科恩便是其中之一。在Uber伸出橄榄枝时,他还在Otto工作;之后他又跟随安东尼·莱万多夫斯基加入了Pronto。在旧金山湾区深耕深度科技领域二十年之后,他的新公司于4月低调成立,获得了2400万美元的资金支持,用于





首页






