埃里克·施密特(Eric Schmidt)反对阿吉·曼哈顿(Agi Manhattan)项目

在周三发布的一份政策文件中,前谷歌首席执行官埃里克·施密特(Eric Schmidt)、Scale AI首席执行官亚历山大·王(Alexandr Wang)以及人工智能安全中心主任丹·亨德里克斯(Dan Hendrycks)建议美国不要启动类似曼哈顿计划的举措,以开发具有“超人”智能的人工智能系统,通常称为AGI。
文件题为“超智能战略”,警告称美国试图垄断超智能AI可能引发中国的强烈反应,可能以网络攻击的形式出现,这可能会扰乱全球关系。
合著者认为,“针对AGI的曼哈顿计划假设对手会默许持久的不平衡或全人类毁灭,而不是采取行动阻止它。最初为追求超级武器和全球控制的努力,可能会引发敌对对策和升级紧张局势,从而破坏该战略声称要确保的稳定性。”
这份由美国AI领域三位关键人物撰写的文件,发布于美国国会委员会建议启动“曼哈顿计划式”举措以资助AGI开发之后不久,该建议与1940年代的美国原子弹计划相提并论。美国能源部长克里斯·赖特(Chris Wright)最近宣称美国正处于“人工智能新曼哈顿计划的起点”,当时他站在超级计算机站点旁,与OpenAI联合创始人格雷格·布罗克曼(Greg Brockman)在一起。
《超智能战略》文件挑战了近期几位美国政策和行业领导人的推动,他们认为政府支持的AGI计划是跟上中国的最佳方式。
施密特、王和亨德里克斯认为美国在AGI问题上面临类似冷战对峙的局面,类似于相互确保毁灭的概念。正如各国避免垄断核武器以防止先发制人打击,作者建议美国应谨慎对待急于主导高度先进的人工智能系统。
尽管将AI与核武器相比可能显得夸张,但全球领导人已将AI视为关键的军事资产。五角大楼指出,AI正在加速军事的杀伤链。
作者提出了“相互确保AI故障”(MAIM)的概念,即政府可能会采取先发制人的行动,以禁用威胁性AI项目,而不是等待对手将AGI武器化。
施密特、王和亨德里克斯建议美国将重点从“赢得超智能竞赛”转向开发方法,以阻止其他国家创建超智能AI。他们建议政府应“扩大其网络攻击武器库,以禁用其他国家控制的威胁性AI项目”,并限制对手获取先进AI芯片和开源模型。
该文件强调了AI政策社区的分裂,一方是“末日论者”,他们认为灾难性AI结果不可避免,主张减缓AI进展;另一方是“鸵鸟派”,他们推动加速AI发展并希望获得最佳结果。
作者提出了第三条道路:对AGI开发采取谨慎态度,强调防御策略。
这一立场尤其值得注意,因为施密特此前曾强调美国在AI发展中需要与中国激烈竞争。就在几个月前,施密特撰写了一篇评论文章,称DeepSeek标志着美中AI竞赛的转折点。
尽管特朗普政府决心推进美国的AI发展,合著者提醒我们,美国在AGI上的决定具有全球影响。
随着世界关注美国在AI领域的推进,施密特及其合著者建议采取更具防御性的战略可能是更明智的选择。
相关文章
山姆·奥特曼引发关于人工智能减速的辩论
在Apple Podcasts上收听在Spotify上收听OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)最近表示,现在可能是时候“控制人工智能的发展速度”,以便社会“在这些新的能力水平周围加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我讨论了阿尔特曼的言论可能由最近的一次黑客攻击所触发,该攻击中一名OpenAI代理突破了Hugging Face的系统。Sean指出,虽然由AI代理执行的黑客攻击是前所未
OpenAI 与苹果公司就商业秘密诉讼进行对抗
OpenAI 于周二驳回了苹果公司的商业秘密指控,称该诉讼毫无根据。“我们认真对待这些指控,但未发现任何支持它们的证据,”OpenAI 表示,据彭博社记者 Ed Ludlow 在 X 平台报道,“我们支持公平竞争和工作自由,专注于创造赋能全球用户的技术。”此前,苹果公司于周五在美国加利福尼亚州北区联邦地区法院提起诉讼,指控 OpenAI 策划了一项从前苹果员工处窃取机密数据和知识产权的计划。这份长达 41 页的诉状针对 OpenAI 的高管层,包括首席硬件官 Tang Tan,他是一名拥有
OpenAI机器人项目主管凯特琳·卡利诺夫斯基因五角大楼合作项目辞职
OpenAI 机器人业务负责人凯特琳·卡利诺夫斯基(Caitlin Kalinowski)在该公司与国防部达成备受争议的合作伙伴关系后辞职。“这不是一个轻松的决定,”卡利诺夫斯基在社交媒体声明中解释道。“虽然人工智能在国家安全中发挥着至关重要的作用,但在没有司法监督的情况下对美国公民进行监视,以及在未经人类授权的情况下部署致命自主武器,都是需要更加慎重考虑的界限。”卡利诺夫斯基此前因领导 Meta 的增强现实眼镜部门而闻名,她于 2024 年 11 月加入 OpenAI。在辞职信中,她强调她
相关专题推荐
评论 (33)
0/500
Interesting take from Schmidt and Wang. While I get the caution about a 'Manhattan Project' mindset, isn't the current fragmented, profit-driven race just as risky? Feels like we're arguing over the speed limit while the car's already accelerating downhill. 🤔
Otra vez esta gente rica opinando del futuro. Schmidt ha estado metido en IA una bocha, pero ¿acaso esto no es intentar tirar la pelota para adelante? Si no lo hacemos en un projecto masivo y coordinado, ¿quién tendrá el control real? Me da la impresión de que ya se están juntando en privado las grandes empresas... 🫤
前谷歌執行長也發聲了,這份政策文件提醒得真好。AGI這種『超級智能』確實不該用曼哈頓計劃那種封閉、軍備競賽的模式來搞,想想就讓人不安😅 我覺得與其賭博式地競速,不如先把基礎治理框架和國際協調弄好。各位大佬多公開討論是好事,支持!
Concordo totalmente com o Schmidt! Correr para criar inteligência sobre-humana parece loucura, tipo um filme de ficção científica onde tudo dá errado 😅 Melhor focar em IA responsável e regulamentação primeiro.

在周三发布的一份政策文件中,前谷歌首席执行官埃里克·施密特(Eric Schmidt)、Scale AI首席执行官亚历山大·王(Alexandr Wang)以及人工智能安全中心主任丹·亨德里克斯(Dan Hendrycks)建议美国不要启动类似曼哈顿计划的举措,以开发具有“超人”智能的人工智能系统,通常称为AGI。
文件题为“超智能战略”,警告称美国试图垄断超智能AI可能引发中国的强烈反应,可能以网络攻击的形式出现,这可能会扰乱全球关系。
合著者认为,“针对AGI的曼哈顿计划假设对手会默许持久的不平衡或全人类毁灭,而不是采取行动阻止它。最初为追求超级武器和全球控制的努力,可能会引发敌对对策和升级紧张局势,从而破坏该战略声称要确保的稳定性。”
这份由美国AI领域三位关键人物撰写的文件,发布于美国国会委员会建议启动“曼哈顿计划式”举措以资助AGI开发之后不久,该建议与1940年代的美国原子弹计划相提并论。美国能源部长克里斯·赖特(Chris Wright)最近宣称美国正处于“人工智能新曼哈顿计划的起点”,当时他站在超级计算机站点旁,与OpenAI联合创始人格雷格·布罗克曼(Greg Brockman)在一起。
《超智能战略》文件挑战了近期几位美国政策和行业领导人的推动,他们认为政府支持的AGI计划是跟上中国的最佳方式。
施密特、王和亨德里克斯认为美国在AGI问题上面临类似冷战对峙的局面,类似于相互确保毁灭的概念。正如各国避免垄断核武器以防止先发制人打击,作者建议美国应谨慎对待急于主导高度先进的人工智能系统。
尽管将AI与核武器相比可能显得夸张,但全球领导人已将AI视为关键的军事资产。五角大楼指出,AI正在加速军事的杀伤链。
作者提出了“相互确保AI故障”(MAIM)的概念,即政府可能会采取先发制人的行动,以禁用威胁性AI项目,而不是等待对手将AGI武器化。
施密特、王和亨德里克斯建议美国将重点从“赢得超智能竞赛”转向开发方法,以阻止其他国家创建超智能AI。他们建议政府应“扩大其网络攻击武器库,以禁用其他国家控制的威胁性AI项目”,并限制对手获取先进AI芯片和开源模型。
该文件强调了AI政策社区的分裂,一方是“末日论者”,他们认为灾难性AI结果不可避免,主张减缓AI进展;另一方是“鸵鸟派”,他们推动加速AI发展并希望获得最佳结果。
作者提出了第三条道路:对AGI开发采取谨慎态度,强调防御策略。
这一立场尤其值得注意,因为施密特此前曾强调美国在AI发展中需要与中国激烈竞争。就在几个月前,施密特撰写了一篇评论文章,称DeepSeek标志着美中AI竞赛的转折点。
尽管特朗普政府决心推进美国的AI发展,合著者提醒我们,美国在AGI上的决定具有全球影响。
随着世界关注美国在AI领域的推进,施密特及其合著者建议采取更具防御性的战略可能是更明智的选择。
山姆·奥特曼引发关于人工智能减速的辩论
在Apple Podcasts上收听在Spotify上收听OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)最近表示,现在可能是时候“控制人工智能的发展速度”,以便社会“在这些新的能力水平周围加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我讨论了阿尔特曼的言论可能由最近的一次黑客攻击所触发,该攻击中一名OpenAI代理突破了Hugging Face的系统。Sean指出,虽然由AI代理执行的黑客攻击是前所未
OpenAI 与苹果公司就商业秘密诉讼进行对抗
OpenAI 于周二驳回了苹果公司的商业秘密指控,称该诉讼毫无根据。“我们认真对待这些指控,但未发现任何支持它们的证据,”OpenAI 表示,据彭博社记者 Ed Ludlow 在 X 平台报道,“我们支持公平竞争和工作自由,专注于创造赋能全球用户的技术。”此前,苹果公司于周五在美国加利福尼亚州北区联邦地区法院提起诉讼,指控 OpenAI 策划了一项从前苹果员工处窃取机密数据和知识产权的计划。这份长达 41 页的诉状针对 OpenAI 的高管层,包括首席硬件官 Tang Tan,他是一名拥有
OpenAI机器人项目主管凯特琳·卡利诺夫斯基因五角大楼合作项目辞职
OpenAI 机器人业务负责人凯特琳·卡利诺夫斯基(Caitlin Kalinowski)在该公司与国防部达成备受争议的合作伙伴关系后辞职。“这不是一个轻松的决定,”卡利诺夫斯基在社交媒体声明中解释道。“虽然人工智能在国家安全中发挥着至关重要的作用,但在没有司法监督的情况下对美国公民进行监视,以及在未经人类授权的情况下部署致命自主武器,都是需要更加慎重考虑的界限。”卡利诺夫斯基此前因领导 Meta 的增强现实眼镜部门而闻名,她于 2024 年 11 月加入 OpenAI。在辞职信中,她强调她
Interesting take from Schmidt and Wang. While I get the caution about a 'Manhattan Project' mindset, isn't the current fragmented, profit-driven race just as risky? Feels like we're arguing over the speed limit while the car's already accelerating downhill. 🤔
Otra vez esta gente rica opinando del futuro. Schmidt ha estado metido en IA una bocha, pero ¿acaso esto no es intentar tirar la pelota para adelante? Si no lo hacemos en un projecto masivo y coordinado, ¿quién tendrá el control real? Me da la impresión de que ya se están juntando en privado las grandes empresas... 🫤
前谷歌執行長也發聲了,這份政策文件提醒得真好。AGI這種『超級智能』確實不該用曼哈頓計劃那種封閉、軍備競賽的模式來搞,想想就讓人不安😅 我覺得與其賭博式地競速,不如先把基礎治理框架和國際協調弄好。各位大佬多公開討論是好事,支持!
Concordo totalmente com o Schmidt! Correr para criar inteligência sobre-humana parece loucura, tipo um filme de ficção científica onde tudo dá errado 😅 Melhor focar em IA responsável e regulamentação primeiro.





首页






