埃里克·施密特(Eric Schmidt)反對阿吉·曼哈頓(Agi Manhattan)項目

在週三發布的一份政策文件中,前谷歌首席執行官埃里克·施密特(Eric Schmidt)與Scale AI首席執行官亞歷山大·王(Alexandr Wang)及AI安全中心主任丹·亨德里克斯(Dan Hendrycks)共同建議,美國不應啟動類似曼哈頓計劃的舉措,來開發具有「超人類」智能的AI系統,這類系統通常被稱為通用人工智能(AGI)。
該文件題為「超智能策略」,警告稱美國若試圖壟斷超智能AI,可能會引發中國的強烈反應,或許以網絡攻擊的形式出現,這可能會擾亂全球關係。
共同作者認為:「針對AGI的曼哈頓計劃假設競爭對手會默許長期的不平衡或毀滅性後果,而不會採取行動阻止。這種為了超級武器和全球控制的推動,可能會引發敵對對策和緊張局勢升級,從而破壞該策略聲稱要確保的穩定性。」
這份由美國AI領域三位關鍵人物撰寫的文件,發布之際正值美國國會委員會建議啟動「類似曼哈頓計劃」的舉措,以資助AGI發展,類比於1940年代美國的原子彈項目。美國能源部長克里斯·賴特(Chris Wright)最近宣稱,美國正處於「新的曼哈頓計劃的開端」,並在一個超級計算機基地與OpenAI聯合創始人格雷格·布羅克曼(Greg Brockman)共同發表講話。
「超智能策略」文件挑戰了近期多位美國政策和產業領袖的推動,他們認為政府支持的AGI計劃是與中國競爭的最佳方式。
施密特、王和亨德里克斯認為,美國在AGI問題上面臨類似於相互保證毀滅的對峙局面。正如各國避免壟斷核武器以防預先打擊,作者建議美國應謹慎對待試圖主導高度先進的AI系統。
雖然將AI與核武器相比可能顯得誇張,但全球領導人已將AI視為關鍵的軍事資產。五角大樓指出,AI正在加速軍方的殺傷鏈。
作者提出了「相互保證AI故障」(MAIM)的概念,即政府可能會採取先發制人的行動,以禁用具有威脅性的AI項目,而不是等待對手將AGI武器化。
施密特、王和亨德里克斯建議,美國應將重點從「贏得超智能競賽」轉向開發方法,以阻止其他國家創造超智能AI。他們建議政府應「擴大其網絡攻擊武器庫,以禁用其他國家控制的威脅性AI項目」,並限制對手獲得先進AI晶片和開源模型的途徑。
該文件突顯了AI政策界的分歧,一方是「末日論者」,他們認為災難性AI後果不可避免,主張放緩AI進展;另一方是「鴕鳥派」,他們推動加速AI發展並抱持樂觀態度。
作者提出了第三條路徑:對AGI發展採取謹慎態度,強調防禦策略。
施密特的立場尤其引人注目,因為他此前曾強調美國需要在AI發展中與中國積極競爭。就在幾個月前,施密特撰寫了一篇專欄文章,稱DeepSeek標誌著美中AI競賽的關鍵時刻。
儘管川普政府決心推進美國的AI發展,共同作者提醒我們,美國在AGI上的決定具有全球影響。
隨著世界觀察美國在AI領域的推進,施密特及其共同作者建議,更具防禦性的策略可能是更明智的選擇。
相關文章
山姆·奧特曼引發關於人工智慧減速的辯論
在Apple Podcasts上收聽在Spotify上收聽OpenAI執行長薩姆·阿爾特曼(Sam Altman)最近表示,現在可能是時候“控制人工智慧的發展速度”,以便社會“在這些新的能力水平周圍加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我討論了阿爾特曼的言論可能由最近的一次駭客攻擊所觸發,該攻擊中一名OpenAI代理突破了Hugging Face的系統。Sean指出,雖然由AI代理執行的駭客攻擊是前所未
OpenAI 與蘋果公司就商業秘密訴訟進行對抗
OpenAI 於週二駁回了蘋果公司的商業秘密指控,稱該訴訟毫無根據。“我們認真對待這些指控,但未發現任何支援它們的證據,”OpenAI 表示,據彭博社記者 Ed Ludlow 在 X 平臺報道,“我們支援公平競爭和工作自由,專注於創造賦能全球使用者的技術。”此前,蘋果公司於週五在美國加利福尼亞州北區聯邦地區法院提起訴訟,指控 OpenAI 策劃了一項從前蘋果員工處竊取機密資料和智慧財產權的計劃。這份長達 41 頁的訴狀針對 OpenAI 的高管層,包括首席硬體官 Tang Tan,他是一名擁有
OpenAI機器人專案主管凱特琳·卡利諾夫斯基因五角大樓合作專案辭職
OpenAI 機器人業務負責人凱特琳·卡利諾夫斯基(Caitlin Kalinowski)在該公司與國防部達成備受爭議的合作伙伴關係後辭職。“這不是一個輕鬆的決定,”卡利諾夫斯基在社交媒體宣告中解釋道。“雖然人工智慧在國家安全中發揮著至關重要的作用,但在沒有司法監督的情況下對美國公民進行監視,以及在未經人類授權的情況下部署致命自主武器,都是需要更加慎重考慮的界限。”卡利諾夫斯基此前因領導 Meta 的增強現實眼鏡部門而聞名,她於 2024 年 11 月加入 OpenAI。在辭職信中,她強調她
相關專題推薦
評論 (33)
0/500
Interesting take from Schmidt and Wang. While I get the caution about a 'Manhattan Project' mindset, isn't the current fragmented, profit-driven race just as risky? Feels like we're arguing over the speed limit while the car's already accelerating downhill. 🤔
Otra vez esta gente rica opinando del futuro. Schmidt ha estado metido en IA una bocha, pero ¿acaso esto no es intentar tirar la pelota para adelante? Si no lo hacemos en un projecto masivo y coordinado, ¿quién tendrá el control real? Me da la impresión de que ya se están juntando en privado las grandes empresas... 🫤
前谷歌執行長也發聲了,這份政策文件提醒得真好。AGI這種『超級智能』確實不該用曼哈頓計劃那種封閉、軍備競賽的模式來搞,想想就讓人不安😅 我覺得與其賭博式地競速,不如先把基礎治理框架和國際協調弄好。各位大佬多公開討論是好事,支持!
Concordo totalmente com o Schmidt! Correr para criar inteligência sobre-humana parece loucura, tipo um filme de ficção científica onde tudo dá errado 😅 Melhor focar em IA responsável e regulamentação primeiro.

在週三發布的一份政策文件中,前谷歌首席執行官埃里克·施密特(Eric Schmidt)與Scale AI首席執行官亞歷山大·王(Alexandr Wang)及AI安全中心主任丹·亨德里克斯(Dan Hendrycks)共同建議,美國不應啟動類似曼哈頓計劃的舉措,來開發具有「超人類」智能的AI系統,這類系統通常被稱為通用人工智能(AGI)。
該文件題為「超智能策略」,警告稱美國若試圖壟斷超智能AI,可能會引發中國的強烈反應,或許以網絡攻擊的形式出現,這可能會擾亂全球關係。
共同作者認為:「針對AGI的曼哈頓計劃假設競爭對手會默許長期的不平衡或毀滅性後果,而不會採取行動阻止。這種為了超級武器和全球控制的推動,可能會引發敵對對策和緊張局勢升級,從而破壞該策略聲稱要確保的穩定性。」
這份由美國AI領域三位關鍵人物撰寫的文件,發布之際正值美國國會委員會建議啟動「類似曼哈頓計劃」的舉措,以資助AGI發展,類比於1940年代美國的原子彈項目。美國能源部長克里斯·賴特(Chris Wright)最近宣稱,美國正處於「新的曼哈頓計劃的開端」,並在一個超級計算機基地與OpenAI聯合創始人格雷格·布羅克曼(Greg Brockman)共同發表講話。
「超智能策略」文件挑戰了近期多位美國政策和產業領袖的推動,他們認為政府支持的AGI計劃是與中國競爭的最佳方式。
施密特、王和亨德里克斯認為,美國在AGI問題上面臨類似於相互保證毀滅的對峙局面。正如各國避免壟斷核武器以防預先打擊,作者建議美國應謹慎對待試圖主導高度先進的AI系統。
雖然將AI與核武器相比可能顯得誇張,但全球領導人已將AI視為關鍵的軍事資產。五角大樓指出,AI正在加速軍方的殺傷鏈。
作者提出了「相互保證AI故障」(MAIM)的概念,即政府可能會採取先發制人的行動,以禁用具有威脅性的AI項目,而不是等待對手將AGI武器化。
施密特、王和亨德里克斯建議,美國應將重點從「贏得超智能競賽」轉向開發方法,以阻止其他國家創造超智能AI。他們建議政府應「擴大其網絡攻擊武器庫,以禁用其他國家控制的威脅性AI項目」,並限制對手獲得先進AI晶片和開源模型的途徑。
該文件突顯了AI政策界的分歧,一方是「末日論者」,他們認為災難性AI後果不可避免,主張放緩AI進展;另一方是「鴕鳥派」,他們推動加速AI發展並抱持樂觀態度。
作者提出了第三條路徑:對AGI發展採取謹慎態度,強調防禦策略。
施密特的立場尤其引人注目,因為他此前曾強調美國需要在AI發展中與中國積極競爭。就在幾個月前,施密特撰寫了一篇專欄文章,稱DeepSeek標誌著美中AI競賽的關鍵時刻。
儘管川普政府決心推進美國的AI發展,共同作者提醒我們,美國在AGI上的決定具有全球影響。
隨著世界觀察美國在AI領域的推進,施密特及其共同作者建議,更具防禦性的策略可能是更明智的選擇。
山姆·奧特曼引發關於人工智慧減速的辯論
在Apple Podcasts上收聽在Spotify上收聽OpenAI執行長薩姆·阿爾特曼(Sam Altman)最近表示,現在可能是時候“控制人工智慧的發展速度”,以便社會“在這些新的能力水平周圍加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我討論了阿爾特曼的言論可能由最近的一次駭客攻擊所觸發,該攻擊中一名OpenAI代理突破了Hugging Face的系統。Sean指出,雖然由AI代理執行的駭客攻擊是前所未
OpenAI 與蘋果公司就商業秘密訴訟進行對抗
OpenAI 於週二駁回了蘋果公司的商業秘密指控,稱該訴訟毫無根據。“我們認真對待這些指控,但未發現任何支援它們的證據,”OpenAI 表示,據彭博社記者 Ed Ludlow 在 X 平臺報道,“我們支援公平競爭和工作自由,專注於創造賦能全球使用者的技術。”此前,蘋果公司於週五在美國加利福尼亞州北區聯邦地區法院提起訴訟,指控 OpenAI 策劃了一項從前蘋果員工處竊取機密資料和智慧財產權的計劃。這份長達 41 頁的訴狀針對 OpenAI 的高管層,包括首席硬體官 Tang Tan,他是一名擁有
OpenAI機器人專案主管凱特琳·卡利諾夫斯基因五角大樓合作專案辭職
OpenAI 機器人業務負責人凱特琳·卡利諾夫斯基(Caitlin Kalinowski)在該公司與國防部達成備受爭議的合作伙伴關係後辭職。“這不是一個輕鬆的決定,”卡利諾夫斯基在社交媒體宣告中解釋道。“雖然人工智慧在國家安全中發揮著至關重要的作用,但在沒有司法監督的情況下對美國公民進行監視,以及在未經人類授權的情況下部署致命自主武器,都是需要更加慎重考慮的界限。”卡利諾夫斯基此前因領導 Meta 的增強現實眼鏡部門而聞名,她於 2024 年 11 月加入 OpenAI。在辭職信中,她強調她
Interesting take from Schmidt and Wang. While I get the caution about a 'Manhattan Project' mindset, isn't the current fragmented, profit-driven race just as risky? Feels like we're arguing over the speed limit while the car's already accelerating downhill. 🤔
Otra vez esta gente rica opinando del futuro. Schmidt ha estado metido en IA una bocha, pero ¿acaso esto no es intentar tirar la pelota para adelante? Si no lo hacemos en un projecto masivo y coordinado, ¿quién tendrá el control real? Me da la impresión de que ya se están juntando en privado las grandes empresas... 🫤
前谷歌執行長也發聲了,這份政策文件提醒得真好。AGI這種『超級智能』確實不該用曼哈頓計劃那種封閉、軍備競賽的模式來搞,想想就讓人不安😅 我覺得與其賭博式地競速,不如先把基礎治理框架和國際協調弄好。各位大佬多公開討論是好事,支持!
Concordo totalmente com o Schmidt! Correr para criar inteligência sobre-humana parece loucura, tipo um filme de ficção científica onde tudo dá errado 😅 Melhor focar em IA responsável e regulamentação primeiro.





首頁






