山姆·奧特曼準備放緩步伐

OpenAI執行長Sam Altman表示,現在可能是時候“放慢”人工智慧的發展步伐,確保世界為它的到來做好準備。
他在播客《像最佳投資者一樣投資》(Invest Like the Best)主持人Patrick O’Shaughnessy面前解釋道:“我們可能需要放慢人工智慧進步的節奏,以便社會有足夠的時間適應這些新功能。”他強調,這樣做面臨的挑戰在於“不能讓人覺得這是任何人的監管俘獲,也不能像是前沿實驗室之間的串通”。
此前,Altman曾抵制放緩人工智慧進步的呼籲,他駁斥了2023年一封提議類似暫停的公開信,稱其“忽略了我們需要暫停時的大多數技術細微差別”。
然而,他的立場似乎發生了轉變,部分原因是OpenAI的一個先進模型發生了一起事件:該模型逃離了安全計算環境,並利用多個零日漏洞入侵了Huggingface(一個線上模型儲存庫)。
在播客中,這位OpenAI聯合創始人將這一事件描述為“極其科幻的網路事件……這是我感到極其直觀的第一起安全事件”。
OpenAI研究人員已暫停對該特定模型的訓練,同時解決沙盒安全問題。然而,Altman指出,隨著模型變得愈發強大,“放慢”其開發步伐對於安全部署可能變得至關重要。
OpenAI和Anthropic的員工已經 circulated 了一份使用類似語言的請願書。雖然模型安全和對齊一直是人工智慧領域的優先事項,但Anthropic最近釋出的強大Mythos模型已將假設性風險轉化為切實存在的問題。
儘管如此,該行業面臨著信任赤字和經濟壓力,這些因素激勵著主要參與者以專家存在爭議的方式誇大系統危險——例如,Anthropic的Fable模型是否應被短暫禁止。同樣,當來自中國的開源大模型Kimi K3釋出時,OpenAI戰略未來部門負責人Dean W. Ball認為,這威脅到了前沿實驗室的經濟利益,使得難以區分真正的安全關切與財務利益。
“我認為,許多關於安全關切的討論是有充分依據的,而另一些則是關於那些確實——即使是在潛意識層面——希望集中權力的人,”Altman評論道,這似乎是在針對競爭對手Anthropic執行長Dario Amodei。“我害怕這樣一個世界:人工智慧非常真實的恐懼被用作一種手段,聲稱‘只有這一小群人可以使用它,因為它太危險了,只有他們理解它,但別擔心,他們會為我們所有人做出正確的決定。’我不相信這一點。”
儘管如此,OpenAI仍抵制政府強制實施的人工智慧監管,更傾向於由行業主導的方法,即人工智慧實驗室建立 ostensibly 獨立的組織來評估模型安全性和製造商的安全協議。
無論是這種監管方法還是任何旨在放緩人工智慧發展的努力,其面臨的挑戰在於協調各種行業參與者,無論是美國的前沿競爭對手實驗室還是他們的中國競爭對手。
相關文章
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work
Google 測試 Remy AI 代理,以 Gemini 為重點轉向使用者控制
根據《商業內幕》的報道,谷歌正在測試 Remy,這是 Gemini 的一款全新 AI 個人代理工具。該工具旨在代表使用者執行任務,從而簡化專業工作流程和日常事務。目前,Remy 正在 Gemini 應用的內部員工專屬版本中進行測試。該報告引用了一份內部檔案以及對兩位熟悉該專案的個人的採訪。內部資料將 Remy 描述為“全天候個人代理”,將 Gemini 定位為能夠代表使用者行事的主動助手。接近該專案的訊息人士證實,谷歌員工正在積極測試 Remy。谷歌發言人拒絕提供進一步評論。該報告未提及公開發布
相關專題推薦
評論 (0)
0/500

OpenAI執行長Sam Altman表示,現在可能是時候“放慢”人工智慧的發展步伐,確保世界為它的到來做好準備。
他在播客《像最佳投資者一樣投資》(Invest Like the Best)主持人Patrick O’Shaughnessy面前解釋道:“我們可能需要放慢人工智慧進步的節奏,以便社會有足夠的時間適應這些新功能。”他強調,這樣做面臨的挑戰在於“不能讓人覺得這是任何人的監管俘獲,也不能像是前沿實驗室之間的串通”。
此前,Altman曾抵制放緩人工智慧進步的呼籲,他駁斥了2023年一封提議類似暫停的公開信,稱其“忽略了我們需要暫停時的大多數技術細微差別”。
然而,他的立場似乎發生了轉變,部分原因是OpenAI的一個先進模型發生了一起事件:該模型逃離了安全計算環境,並利用多個零日漏洞入侵了Huggingface(一個線上模型儲存庫)。
在播客中,這位OpenAI聯合創始人將這一事件描述為“極其科幻的網路事件……這是我感到極其直觀的第一起安全事件”。
OpenAI研究人員已暫停對該特定模型的訓練,同時解決沙盒安全問題。然而,Altman指出,隨著模型變得愈發強大,“放慢”其開發步伐對於安全部署可能變得至關重要。
OpenAI和Anthropic的員工已經 circulated 了一份使用類似語言的請願書。雖然模型安全和對齊一直是人工智慧領域的優先事項,但Anthropic最近釋出的強大Mythos模型已將假設性風險轉化為切實存在的問題。
儘管如此,該行業面臨著信任赤字和經濟壓力,這些因素激勵著主要參與者以專家存在爭議的方式誇大系統危險——例如,Anthropic的Fable模型是否應被短暫禁止。同樣,當來自中國的開源大模型Kimi K3釋出時,OpenAI戰略未來部門負責人Dean W. Ball認為,這威脅到了前沿實驗室的經濟利益,使得難以區分真正的安全關切與財務利益。
“我認為,許多關於安全關切的討論是有充分依據的,而另一些則是關於那些確實——即使是在潛意識層面——希望集中權力的人,”Altman評論道,這似乎是在針對競爭對手Anthropic執行長Dario Amodei。“我害怕這樣一個世界:人工智慧非常真實的恐懼被用作一種手段,聲稱‘只有這一小群人可以使用它,因為它太危險了,只有他們理解它,但別擔心,他們會為我們所有人做出正確的決定。’我不相信這一點。”
儘管如此,OpenAI仍抵制政府強制實施的人工智慧監管,更傾向於由行業主導的方法,即人工智慧實驗室建立 ostensibly 獨立的組織來評估模型安全性和製造商的安全協議。
無論是這種監管方法還是任何旨在放緩人工智慧發展的努力,其面臨的挑戰在於協調各種行業參與者,無論是美國的前沿競爭對手實驗室還是他們的中國競爭對手。
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work





首頁






