馬斯克在OpenAI訴訟案中的唯一證人警告稱,人工智慧通用智慧(AGI)軍備競賽迫在眉睫

我們何時應該認真對待那些對人工智慧持末日論觀點的人?
這個問題是埃隆·馬斯克(Elon Musk)試圖限制 OpenAI 營利性人工智慧運營的核心所在。他的律師團隊辯稱,該組織最初是作為一個致力於人工智慧安全的慈善機構成立的,但為了追求利潤而偏離了其使命。為了支援這一主張,他們引用了創始人的早期電子郵件和宣告,這些宣告強調需要一個公共利益方面的制衡力量來對抗谷歌 DeepMind。
今天,辯方提出了其唯一的專家證人:彼得·羅素(Peter Russell),他是加州大學伯克利分校電腦科學教授,擁有數十年的人工智慧研究經驗。他的角色是提供關於人工智慧的背景資訊,並證明該技術存在值得關注的重大風險。
羅素是 2023 年 3 月呼籲暫停人工智慧研究六個月的一封公開信的簽署人之一。存在一個顯著的矛盾的是,馬斯克也簽署了這封同樣的信,與此同時他卻推出了自己的營利性人工智慧實驗室 xAI。
羅素在陪審團和尤馮娜·岡薩雷斯·羅傑斯(Yvonne Gonzalez Rodgers)法官面前作證稱,開發人工智慧伴隨著各種風險,包括網路威脅、對齊問題以及通用人工智慧(AGI)的贏家通吃動態。他得出結論,追求 AGI 與確保安全之間存在固有的緊張關係。
羅素關於不受監管的人工智慧帶來生存威脅的更廣泛擔憂並未在公開法庭上完全呈現,因為 OpenAI 的律師提出異議,導致法官限制了他的證詞。然而,羅素長期以來一直批評全球前沿實驗室競相率先實現 AGI 的競爭軍備競賽,並主張對該領域實施更嚴格的政府監管。
OpenAI 的法律團隊利用交叉盤問確立了一點,即羅素並未直接評估該組織的公司結構或具體的安全協議。
儘管如此,這位記者以及法官和陪審員必須確定,在多大程度上重視公司利潤動機與人工智慧安全關切之間的關係。幾乎所有 OpenAI 的創始人都強烈警告過人工智慧的風險,同時強調其好處,力求儘可能快速地構建人工智慧,並制定他們控制的營利性人工智慧專案的計劃。
從外部視角來看,一個明顯的問題浮現出來:OpenAI 的創始人在其成立後意識到,該組織需要更多的計算能力才能成功。這種資金只能來自營利性投資者。創始團隊對 AGI 落入單一實體手中的恐懼促使他們尋求資本,這最終導致團隊分裂,形成了當前的競爭格局,並導致了這場訴訟。
這種動態正在國家層面重演:伯尼·桑德斯(Bernie Sanders)參議員提出的限制資料中心建設的法律提案,引用了馬斯克、山姆·奧特曼(Sam Altman)、傑弗裡·辛頓(Geoffrey Hinton)等人表達的人工智慧恐懼。在一家貿易組織“資料創新中心”工作的霍登·奧馬爾(Hoden Omar)反對桑德斯引用這些恐懼而不承認他們的希望,他告訴 TechCrunch:“目前尚不清楚,為什麼公眾應該忽略科技億萬富翁所說的所有話,除非他們的言論可以被用來填補一個不穩固論點中的空白。”
現在,案件的雙方都要求法院這樣做:認真對待奧特曼和馬斯克論點中的一部分,同時忽略對其法律立場不太有用的部分。
相關文章
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work
Google 測試 Remy AI 代理,以 Gemini 為重點轉向使用者控制
根據《商業內幕》的報道,谷歌正在測試 Remy,這是 Gemini 的一款全新 AI 個人代理工具。該工具旨在代表使用者執行任務,從而簡化專業工作流程和日常事務。目前,Remy 正在 Gemini 應用的內部員工專屬版本中進行測試。該報告引用了一份內部檔案以及對兩位熟悉該專案的個人的採訪。內部資料將 Remy 描述為“全天候個人代理”,將 Gemini 定位為能夠代表使用者行事的主動助手。接近該專案的訊息人士證實,谷歌員工正在積極測試 Remy。谷歌發言人拒絕提供進一步評論。該報告未提及公開發布
相關專題推薦
評論 (0)
0/500

我們何時應該認真對待那些對人工智慧持末日論觀點的人?
這個問題是埃隆·馬斯克(Elon Musk)試圖限制 OpenAI 營利性人工智慧運營的核心所在。他的律師團隊辯稱,該組織最初是作為一個致力於人工智慧安全的慈善機構成立的,但為了追求利潤而偏離了其使命。為了支援這一主張,他們引用了創始人的早期電子郵件和宣告,這些宣告強調需要一個公共利益方面的制衡力量來對抗谷歌 DeepMind。
今天,辯方提出了其唯一的專家證人:彼得·羅素(Peter Russell),他是加州大學伯克利分校電腦科學教授,擁有數十年的人工智慧研究經驗。他的角色是提供關於人工智慧的背景資訊,並證明該技術存在值得關注的重大風險。
羅素是 2023 年 3 月呼籲暫停人工智慧研究六個月的一封公開信的簽署人之一。存在一個顯著的矛盾的是,馬斯克也簽署了這封同樣的信,與此同時他卻推出了自己的營利性人工智慧實驗室 xAI。
羅素在陪審團和尤馮娜·岡薩雷斯·羅傑斯(Yvonne Gonzalez Rodgers)法官面前作證稱,開發人工智慧伴隨著各種風險,包括網路威脅、對齊問題以及通用人工智慧(AGI)的贏家通吃動態。他得出結論,追求 AGI 與確保安全之間存在固有的緊張關係。
羅素關於不受監管的人工智慧帶來生存威脅的更廣泛擔憂並未在公開法庭上完全呈現,因為 OpenAI 的律師提出異議,導致法官限制了他的證詞。然而,羅素長期以來一直批評全球前沿實驗室競相率先實現 AGI 的競爭軍備競賽,並主張對該領域實施更嚴格的政府監管。
OpenAI 的法律團隊利用交叉盤問確立了一點,即羅素並未直接評估該組織的公司結構或具體的安全協議。
儘管如此,這位記者以及法官和陪審員必須確定,在多大程度上重視公司利潤動機與人工智慧安全關切之間的關係。幾乎所有 OpenAI 的創始人都強烈警告過人工智慧的風險,同時強調其好處,力求儘可能快速地構建人工智慧,並制定他們控制的營利性人工智慧專案的計劃。
從外部視角來看,一個明顯的問題浮現出來:OpenAI 的創始人在其成立後意識到,該組織需要更多的計算能力才能成功。這種資金只能來自營利性投資者。創始團隊對 AGI 落入單一實體手中的恐懼促使他們尋求資本,這最終導致團隊分裂,形成了當前的競爭格局,並導致了這場訴訟。
這種動態正在國家層面重演:伯尼·桑德斯(Bernie Sanders)參議員提出的限制資料中心建設的法律提案,引用了馬斯克、山姆·奧特曼(Sam Altman)、傑弗裡·辛頓(Geoffrey Hinton)等人表達的人工智慧恐懼。在一家貿易組織“資料創新中心”工作的霍登·奧馬爾(Hoden Omar)反對桑德斯引用這些恐懼而不承認他們的希望,他告訴 TechCrunch:“目前尚不清楚,為什麼公眾應該忽略科技億萬富翁所說的所有話,除非他們的言論可以被用來填補一個不穩固論點中的空白。”
現在,案件的雙方都要求法院這樣做:認真對待奧特曼和馬斯克論點中的一部分,同時忽略對其法律立場不太有用的部分。
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work





首頁






