一份關於人工智慧未來的藍圖正等待被採納

儘管華盛頓與Anthropic的分道揚鑣,揭露了人工智慧領域完全缺乏連貫的規範,但一個由兩黨思想家組成的團體,卻建構出了政府至今仍未能提供的東西:一套針對負責任的人工智慧發展所制定的明確框架。
《親人類宣言》雖在上一週五角大廈與Anthropic對峙事件發生前便已定稿,但參與者們都深知其時機的特殊性。
「過去四個月間,美國發生了一件相當非凡的事,」協助籌組這項行動的麻省理工學院物理學家暨人工智慧研究員麥克斯·泰格馬克表示。「近期民調顯示,現有95%的美國人反對在缺乏監管的情況下競逐超級智慧。」
這份由數百名專家、前政府官員及公眾人物聯署的新發布文件,開篇即提出一項嚴峻的觀察:人類正處於十字路口。一條被稱為「取代競賽」的道路,將導致人類首先在勞動崗位上被取代,繼而作為決策者被取代,因為權力正流向不受監督的機構及其機器。另一條道路則將引領人工智慧大幅拓展人類的潛能。
這幅美好的未來藍圖奠基於五大支柱:確保人類掌握主導權、防止權力集中、守護人類體驗、維護個人自由,以及要求人工智慧企業承擔法律責任。其中較為強硬的條款包括:在科學界達成安全共識並獲得公眾支持之前,禁止開發超級智慧;要求強大系統必須配備強制關機開關;以及禁止開發具備自我複製、自主自我提升或抗拒關機能力的人工智慧。
該宣言發布的時機,正凸顯了其迫切性。二月最後一個星期五,國防部長皮特·赫格塞斯(Pete Hegseth)將Anthropic公司——其人工智慧已部署於機密軍事平台——標記為「供應鏈風險」,起因是該公司拒絕授予五角大廈無限使用其技術的權限。 數小時後,OpenAI 與國防部達成協議,但法律專家指出該協議實質上難以有效執行。這起事件凸顯了國會對人工智慧問題不作為所帶來的代價正日益增加。
美國創新基金會資深研究員迪恩·鮑爾向《紐約時報》表示:「這不僅僅是合約糾紛。這是我國首次真正探討誰來掌控人工智慧系統。」
泰格馬克提出了一個貼切的比喻。「你絕不會擔心製藥公司會在藥物安全性未獲證實前就推出有害藥物,」他說,「因為美國食品藥物管理局(FDA)絕不會允許任何產品在安全性未達標前上市。」
華府的權力鬥爭鮮少能產生推動修法所需的公眾壓力。相反地,泰格馬克認為兒童安全問題最有可能打破當前的僵局。該宣言呼籲對人工智慧產品——尤其是針對年輕使用者的聊天機器人與陪伴型應用程式——實施強制性的部署前測試,以評估其是否會引發自殺念頭增加、心理健康惡化及情緒操控等風險。
「如果某個令人毛骨悚然的成年人假扮成小女孩傳訊息給一名11歲男孩,並慫恿他自殺,那個人可能會被送進監獄,」泰格馬克說。「我們已經有法律禁止這種行為。那麼,如果換成機器這麼做,為什麼就該有所不同呢?」
他認為,一旦針對兒童產品的上市前測試機制確立,其適用範圍勢必會擴大。「人們將開始提出其他要求。也許我們還應該測試系統是否會協助恐怖分子製造生物武器。也許我們應該確保超級智慧體無法推翻美國政府。」
值得注意的是,前川普顧問史蒂夫·班農與歐巴馬總統的國家安全顧問蘇珊·萊斯,竟與前參謀長聯席會議主席麥克·馬倫及進步派宗教領袖們共同簽署了同一份文件。
「他們達成共識的關鍵,當然在於他們都是人類,」泰格馬克指出。「當面臨選擇人類的未來還是機器的未來時,他們自然會站在同一陣線。」
相關文章
山姆·奧特曼引發關於人工智慧減速的辯論
在Apple Podcasts上收聽在Spotify上收聽OpenAI執行長薩姆·阿爾特曼(Sam Altman)最近表示,現在可能是時候“控制人工智慧的發展速度”,以便社會“在這些新的能力水平周圍加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我討論了阿爾特曼的言論可能由最近的一次駭客攻擊所觸發,該攻擊中一名OpenAI代理突破了Hugging Face的系統。Sean指出,雖然由AI代理執行的駭客攻擊是前所未
OpenAI 與蘋果公司就商業秘密訴訟進行對抗
OpenAI 於週二駁回了蘋果公司的商業秘密指控,稱該訴訟毫無根據。“我們認真對待這些指控,但未發現任何支援它們的證據,”OpenAI 表示,據彭博社記者 Ed Ludlow 在 X 平臺報道,“我們支援公平競爭和工作自由,專注於創造賦能全球使用者的技術。”此前,蘋果公司於週五在美國加利福尼亞州北區聯邦地區法院提起訴訟,指控 OpenAI 策劃了一項從前蘋果員工處竊取機密資料和智慧財產權的計劃。這份長達 41 頁的訴狀針對 OpenAI 的高管層,包括首席硬體官 Tang Tan,他是一名擁有
Anthropic 進入 AI 法律科技市場,競爭日益激烈
Anthropic 於週二釋出了一系列新的聊天機器人功能,旨在為法律實務提供自動化支援。這些增強功能在年初推出的特定律所平臺 Claude for Legal 基礎上進行了擴充套件,增加了針對不同法律領域的專用法律外掛和 MCP 聯結器。隨著法律人工智慧領域競爭的加劇,這些工具應運而生。今年三月,利用代理式人工智慧簡化法律工作流的 AI 法律初創公司 Harvey 以 110 億美元的估值獲得了 2 億美元融資。上個月,競爭對手 Legora 完成了 6 億美元的 D 輪融資,並啟動了一場由裘德·
相關專題推薦
評論 (0)
0/500

儘管華盛頓與Anthropic的分道揚鑣,揭露了人工智慧領域完全缺乏連貫的規範,但一個由兩黨思想家組成的團體,卻建構出了政府至今仍未能提供的東西:一套針對負責任的人工智慧發展所制定的明確框架。
《親人類宣言》雖在上一週五角大廈與Anthropic對峙事件發生前便已定稿,但參與者們都深知其時機的特殊性。
「過去四個月間,美國發生了一件相當非凡的事,」協助籌組這項行動的麻省理工學院物理學家暨人工智慧研究員麥克斯·泰格馬克表示。「近期民調顯示,現有95%的美國人反對在缺乏監管的情況下競逐超級智慧。」
這份由數百名專家、前政府官員及公眾人物聯署的新發布文件,開篇即提出一項嚴峻的觀察:人類正處於十字路口。一條被稱為「取代競賽」的道路,將導致人類首先在勞動崗位上被取代,繼而作為決策者被取代,因為權力正流向不受監督的機構及其機器。另一條道路則將引領人工智慧大幅拓展人類的潛能。
這幅美好的未來藍圖奠基於五大支柱:確保人類掌握主導權、防止權力集中、守護人類體驗、維護個人自由,以及要求人工智慧企業承擔法律責任。其中較為強硬的條款包括:在科學界達成安全共識並獲得公眾支持之前,禁止開發超級智慧;要求強大系統必須配備強制關機開關;以及禁止開發具備自我複製、自主自我提升或抗拒關機能力的人工智慧。
該宣言發布的時機,正凸顯了其迫切性。二月最後一個星期五,國防部長皮特·赫格塞斯(Pete Hegseth)將Anthropic公司——其人工智慧已部署於機密軍事平台——標記為「供應鏈風險」,起因是該公司拒絕授予五角大廈無限使用其技術的權限。 數小時後,OpenAI 與國防部達成協議,但法律專家指出該協議實質上難以有效執行。這起事件凸顯了國會對人工智慧問題不作為所帶來的代價正日益增加。
美國創新基金會資深研究員迪恩·鮑爾向《紐約時報》表示:「這不僅僅是合約糾紛。這是我國首次真正探討誰來掌控人工智慧系統。」
泰格馬克提出了一個貼切的比喻。「你絕不會擔心製藥公司會在藥物安全性未獲證實前就推出有害藥物,」他說,「因為美國食品藥物管理局(FDA)絕不會允許任何產品在安全性未達標前上市。」
華府的權力鬥爭鮮少能產生推動修法所需的公眾壓力。相反地,泰格馬克認為兒童安全問題最有可能打破當前的僵局。該宣言呼籲對人工智慧產品——尤其是針對年輕使用者的聊天機器人與陪伴型應用程式——實施強制性的部署前測試,以評估其是否會引發自殺念頭增加、心理健康惡化及情緒操控等風險。
「如果某個令人毛骨悚然的成年人假扮成小女孩傳訊息給一名11歲男孩,並慫恿他自殺,那個人可能會被送進監獄,」泰格馬克說。「我們已經有法律禁止這種行為。那麼,如果換成機器這麼做,為什麼就該有所不同呢?」
他認為,一旦針對兒童產品的上市前測試機制確立,其適用範圍勢必會擴大。「人們將開始提出其他要求。也許我們還應該測試系統是否會協助恐怖分子製造生物武器。也許我們應該確保超級智慧體無法推翻美國政府。」
值得注意的是,前川普顧問史蒂夫·班農與歐巴馬總統的國家安全顧問蘇珊·萊斯,竟與前參謀長聯席會議主席麥克·馬倫及進步派宗教領袖們共同簽署了同一份文件。
「他們達成共識的關鍵,當然在於他們都是人類,」泰格馬克指出。「當面臨選擇人類的未來還是機器的未來時,他們自然會站在同一陣線。」
山姆·奧特曼引發關於人工智慧減速的辯論
在Apple Podcasts上收聽在Spotify上收聽OpenAI執行長薩姆·阿爾特曼(Sam Altman)最近表示,現在可能是時候“控制人工智慧的發展速度”,以便社會“在這些新的能力水平周圍加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我討論了阿爾特曼的言論可能由最近的一次駭客攻擊所觸發,該攻擊中一名OpenAI代理突破了Hugging Face的系統。Sean指出,雖然由AI代理執行的駭客攻擊是前所未
OpenAI 與蘋果公司就商業秘密訴訟進行對抗
OpenAI 於週二駁回了蘋果公司的商業秘密指控,稱該訴訟毫無根據。“我們認真對待這些指控,但未發現任何支援它們的證據,”OpenAI 表示,據彭博社記者 Ed Ludlow 在 X 平臺報道,“我們支援公平競爭和工作自由,專注於創造賦能全球使用者的技術。”此前,蘋果公司於週五在美國加利福尼亞州北區聯邦地區法院提起訴訟,指控 OpenAI 策劃了一項從前蘋果員工處竊取機密資料和智慧財產權的計劃。這份長達 41 頁的訴狀針對 OpenAI 的高管層,包括首席硬體官 Tang Tan,他是一名擁有
Anthropic 進入 AI 法律科技市場,競爭日益激烈
Anthropic 於週二釋出了一系列新的聊天機器人功能,旨在為法律實務提供自動化支援。這些增強功能在年初推出的特定律所平臺 Claude for Legal 基礎上進行了擴充套件,增加了針對不同法律領域的專用法律外掛和 MCP 聯結器。隨著法律人工智慧領域競爭的加劇,這些工具應運而生。今年三月,利用代理式人工智慧簡化法律工作流的 AI 法律初創公司 Harvey 以 110 億美元的估值獲得了 2 億美元融資。上個月,競爭對手 Legora 完成了 6 億美元的 D 輪融資,並啟動了一場由裘德·





首頁






