首頁DeepMind的AGI安全紙無法解決懷疑論者
週三，Google DeepMind 發布了一份厚達145頁的論文，深入探討其對AGI安全的做法。AGI，即人工通用智能，是能執行人類任何任務的AI，在AI領域備受關注。有些人認為這只是幻想，而Anthropic等大廠則認為AGI即將到來，若安全措施不到位，可能引發嚴重問題。
DeepMind的論文由共同創辦人Shane Legg等人撰寫，預測AGI可能於2030年前出現，並可能導致所謂的「嚴重危害」。他們未明確說明，但提及「存在風險」等可怕詞語，可能「永久摧毀人類」。
作者指出：「我們預期在本十年結束前看到卓越AGI。」「卓越AGI是指在多項非物理任務上能媲美前1%成人技能的系統，包括學習新技能等棘手任務。」
論文開篇比較了DeepMind、Anthropic和OpenAI處理AGI風險的方式，稱Anthropic不夠重視「穩健訓練、監控和安全」，而OpenAI則專注於「自動化」一種稱為對齊研究的AI安全研究。
論文還對超智能AI——比任何人類更擅長工作的AI——提出質疑。（OpenAI最近表示將焦點從AGI轉向超智能。）DeepMind作者認為，除非有重大突破，超智能系統短期內，甚至永遠不會出現。
但他們認為，當前方法可能導致「遞歸AI改進」，即AI自行進行AI研究，創造更智能的系統。他們警告，這可能極其危險。
總體而言，論文建議需防止不良行為者接觸AGI、更好地理解AI系統運作，並確保AI運作環境更安全。他們承認許多想法仍處早期，存在「開放研究問題」，但敦促不要忽視即將來臨的安全問題。
作者指出：「AGI可能帶來巨大益處或嚴重危害。因此，為正確開發AGI，頂尖AI開發者需提前計劃，應對重大風險。」
然而，並非所有人都認同論文觀點。
非營利組織AI Now Institute首席AI科學家Heidy Khlaaf對TechCrunch表示，她認為AGI概念太模糊，難以「嚴謹科學評估」。另一位AI研究者、阿爾伯塔大學的Matthew Guzdial表示，他不相信遞歸AI改進目前可行。
Guzdial對TechCrunch說：「遞歸改進是智能奇點論的基礎，但我們從未見過實際運作的證據。」
牛津大學研究科技與監管的Sandra Wachter指出更迫切的擔憂：AI因「不準確輸出」自我強化。
她對TechCrunch說：「隨著線上AI生成內容增加，真實數據被取代，模型從自身充滿不準確或幻覺的輸出中學習。由於聊天機器人主要用於搜索和尋找真相，我們總有被餵送令人信服的錯誤資訊的風險。」
儘管DeepMind的論文詳盡，但可能無法終結關於AGI可能性及當前最需關注的AI安全問題的爭論。
相關文章
RSI 成為新的 AGI，同樣難以明確定義
「遞迴」一詞已成為人工智慧領域的最新熱門詞彙。 已有兩家截然不同的新創公司以此作為公司名稱，而許多其他公司現在也將「遞迴自我提升」（Recursive Self-Improvement, RSI）納入其開發計畫中。就像之前的「通用人工智慧」（AGI）一樣，RSI 已成為代表人工智慧重大突破的三字縮寫——即使其確切定義仍引發一些爭議。從本質上來說，RSI 描述的是一種能夠持續自我升級的人工智慧系統。
OpenAI 勾勒出以公共財富基金、機器人稅及每週四天工作制為核心的人工智慧經濟藍圖
當各國政府正竭力應對超智能機器帶來的經濟衝擊之際，OpenAI 發布了一系列政策提案，闡述在「智能時代」中財富與工作可能如何重塑。這些構想將傳統的左翼機制——例如公共財富基金與擴大的社會安全網——與根本上資本主義、市場導向的經濟框架相融合。OpenAI 的提案本質上是一份願望清單，這份公開聲明有助於民選官員、投資者及公眾理解這家市值 8,520 億美元的公司，如何看待人工智慧在重塑勞動與經濟的過程
Databricks 共同創辦人榮獲 ACM 獎項後，宣稱通用人工智慧即將問世
Databricks 共同創辦人暨技術長 Matei Zaharia 差點錯過那封通知他獲得 2026 年 ACM 計算獎的電子郵件。「這確實是個驚喜，」他向 TechCrunch 透露。2009年，扎哈里亞在加州大學柏克萊分校攻讀博士期間，在著名教授伊昂·斯托伊卡（Ion Stoica）的指導下所開發的技術，被整合進 Databricks。扎哈里亞設計了一種方法，能大幅加速處理那些緩慢且繁瑣的大
相關專題推薦
搜索引擎優化
最適合制定搜尋策略的 AI 搜尋結果頁面（SERP）分析工具
XIX.AI 透過嚴格的實際測試及每週更新的排行榜，精選了 2026 年最新、最佳且評價最高的 AI 搜尋結果頁面（SERP）分析工具，以協助制定搜尋策略。這些強大的工具能幫助您發掘隱藏的優化機會、提升內容表現，並在搜尋領域中取得競爭優勢。立即探索最適合您的工具，提升您的搜尋策略。現在就來探索吧！
13 個工具
xix.ai
數據分析
適用於 SaaS 和電商團隊的 KPI 監控最佳 AI 異常檢測工具
2026 年最新最佳頂級評分 AI 異常檢測工具，助力 SaaS 和電商團隊的 KPI 監控！XIX.AI 基於嚴格的真實世界測試和每週更新的排名，精心策劃了一套強大且顛覆性的工具合集。您將找到詳細的免費與付費對比洞察，幫助您識別必須嘗試的解決方案，從而提升生產力並釋放您的 AI 優勢。立即探索！
10 個工具
xix.ai
寫作
最適合撰寫長篇 SEO 文章的 AI 大綱生成工具
2026 年最新最佳、評價最高的 AI 大綱生成器，專為長篇 SEO 文章打造，由 XIX.AI 精心精選。這些強大的工具能為快速創作高品質內容提供革命性的協助，大幅提升寫作效率。 透過免費版與付費版的比較、實際測試結果及詳細排名，協助您找出最符合需求且不容錯過的選項。立即探索，釋放您的 AI 優勢。
8 個工具
xix.ai
教育與學習
適用於作業與考試準備的人工智慧學習工具
2026 年最新最佳 AI 學習工具，助您完成作業與備考！XIX.AI 精心整理了一份備受好評的清單，收錄了這些強大且具革命性、經實測驗證的工具，能幫助學生提升效率、簡化作業流程，並在考試中取得優異成績。 獲取免費版與付費版的比較、詳細排名，以及必試選項，以釋放您的 AI 優勢。立即探索！
10 個工具
xix.ai
音樂創作
面向詞曲創作者、旋律片段、主旋律及多語言草稿創作的AI人聲演示工具
2026 年最新最佳 AI 人聲演示工具，專為詞曲創作者、旋律創作者和多語言內容團隊打造！XIX.AI 精心整理了一份經過嚴格真實世界測試的高評分、變革性工具列表。您將找到詳細的免費與付費對比資料、全面排名以及必試選項，幫助您提升創作效率並釋放創意潛力。立即探索，發現滿足您所有內容需求的完美工具！
9 個工具
xix.ai
商業
最適合小型企業的頂尖 AI 競爭情勢分析工具
2026 年最新、最佳且評價最高的中小企業 AI 競爭研究工具！XIX.AI 精心精選了一系列極具威力且能改變遊戲規則的工具，並透過嚴謹的實測與詳細排名，每週更新內容。您可在此找到詳盡的免費版與付費版比較，協助您找出必試的工具，以提升工作效率並獲得競爭優勢。 立即探索，找出最適合您的工具！
9 個工具
xix.ai
評論 (52)
0/500
![FrankJackson]()
Interesting read! But honestly, a 145-page paper from DeepMind feels more like a corporate PR move than a real solution. Can we really trust the same companies racing to build AGI to also be the ones setting safety rules? 🧐 It's like letting foxes design the henhouse security. I'd love to see more independent oversight and less glossy documentation.
![PaulTaylor]()
Este artículo me hace pensar que la seguridad de AGI es como intentar construir un paracaídas mientras ya estás cayendo del avión. DeepMind tiene buenas intenciones, pero 145 páginas no van a convencer a los escépticos si no demuestran resultados prácticos. 🤔 ¿Alguien más siente que estas discusiones se repiten cada seis meses sin avances reales?
![JimmyGarcia]()
Mais um artigo gigante sobre segurança de AGI... Será que alguém realmente lê essas 145 páginas? 🤨 Parece que o DeepMind tá mais preocupado em mostrar volume do que convencer os críticos. Cadê os resultados práticos?
![DouglasMitchell]()
Este artículo sobre seguridad en AGI es interesante, pero me pregunto si realmente podemos confiar en las grandes empresas tecnológicas para autorregularse. 🤨 DeepMind habla de seguridad, pero al final todo se reduce a ganancias y competencia. ¿Será solo otro documento para calmar a los reguladores?
![DanielPerez]()
This paper's a beast, but I'm not sold on DeepMind's AGI safety promises. Feels like they're hyping it up without tackling the real ethical mess. Anyone else think it's just fancy PR? 🤔
![CarlPerez]()
This DeepMind paper sounds like a big swing at tackling AGI safety, but 145 pages and skeptics still aren't convinced? 🤔 Maybe they’re onto something, or maybe it’s just too early to trust any AI to be 'safe' when it’s smarter than us!
週三，Google DeepMind 發布了一份厚達145頁的論文，深入探討其對AGI安全的做法。AGI，即人工通用智能，是能執行人類任何任務的AI，在AI領域備受關注。有些人認為這只是幻想，而Anthropic等大廠則認為AGI即將到來，若安全措施不到位，可能引發嚴重問題。
DeepMind的論文由共同創辦人Shane Legg等人撰寫，預測AGI可能於2030年前出現，並可能導致所謂的「嚴重危害」。他們未明確說明，但提及「存在風險」等可怕詞語，可能「永久摧毀人類」。
作者指出：「我們預期在本十年結束前看到卓越AGI。」「卓越AGI是指在多項非物理任務上能媲美前1%成人技能的系統，包括學習新技能等棘手任務。」
論文開篇比較了DeepMind、Anthropic和OpenAI處理AGI風險的方式，稱Anthropic不夠重視「穩健訓練、監控和安全」，而OpenAI則專注於「自動化」一種稱為對齊研究的AI安全研究。
論文還對超智能AI——比任何人類更擅長工作的AI——提出質疑。（OpenAI最近表示將焦點從AGI轉向超智能。）DeepMind作者認為，除非有重大突破，超智能系統短期內，甚至永遠不會出現。
但他們認為，當前方法可能導致「遞歸AI改進」，即AI自行進行AI研究，創造更智能的系統。他們警告，這可能極其危險。
總體而言，論文建議需防止不良行為者接觸AGI、更好地理解AI系統運作，並確保AI運作環境更安全。他們承認許多想法仍處早期，存在「開放研究問題」，但敦促不要忽視即將來臨的安全問題。
作者指出：「AGI可能帶來巨大益處或嚴重危害。因此，為正確開發AGI，頂尖AI開發者需提前計劃，應對重大風險。」
然而，並非所有人都認同論文觀點。
非營利組織AI Now Institute首席AI科學家Heidy Khlaaf對TechCrunch表示，她認為AGI概念太模糊，難以「嚴謹科學評估」。另一位AI研究者、阿爾伯塔大學的Matthew Guzdial表示，他不相信遞歸AI改進目前可行。
Guzdial對TechCrunch說：「遞歸改進是智能奇點論的基礎，但我們從未見過實際運作的證據。」
牛津大學研究科技與監管的Sandra Wachter指出更迫切的擔憂：AI因「不準確輸出」自我強化。
她對TechCrunch說：「隨著線上AI生成內容增加，真實數據被取代，模型從自身充滿不準確或幻覺的輸出中學習。由於聊天機器人主要用於搜索和尋找真相，我們總有被餵送令人信服的錯誤資訊的風險。」
儘管DeepMind的論文詳盡，但可能無法終結關於AGI可能性及當前最需關注的AI安全問題的爭論。
RSI 成為新的 AGI，同樣難以明確定義
「遞迴」一詞已成為人工智慧領域的最新熱門詞彙。 已有兩家截然不同的新創公司以此作為公司名稱，而許多其他公司現在也將「遞迴自我提升」（Recursive Self-Improvement, RSI）納入其開發計畫中。就像之前的「通用人工智慧」（AGI）一樣，RSI 已成為代表人工智慧重大突破的三字縮寫——即使其確切定義仍引發一些爭議。從本質上來說，RSI 描述的是一種能夠持續自我升級的人工智慧系統。
OpenAI 勾勒出以公共財富基金、機器人稅及每週四天工作制為核心的人工智慧經濟藍圖
當各國政府正竭力應對超智能機器帶來的經濟衝擊之際，OpenAI 發布了一系列政策提案，闡述在「智能時代」中財富與工作可能如何重塑。這些構想將傳統的左翼機制——例如公共財富基金與擴大的社會安全網——與根本上資本主義、市場導向的經濟框架相融合。OpenAI 的提案本質上是一份願望清單，這份公開聲明有助於民選官員、投資者及公眾理解這家市值 8,520 億美元的公司，如何看待人工智慧在重塑勞動與經濟的過程
Databricks 共同創辦人榮獲 ACM 獎項後，宣稱通用人工智慧即將問世
Databricks 共同創辦人暨技術長 Matei Zaharia 差點錯過那封通知他獲得 2026 年 ACM 計算獎的電子郵件。「這確實是個驚喜，」他向 TechCrunch 透露。2009年，扎哈里亞在加州大學柏克萊分校攻讀博士期間，在著名教授伊昂·斯托伊卡（Ion Stoica）的指導下所開發的技術，被整合進 Databricks。扎哈里亞設計了一種方法，能大幅加速處理那些緩慢且繁瑣的大
XIX.AI 透過嚴格的實際測試及每週更新的排行榜，精選了 2026 年最新、最佳且評價最高的 AI 搜尋結果頁面（SERP）分析工具，以協助制定搜尋策略。這些強大的工具能幫助您發掘隱藏的優化機會、提升內容表現，並在搜尋領域中取得競爭優勢。立即探索最適合您的工具，提升您的搜尋策略。現在就來探索吧！
13 個工具
xix.ai
2026 年最新最佳頂級評分 AI 異常檢測工具，助力 SaaS 和電商團隊的 KPI 監控！XIX.AI 基於嚴格的真實世界測試和每週更新的排名，精心策劃了一套強大且顛覆性的工具合集。您將找到詳細的免費與付費對比洞察，幫助您識別必須嘗試的解決方案，從而提升生產力並釋放您的 AI 優勢。立即探索！
10 個工具
xix.ai
2026 年最新最佳、評價最高的 AI 大綱生成器，專為長篇 SEO 文章打造，由 XIX.AI 精心精選。這些強大的工具能為快速創作高品質內容提供革命性的協助，大幅提升寫作效率。 透過免費版與付費版的比較、實際測試結果及詳細排名，協助您找出最符合需求且不容錯過的選項。立即探索，釋放您的 AI 優勢。
8 個工具
xix.ai
2026 年最新最佳 AI 學習工具，助您完成作業與備考！XIX.AI 精心整理了一份備受好評的清單，收錄了這些強大且具革命性、經實測驗證的工具，能幫助學生提升效率、簡化作業流程，並在考試中取得優異成績。 獲取免費版與付費版的比較、詳細排名，以及必試選項，以釋放您的 AI 優勢。立即探索！
10 個工具
xix.ai
2026 年最新最佳 AI 人聲演示工具，專為詞曲創作者、旋律創作者和多語言內容團隊打造！XIX.AI 精心整理了一份經過嚴格真實世界測試的高評分、變革性工具列表。您將找到詳細的免費與付費對比資料、全面排名以及必試選項，幫助您提升創作效率並釋放創意潛力。立即探索，發現滿足您所有內容需求的完美工具！
9 個工具
xix.ai
2026 年最新、最佳且評價最高的中小企業 AI 競爭研究工具！XIX.AI 精心精選了一系列極具威力且能改變遊戲規則的工具，並透過嚴謹的實測與詳細排名，每週更新內容。您可在此找到詳盡的免費版與付費版比較，協助您找出必試的工具，以提升工作效率並獲得競爭優勢。 立即探索，找出最適合您的工具！
9 個工具
xix.ai
Interesting read! But honestly, a 145-page paper from DeepMind feels more like a corporate PR move than a real solution. Can we really trust the same companies racing to build AGI to also be the ones setting safety rules? 🧐 It's like letting foxes design the henhouse security. I'd love to see more independent oversight and less glossy documentation.
Este artículo me hace pensar que la seguridad de AGI es como intentar construir un paracaídas mientras ya estás cayendo del avión. DeepMind tiene buenas intenciones, pero 145 páginas no van a convencer a los escépticos si no demuestran resultados prácticos. 🤔 ¿Alguien más siente que estas discusiones se repiten cada seis meses sin avances reales?
Mais um artigo gigante sobre segurança de AGI... Será que alguém realmente lê essas 145 páginas? 🤨 Parece que o DeepMind tá mais preocupado em mostrar volume do que convencer os críticos. Cadê os resultados práticos?
Este artículo sobre seguridad en AGI es interesante, pero me pregunto si realmente podemos confiar en las grandes empresas tecnológicas para autorregularse. 🤨 DeepMind habla de seguridad, pero al final todo se reduce a ganancias y competencia. ¿Será solo otro documento para calmar a los reguladores?
This paper's a beast, but I'm not sold on DeepMind's AGI safety promises. Feels like they're hyping it up without tackling the real ethical mess. Anyone else think it's just fancy PR? 🤔
This DeepMind paper sounds like a big swing at tackling AGI safety, but 145 pages and skeptics still aren't convinced? 🤔 Maybe they’re onto something, or maybe it’s just too early to trust any AI to be 'safe' when it’s smarter than us!
