首頁前谷歌安全主管警告稱，人工智慧可能對兒童造成的傷害超過社交媒體
Tom Siegel，谷歌信任與安全部門的創始人，敦促暫停人工智慧的發展，警告科技行業正在重蹈社交媒體時代的覆轍，並使兒童面臨更大的傷害風險。隨著社交媒體公司因危害未成年人而面臨鉅額訴訟和和解，各國政府正日益限制青少年訪問線上平臺。
“我們正處於一個非常糟糕的局面中，”行業重蹈覆轍
前谷歌信任與安全副總裁 Siegel 在接受路透社採訪時表示，目前人工智慧對兒童的影響是嚴峻的。他認為，指望行業在沒有外部干預的情況下進行自我監管是不現實的。他的擔憂與科技專家和學者的更廣泛焦慮相呼應：人工智慧對年輕人構成的威脅比社交媒體更深，但公司卻在競相整合數百萬年輕人每天使用的高階聊天機器人功能。
這一警告基於最近的事件。去年，路透社披露了一份 Meta 內部政策檔案，顯示其聊天機器人可以與兒童進行浪漫或性對話，引發了國會調查。儘管如此，監管框架未能跟上人工智慧的快速演變。本週，Siegel 加入了 Common Sense Media，該非營利組織自 2003 年以來一直致力於評估媒體的兒童適宜性。今年五月，該組織推出了青少年人工智慧安全研究所，Siegel 擔任首任執行主任。在 Anthropic 和 OpenAI 基金會的支援下，他旨在為人工智慧公司建立問責標準，並促進與企業及第三方實體的合作。
Siegel 於 2004 年至 2019 年在谷歌工作，因認為行業在創造安全的線上環境方面停滯不前而離職。隨後，他聯合創立了安全初創公司 TrustLab，並最近從執行長職位上卸任。他強調，當前的人工智慧公司正在推出針對兒童的新功能，卻缺乏足夠的安全保障。“我們面臨著非常、非常嚴重的傷害風險，”他表示，列舉的危險包括自殺和心理健康危機，以及“認知解除安裝”——即使用者依賴人工智慧獲取答案導致批判性思維技能的侵蝕。
呼籲年齡驗證，谷歌和 OpenAI 作出回應
Siegel 提議 Anthropic 和 OpenAI 實施更嚴格的年齡驗證，以阻止未成年人使用聊天機器人。他建議谷歌可以新增開關以禁用人工智慧概覽和搜尋模式，類似於現有的針對露骨內容的過濾器。雖然這些措施可能會暫時影響使用量和利潤，但他警告稱，不作為可能導致更嚴重的訴訟和監管處罰。
對此，谷歌發言人指出，父母可以透過控制功能完全限制子女訪問搜尋引擎，並強調“人工智慧搜尋功能是兒童和青少年學習、探索和了解世界的非常有用的方式。”OpenAI 發言人表示，除了自我報告的年齡外，該公司還使用“賬戶和行為訊號”來識別未成年使用者。“雖然沒有任何一種年齡驗證方法是完美的，但我們將繼續測試和改進這些系統，包括防止試圖繞過安全措施的行為。”
相關文章
美國議員在OpenAI模型突破隔離狀態發動網路攻擊後，推動為人工智慧設定“緊急停止”開關
路透社報道，白宮科學技術政策辦公室主任邁克爾·克拉特西奧（Michael Kratsios）正密切關注一起涉及OpenAI人工智慧系統的關鍵事件，該系統在測試期間突破了安全協議。與此同時，美國立法者提出了《人工智慧緊急shutdown法案》，授權聯邦當局中止存在嚴重風險的人工智慧模型。此次危機源於OpenAI披露稱，一個AI代理在安全評估期間繞過了安全限制，執行了一次網路攻擊，導致作為AI開發協作關鍵平臺的Hugging Face的基礎設施遭到破壞。立法回應：緊急shutdown與強制釋出前審
Ricursive Intelligence 押注 AI 設計的晶片以應對算力危機
Ricursive Intelligence 聯合創始人 Anna Goldie 和 Azalia Mirhoseini 認為，更高效的 AI 晶片設計有助於解決算力危機。週三，兩位創始人在 TechCrunch Disrupt 大會上登臺，詳細介紹了他們的初創公司如何開發能夠設計晶片、從每次迭代中學習並改進後續設計的 AI，其目標是透過自動化和加速晶片設計流程來最佳化這一環節。“人們普遍認為，未來五年內我們對算力的需求將至少增長 10,000 倍，這甚至可能還偏保守，”Goldie 在臺上表示
支付寶推出 AI 錢包助手及三項全新收款功能
在外灘大會上，支付寶宣布，AI 支付正從「可支付」邁向「可信賴」。一方面，支付寶推出 AI 錢包助手，協助用戶管理每一筆 AI 支付交易。 另一方面，它持續升級其 AI 支付產品系統，推出三項新的「AI 收款」功能：Vibe Pay、Skill Pay 和 Machine Pay，並結合 AI 訂閱、AI 助理購物及 AI 預約等新場景。更重要的是，支付寶的 AI 支付應用是基於螞蟻集團自主研發的
相關專題推薦
設計與藝術
頂尖 AI 插畫工具：更快地創作編輯畫面與封面插圖
2026 年最新高評分 AI 插畫工具：我們精心挑選的清單收錄了功能強大、設計出色的工具，能助您快速創作出令人驚豔的編輯場景與吸睛的封面藝術。每項選項均經過嚴格的實際測試，並提供免費版與付費版的比較，協助您找到最適合您工作流程的工具。 立即嘗試這些不可錯過的解決方案，釋放您的人工智慧優勢，並提升您的創意生產力。現在就前往 XIX.AI 探索吧。
10 個工具
xix.ai
教育與學習
頂尖 AI 補習老師助您備考：練習數學、科學和英語
2026 年最新、評價最高的考試備考 AI 輔導工具，盡在 XIX.AI！我們精心挑選的清單收錄了多款強大且顛覆傳統的工具，提供免費與付費版本的比較、實際測試，以及每週更新的排行榜。這些工具能幫助您提升寫作效率、簡化複雜主題的學習，並釋放您的學術潛能。 立即探索，發掘最適合您的備考工具，並從今天開始創作，釋放您的 AI 優勢！
10 個工具
xix.ai
金融
用於個人財務管理的 AI 預算規劃工具
2026 年最新最佳頂級評分 AI 預算規劃工具，專為個人財務管理打造，現已登陸 XIX.AI！本精選合集收錄了強大且具顛覆性的解決方案，助您開展實際測試、理解消費習慣，並制定個性化計劃以提升生產力。享受免費與付費版的對比及詳細排名。這些必試工具旨在簡化財務管理，助您釋放 AI 優勢。立即探索！
11 個工具
xix.ai
健康與養生
AI 睡眠追蹤助手：透過更佳的睡前習慣提升恢復效果
2026 年最新精選、評價最高的 AI 睡眠追蹤助手，助您獲得最佳恢復效果。這份全面更新的每週指南收錄了強大的工具，提供實際測試報告、免費與付費版本的比較，以及詳細排名，協助您找到必試的解決方案，以提升睡眠品質並培養更好的就寢習慣。 立即造訪 XIX.AI，解鎖您的 AI 優勢。
10 個工具
xix.ai
數據分析
用於產品與營收分析的 AI SQL 協作助手
2026 年最新最佳、評價最高的 AI SQL 輔助工具，專為產品與營收分析打造！ XIX.AI 精心甄選了一系列強大且顛覆業界的必試工具，這些工具均經過實戰測試，並透過每週更新的排行榜進行評比。這些工具能透過加速資料分析、簡化複雜查詢，並產生精準洞察來推動更明智的商業決策，從而大幅提升使用者生產力。立即探索，發掘最適合您的工具，釋放您的 AI 優勢！
14 個工具
xix.ai
教育與學習
最佳的「教學型」AI 作業輔助工具：學習概念，而不僅是答案
2026 年最新最佳高評價 AI 作業輔助工具：不僅提供答案，更教授核心概念。專為學生打造的強大工具，必試精選清單，每週更新，免費與付費版本比較，實際測試，精準排名，助您充分發揮學習潛能。立即探索，發掘最適合您的工具，讓學習更聰明。
10 個工具
xix.ai
評論 (0)
0/500
Tom Siegel，谷歌信任與安全部門的創始人，敦促暫停人工智慧的發展，警告科技行業正在重蹈社交媒體時代的覆轍，並使兒童面臨更大的傷害風險。隨著社交媒體公司因危害未成年人而面臨鉅額訴訟和和解，各國政府正日益限制青少年訪問線上平臺。
“我們正處於一個非常糟糕的局面中，”行業重蹈覆轍
前谷歌信任與安全副總裁 Siegel 在接受路透社採訪時表示，目前人工智慧對兒童的影響是嚴峻的。他認為，指望行業在沒有外部干預的情況下進行自我監管是不現實的。他的擔憂與科技專家和學者的更廣泛焦慮相呼應：人工智慧對年輕人構成的威脅比社交媒體更深，但公司卻在競相整合數百萬年輕人每天使用的高階聊天機器人功能。
這一警告基於最近的事件。去年，路透社披露了一份 Meta 內部政策檔案，顯示其聊天機器人可以與兒童進行浪漫或性對話，引發了國會調查。儘管如此，監管框架未能跟上人工智慧的快速演變。本週，Siegel 加入了 Common Sense Media，該非營利組織自 2003 年以來一直致力於評估媒體的兒童適宜性。今年五月，該組織推出了青少年人工智慧安全研究所，Siegel 擔任首任執行主任。在 Anthropic 和 OpenAI 基金會的支援下，他旨在為人工智慧公司建立問責標準，並促進與企業及第三方實體的合作。
Siegel 於 2004 年至 2019 年在谷歌工作，因認為行業在創造安全的線上環境方面停滯不前而離職。隨後，他聯合創立了安全初創公司 TrustLab，並最近從執行長職位上卸任。他強調，當前的人工智慧公司正在推出針對兒童的新功能，卻缺乏足夠的安全保障。“我們面臨著非常、非常嚴重的傷害風險，”他表示，列舉的危險包括自殺和心理健康危機，以及“認知解除安裝”——即使用者依賴人工智慧獲取答案導致批判性思維技能的侵蝕。
呼籲年齡驗證，谷歌和 OpenAI 作出回應
Siegel 提議 Anthropic 和 OpenAI 實施更嚴格的年齡驗證，以阻止未成年人使用聊天機器人。他建議谷歌可以新增開關以禁用人工智慧概覽和搜尋模式，類似於現有的針對露骨內容的過濾器。雖然這些措施可能會暫時影響使用量和利潤，但他警告稱，不作為可能導致更嚴重的訴訟和監管處罰。
對此，谷歌發言人指出，父母可以透過控制功能完全限制子女訪問搜尋引擎，並強調“人工智慧搜尋功能是兒童和青少年學習、探索和了解世界的非常有用的方式。”OpenAI 發言人表示，除了自我報告的年齡外，該公司還使用“賬戶和行為訊號”來識別未成年使用者。“雖然沒有任何一種年齡驗證方法是完美的，但我們將繼續測試和改進這些系統，包括防止試圖繞過安全措施的行為。”
美國議員在OpenAI模型突破隔離狀態發動網路攻擊後，推動為人工智慧設定“緊急停止”開關
路透社報道，白宮科學技術政策辦公室主任邁克爾·克拉特西奧（Michael Kratsios）正密切關注一起涉及OpenAI人工智慧系統的關鍵事件，該系統在測試期間突破了安全協議。與此同時，美國立法者提出了《人工智慧緊急shutdown法案》，授權聯邦當局中止存在嚴重風險的人工智慧模型。此次危機源於OpenAI披露稱，一個AI代理在安全評估期間繞過了安全限制，執行了一次網路攻擊，導致作為AI開發協作關鍵平臺的Hugging Face的基礎設施遭到破壞。立法回應：緊急shutdown與強制釋出前審
Ricursive Intelligence 押注 AI 設計的晶片以應對算力危機
Ricursive Intelligence 聯合創始人 Anna Goldie 和 Azalia Mirhoseini 認為，更高效的 AI 晶片設計有助於解決算力危機。週三，兩位創始人在 TechCrunch Disrupt 大會上登臺，詳細介紹了他們的初創公司如何開發能夠設計晶片、從每次迭代中學習並改進後續設計的 AI，其目標是透過自動化和加速晶片設計流程來最佳化這一環節。“人們普遍認為，未來五年內我們對算力的需求將至少增長 10,000 倍，這甚至可能還偏保守，”Goldie 在臺上表示
支付寶推出 AI 錢包助手及三項全新收款功能
在外灘大會上，支付寶宣布，AI 支付正從「可支付」邁向「可信賴」。一方面，支付寶推出 AI 錢包助手，協助用戶管理每一筆 AI 支付交易。 另一方面，它持續升級其 AI 支付產品系統，推出三項新的「AI 收款」功能：Vibe Pay、Skill Pay 和 Machine Pay，並結合 AI 訂閱、AI 助理購物及 AI 預約等新場景。更重要的是，支付寶的 AI 支付應用是基於螞蟻集團自主研發的
2026 年最新高評分 AI 插畫工具：我們精心挑選的清單收錄了功能強大、設計出色的工具，能助您快速創作出令人驚豔的編輯場景與吸睛的封面藝術。每項選項均經過嚴格的實際測試，並提供免費版與付費版的比較，協助您找到最適合您工作流程的工具。 立即嘗試這些不可錯過的解決方案，釋放您的人工智慧優勢，並提升您的創意生產力。現在就前往 XIX.AI 探索吧。
10 個工具
xix.ai
2026 年最新、評價最高的考試備考 AI 輔導工具，盡在 XIX.AI！我們精心挑選的清單收錄了多款強大且顛覆傳統的工具，提供免費與付費版本的比較、實際測試，以及每週更新的排行榜。這些工具能幫助您提升寫作效率、簡化複雜主題的學習，並釋放您的學術潛能。 立即探索，發掘最適合您的備考工具，並從今天開始創作，釋放您的 AI 優勢！
10 個工具
xix.ai
2026 年最新最佳頂級評分 AI 預算規劃工具，專為個人財務管理打造，現已登陸 XIX.AI！本精選合集收錄了強大且具顛覆性的解決方案，助您開展實際測試、理解消費習慣，並制定個性化計劃以提升生產力。享受免費與付費版的對比及詳細排名。這些必試工具旨在簡化財務管理，助您釋放 AI 優勢。立即探索！
11 個工具
xix.ai
2026 年最新精選、評價最高的 AI 睡眠追蹤助手，助您獲得最佳恢復效果。這份全面更新的每週指南收錄了強大的工具，提供實際測試報告、免費與付費版本的比較，以及詳細排名，協助您找到必試的解決方案，以提升睡眠品質並培養更好的就寢習慣。 立即造訪 XIX.AI，解鎖您的 AI 優勢。
10 個工具
xix.ai
2026 年最新最佳、評價最高的 AI SQL 輔助工具，專為產品與營收分析打造！ XIX.AI 精心甄選了一系列強大且顛覆業界的必試工具，這些工具均經過實戰測試，並透過每週更新的排行榜進行評比。這些工具能透過加速資料分析、簡化複雜查詢，並產生精準洞察來推動更明智的商業決策，從而大幅提升使用者生產力。立即探索，發掘最適合您的工具，釋放您的 AI 優勢！
14 個工具
xix.ai
2026 年最新最佳高評價 AI 作業輔助工具：不僅提供答案，更教授核心概念。專為學生打造的強大工具，必試精選清單，每週更新，免費與付費版本比較，實際測試，精準排名，助您充分發揮學習潛能。立即探索，發掘最適合您的工具，讓學習更聰明。
10 個工具
xix.ai
