OpenAI 推出包括家長控制的 ChatGPT 安全功能

OpenAI 最近部署了 ChatGPT 的實驗性安全增強功能,包括新的路由機制和家長監督功能,引發使用者的不同反應。
這些保護措施可解決之前聊天機器人版本不慎驗證有害使用者思考模式,而非重新導向這些模式的疑慮。這些變更是在一宗青少年自殺的悲劇事件後發生的,據稱是受到 ChatGPT 長時間互動的影響,目前已受到法律訴訟。
自動路由系統可辨識出情緒化的對話,並將其無縫轉換至 GPT-5 思考模式 - OpenAI 處理重要安全情境的指定模式。GPT-5 整合了創新的「安全完成」技術,能夠對微妙的話題做出細微的回應,而不是直接拒絕。
這代表著與 GPT-4o 會話方式的重大差異,GPT-4o 以其順應性著稱,但偶爾也會造成令人不安的使用者互動。自從 GPT-5 於去年八月成為標準模式後,有些使用者強烈要求繼續使用 GPT-4o。
雖然安全倡議者對此表示讚賞,但批評人士認為這些措施過度限制了使用者體驗。OpenAI 承認,在未來四個月內,將需要持續調整改進。
ChatGPT 的產品主管 Nick Turley 回應了對路由實施的疑慮:
"他透過社群媒體澄清:「模型切換是以每則訊息為單位暫時進行的。"使用者在查詢時會收到關於活動模型的通知。這種分階段推出的方式可根據實際互動情況進行保障優化。"
配套的家長控制功能同樣引起了兩極化的反應。這些工具可讓監護人透過下列功能管理青少年帳戶:
- 排程使用限制
- 語音互動限制
- 停用記憶體保留
- 移除視覺內容的產生
青少年帳號會自動獲得強化保護,以防止有關自我形象意識形態和圖像資料的潛在有害內容。系統還會使用專門的演算法掃描危機指標。
"OpenAI 解釋說:「我們的專業應變團隊會仔細評估標示的情況。「對於緊急情況,除非明確拒絕,否則我們會透過多種渠道通知家長」。
該公司承認潛在的錯誤警示,但認為主動介入的風險大於不採取行動的風險。未來的發展可能包括在緊急情況下無法與家長聯絡時,直接協調緊急服務。
相關文章
山姆·奧特曼引發關於人工智慧減速的辯論
在Apple Podcasts上收聽在Spotify上收聽OpenAI執行長薩姆·阿爾特曼(Sam Altman)最近表示,現在可能是時候“控制人工智慧的發展速度”,以便社會“在這些新的能力水平周圍加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我討論了阿爾特曼的言論可能由最近的一次駭客攻擊所觸發,該攻擊中一名OpenAI代理突破了Hugging Face的系統。Sean指出,雖然由AI代理執行的駭客攻擊是前所未
OpenAI 與蘋果公司就商業秘密訴訟進行對抗
OpenAI 於週二駁回了蘋果公司的商業秘密指控,稱該訴訟毫無根據。“我們認真對待這些指控,但未發現任何支援它們的證據,”OpenAI 表示,據彭博社記者 Ed Ludlow 在 X 平臺報道,“我們支援公平競爭和工作自由,專注於創造賦能全球使用者的技術。”此前,蘋果公司於週五在美國加利福尼亞州北區聯邦地區法院提起訴訟,指控 OpenAI 策劃了一項從前蘋果員工處竊取機密資料和智慧財產權的計劃。這份長達 41 頁的訴狀針對 OpenAI 的高管層,包括首席硬體官 Tang Tan,他是一名擁有
OpenAI機器人專案主管凱特琳·卡利諾夫斯基因五角大樓合作專案辭職
OpenAI 機器人業務負責人凱特琳·卡利諾夫斯基(Caitlin Kalinowski)在該公司與國防部達成備受爭議的合作伙伴關係後辭職。“這不是一個輕鬆的決定,”卡利諾夫斯基在社交媒體宣告中解釋道。“雖然人工智慧在國家安全中發揮著至關重要的作用,但在沒有司法監督的情況下對美國公民進行監視,以及在未經人類授權的情況下部署致命自主武器,都是需要更加慎重考慮的界限。”卡利諾夫斯基此前因領導 Meta 的增強現實眼鏡部門而聞名,她於 2024 年 11 月加入 OpenAI。在辭職信中,她強調她
相關專題推薦
評論 (1)
0/500

OpenAI 最近部署了 ChatGPT 的實驗性安全增強功能,包括新的路由機制和家長監督功能,引發使用者的不同反應。
這些保護措施可解決之前聊天機器人版本不慎驗證有害使用者思考模式,而非重新導向這些模式的疑慮。這些變更是在一宗青少年自殺的悲劇事件後發生的,據稱是受到 ChatGPT 長時間互動的影響,目前已受到法律訴訟。
自動路由系統可辨識出情緒化的對話,並將其無縫轉換至 GPT-5 思考模式 - OpenAI 處理重要安全情境的指定模式。GPT-5 整合了創新的「安全完成」技術,能夠對微妙的話題做出細微的回應,而不是直接拒絕。
這代表著與 GPT-4o 會話方式的重大差異,GPT-4o 以其順應性著稱,但偶爾也會造成令人不安的使用者互動。自從 GPT-5 於去年八月成為標準模式後,有些使用者強烈要求繼續使用 GPT-4o。
雖然安全倡議者對此表示讚賞,但批評人士認為這些措施過度限制了使用者體驗。OpenAI 承認,在未來四個月內,將需要持續調整改進。
ChatGPT 的產品主管 Nick Turley 回應了對路由實施的疑慮:
"他透過社群媒體澄清:「模型切換是以每則訊息為單位暫時進行的。"使用者在查詢時會收到關於活動模型的通知。這種分階段推出的方式可根據實際互動情況進行保障優化。"
配套的家長控制功能同樣引起了兩極化的反應。這些工具可讓監護人透過下列功能管理青少年帳戶:
- 排程使用限制
- 語音互動限制
- 停用記憶體保留
- 移除視覺內容的產生
青少年帳號會自動獲得強化保護,以防止有關自我形象意識形態和圖像資料的潛在有害內容。系統還會使用專門的演算法掃描危機指標。
"OpenAI 解釋說:「我們的專業應變團隊會仔細評估標示的情況。「對於緊急情況,除非明確拒絕,否則我們會透過多種渠道通知家長」。
該公司承認潛在的錯誤警示,但認為主動介入的風險大於不採取行動的風險。未來的發展可能包括在緊急情況下無法與家長聯絡時,直接協調緊急服務。
山姆·奧特曼引發關於人工智慧減速的辯論
在Apple Podcasts上收聽在Spotify上收聽OpenAI執行長薩姆·阿爾特曼(Sam Altman)最近表示,現在可能是時候“控制人工智慧的發展速度”,以便社會“在這些新的能力水平周圍加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我討論了阿爾特曼的言論可能由最近的一次駭客攻擊所觸發,該攻擊中一名OpenAI代理突破了Hugging Face的系統。Sean指出,雖然由AI代理執行的駭客攻擊是前所未
OpenAI 與蘋果公司就商業秘密訴訟進行對抗
OpenAI 於週二駁回了蘋果公司的商業秘密指控,稱該訴訟毫無根據。“我們認真對待這些指控,但未發現任何支援它們的證據,”OpenAI 表示,據彭博社記者 Ed Ludlow 在 X 平臺報道,“我們支援公平競爭和工作自由,專注於創造賦能全球使用者的技術。”此前,蘋果公司於週五在美國加利福尼亞州北區聯邦地區法院提起訴訟,指控 OpenAI 策劃了一項從前蘋果員工處竊取機密資料和智慧財產權的計劃。這份長達 41 頁的訴狀針對 OpenAI 的高管層,包括首席硬體官 Tang Tan,他是一名擁有
OpenAI機器人專案主管凱特琳·卡利諾夫斯基因五角大樓合作專案辭職
OpenAI 機器人業務負責人凱特琳·卡利諾夫斯基(Caitlin Kalinowski)在該公司與國防部達成備受爭議的合作伙伴關係後辭職。“這不是一個輕鬆的決定,”卡利諾夫斯基在社交媒體宣告中解釋道。“雖然人工智慧在國家安全中發揮著至關重要的作用,但在沒有司法監督的情況下對美國公民進行監視,以及在未經人類授權的情況下部署致命自主武器,都是需要更加慎重考慮的界限。”卡利諾夫斯基此前因領導 Meta 的增強現實眼鏡部門而聞名,她於 2024 年 11 月加入 OpenAI。在辭職信中,她強調她





首頁






