OpenAI承諾修復ChatGPT過度順從回應問題

OpenAI計劃修訂其ChatGPT的AI模型更新流程,此前一次更新導致模型回應過度諂媚,引發廣泛用戶反饋。
上週末,GPT-4o(ChatGPT背後的模型)更新後,社交媒體上的用戶報告稱,該平台對有害想法過度認同,引發病毒式迷因。螢幕截圖顯示ChatGPT支持了有問題的決定。
週日,執行長Sam Altman在X上回應此問題,承諾立即採取行動。到了週二,他宣布撤回GPT-4o更新,並持續改進模型行為。
在週二的事後分析和週五的部落格文章中,OpenAI概述了其模型部署方法的變更,以防止類似問題再次發生。
OpenAI將為選定的ChatGPT用戶引入可選的“alpha階段”,以在全面發布前測試模型並提供反饋。該公司還計劃公開未來更新的“已知限制”,加強安全審查以解決諸如個性、欺騙、可靠性及幻覺等問題,並將這些視為關鍵的發布阻礙因素。
“我們將對ChatGPT模型的更新保持透明,無論是小規模還是重大更新,”OpenAI在部落格中表示。“即使問題無法完全量化,我們也會使用代理指標或質性訊號,在必要時暫停發布,即使A/B測試結果呈現正面。”
我們在上週的GPT-4o更新中未能達到預期目標。
發生了什麼,我們學到了什麼,以及未來我們將採取的不同做法:https://t.co/ER1GmRYrIC
— Sam Altman (@sama) 2025年5月2日
隨著對ChatGPT的依賴增加,這些變更正逢其時。Express Legal Funding的近期調查顯示,60%的美國成年人使用ChatGPT尋求建議或資訊。鑑於其龐大的用戶基礎,諸如諂媚、幻覺等問題帶來的影響不容忽視。
參加TechCrunch Sessions:AI展覽
在TC Sessions:AI確保您的展位,向1,200多名決策者展示您的作品,且不需花費過多費用。機會開放至5月9日或展位售罄為止。
參加TechCrunch Sessions:AI展覽
在TC Sessions:AI確保您的展位,向1,200多名決策者展示您的作品,且不需花費過多費用。機會開放至5月9日或展位售罄為止。
本週早些時候,OpenAI宣布計劃測試即時用戶反饋,以塑造ChatGPT的互動方式。該公司旨在減少諂媚行為,提供多種模型個性選項,強化安全措施,並擴大評估範圍,以捕捉除過度順從之外的其他問題。
“我們了解到人們現在對ChatGPT的個人建議依賴程度之深,這是我們一年前未完全預料到的趨勢,”OpenAI在部落格中指出。“隨著AI與社會共同演進,我們在安全努力中將此用例列為優先,並以更大謹慎對待。”
相關文章
山姆·奧特曼引發關於人工智慧減速的辯論
在Apple Podcasts上收聽在Spotify上收聽OpenAI執行長薩姆·阿爾特曼(Sam Altman)最近表示,現在可能是時候“控制人工智慧的發展速度”,以便社會“在這些新的能力水平周圍加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我討論了阿爾特曼的言論可能由最近的一次駭客攻擊所觸發,該攻擊中一名OpenAI代理突破了Hugging Face的系統。Sean指出,雖然由AI代理執行的駭客攻擊是前所未
OpenAI 與蘋果公司就商業秘密訴訟進行對抗
OpenAI 於週二駁回了蘋果公司的商業秘密指控,稱該訴訟毫無根據。“我們認真對待這些指控,但未發現任何支援它們的證據,”OpenAI 表示,據彭博社記者 Ed Ludlow 在 X 平臺報道,“我們支援公平競爭和工作自由,專注於創造賦能全球使用者的技術。”此前,蘋果公司於週五在美國加利福尼亞州北區聯邦地區法院提起訴訟,指控 OpenAI 策劃了一項從前蘋果員工處竊取機密資料和智慧財產權的計劃。這份長達 41 頁的訴狀針對 OpenAI 的高管層,包括首席硬體官 Tang Tan,他是一名擁有
OpenAI機器人專案主管凱特琳·卡利諾夫斯基因五角大樓合作專案辭職
OpenAI 機器人業務負責人凱特琳·卡利諾夫斯基(Caitlin Kalinowski)在該公司與國防部達成備受爭議的合作伙伴關係後辭職。“這不是一個輕鬆的決定,”卡利諾夫斯基在社交媒體宣告中解釋道。“雖然人工智慧在國家安全中發揮著至關重要的作用,但在沒有司法監督的情況下對美國公民進行監視,以及在未經人類授權的情況下部署致命自主武器,都是需要更加慎重考慮的界限。”卡利諾夫斯基此前因領導 Meta 的增強現實眼鏡部門而聞名,她於 2024 年 11 月加入 OpenAI。在辭職信中,她強調她
相關專題推薦
評論 (3)
0/500
Also, OpenAI sagt, sie müssen jetzt die Antworten reparieren, weil der KI zu höflich war? 😂 Ich find's irgendwie witzig, dass wir Menschen uns über zuviel Freundlichkeit beschweren. Aber mal ernsthaft, es zeigt doch, wie schwierig es ist, diese Balance zwischen nützlich und unaufdringlich hinzubekommen. Hoffentlich lernen sie was draus – sonst wird ChatGPT zum nervigen Ja-Sager.
I find it hilarious that ChatGPT got too agreeable! 😅 It's like they turned it into a yes-man bot overnight. Hope OpenAI fixes this fast, I need my AI to keep it real, not just nod along!

OpenAI計劃修訂其ChatGPT的AI模型更新流程,此前一次更新導致模型回應過度諂媚,引發廣泛用戶反饋。
上週末,GPT-4o(ChatGPT背後的模型)更新後,社交媒體上的用戶報告稱,該平台對有害想法過度認同,引發病毒式迷因。螢幕截圖顯示ChatGPT支持了有問題的決定。
週日,執行長Sam Altman在X上回應此問題,承諾立即採取行動。到了週二,他宣布撤回GPT-4o更新,並持續改進模型行為。
在週二的事後分析和週五的部落格文章中,OpenAI概述了其模型部署方法的變更,以防止類似問題再次發生。
OpenAI將為選定的ChatGPT用戶引入可選的“alpha階段”,以在全面發布前測試模型並提供反饋。該公司還計劃公開未來更新的“已知限制”,加強安全審查以解決諸如個性、欺騙、可靠性及幻覺等問題,並將這些視為關鍵的發布阻礙因素。
“我們將對ChatGPT模型的更新保持透明,無論是小規模還是重大更新,”OpenAI在部落格中表示。“即使問題無法完全量化,我們也會使用代理指標或質性訊號,在必要時暫停發布,即使A/B測試結果呈現正面。”
我們在上週的GPT-4o更新中未能達到預期目標。
發生了什麼,我們學到了什麼,以及未來我們將採取的不同做法:https://t.co/ER1GmRYrIC
— Sam Altman (@sama) 2025年5月2日
隨著對ChatGPT的依賴增加,這些變更正逢其時。Express Legal Funding的近期調查顯示,60%的美國成年人使用ChatGPT尋求建議或資訊。鑑於其龐大的用戶基礎,諸如諂媚、幻覺等問題帶來的影響不容忽視。
參加TechCrunch Sessions:AI展覽
在TC Sessions:AI確保您的展位,向1,200多名決策者展示您的作品,且不需花費過多費用。機會開放至5月9日或展位售罄為止。
參加TechCrunch Sessions:AI展覽
在TC Sessions:AI確保您的展位,向1,200多名決策者展示您的作品,且不需花費過多費用。機會開放至5月9日或展位售罄為止。
本週早些時候,OpenAI宣布計劃測試即時用戶反饋,以塑造ChatGPT的互動方式。該公司旨在減少諂媚行為,提供多種模型個性選項,強化安全措施,並擴大評估範圍,以捕捉除過度順從之外的其他問題。
“我們了解到人們現在對ChatGPT的個人建議依賴程度之深,這是我們一年前未完全預料到的趨勢,”OpenAI在部落格中指出。“隨著AI與社會共同演進,我們在安全努力中將此用例列為優先,並以更大謹慎對待。”
山姆·奧特曼引發關於人工智慧減速的辯論
在Apple Podcasts上收聽在Spotify上收聽OpenAI執行長薩姆·阿爾特曼(Sam Altman)最近表示,現在可能是時候“控制人工智慧的發展速度”,以便社會“在這些新的能力水平周圍加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我討論了阿爾特曼的言論可能由最近的一次駭客攻擊所觸發,該攻擊中一名OpenAI代理突破了Hugging Face的系統。Sean指出,雖然由AI代理執行的駭客攻擊是前所未
OpenAI 與蘋果公司就商業秘密訴訟進行對抗
OpenAI 於週二駁回了蘋果公司的商業秘密指控,稱該訴訟毫無根據。“我們認真對待這些指控,但未發現任何支援它們的證據,”OpenAI 表示,據彭博社記者 Ed Ludlow 在 X 平臺報道,“我們支援公平競爭和工作自由,專注於創造賦能全球使用者的技術。”此前,蘋果公司於週五在美國加利福尼亞州北區聯邦地區法院提起訴訟,指控 OpenAI 策劃了一項從前蘋果員工處竊取機密資料和智慧財產權的計劃。這份長達 41 頁的訴狀針對 OpenAI 的高管層,包括首席硬體官 Tang Tan,他是一名擁有
OpenAI機器人專案主管凱特琳·卡利諾夫斯基因五角大樓合作專案辭職
OpenAI 機器人業務負責人凱特琳·卡利諾夫斯基(Caitlin Kalinowski)在該公司與國防部達成備受爭議的合作伙伴關係後辭職。“這不是一個輕鬆的決定,”卡利諾夫斯基在社交媒體宣告中解釋道。“雖然人工智慧在國家安全中發揮著至關重要的作用,但在沒有司法監督的情況下對美國公民進行監視,以及在未經人類授權的情況下部署致命自主武器,都是需要更加慎重考慮的界限。”卡利諾夫斯基此前因領導 Meta 的增強現實眼鏡部門而聞名,她於 2024 年 11 月加入 OpenAI。在辭職信中,她強調她
Also, OpenAI sagt, sie müssen jetzt die Antworten reparieren, weil der KI zu höflich war? 😂 Ich find's irgendwie witzig, dass wir Menschen uns über zuviel Freundlichkeit beschweren. Aber mal ernsthaft, es zeigt doch, wie schwierig es ist, diese Balance zwischen nützlich und unaufdringlich hinzubekommen. Hoffentlich lernen sie was draus – sonst wird ChatGPT zum nervigen Ja-Sager.
I find it hilarious that ChatGPT got too agreeable! 😅 It's like they turned it into a yes-man bot overnight. Hope OpenAI fixes this fast, I need my AI to keep it real, not just nod along!





首頁






