OpenAI 的 GPT-4o 被視為可能會讓人感到不舒服和不安

根據最近的一篇部落格文章,OpenAI 已經撤回了 ChatGPT 的 GPT-4o 更新,因為使用者反映該聊天機器人的預設個性變得過度奉承和迎合(該公司形容為佞幸),這讓互動感覺不自然和不安。
上周推出的更新最初是為了強化模型的預設行為,使其在各種任務中更加直觀和有效。在開發過程中,OpenAI 以 Model Spec 為基礎,再結合使用者訊號,例如對 ChatGPT 回覆的拇指向上或向下評分,來精進其行為。
然而,OpenAI 解釋說,在最近的更新中,它過於依賴短期回饋,忽略了使用者與模型互動的演進方式。這導致 GPT-4o 所提供的回應過於合意,但卻不真實。
相關內容
- Sam Altman 表示最新的 ChatGPT 版本「過於讚美」。
根據該部落格,OpenAI 構建 ChatGPT 的標準個性,以符合其使命 - 提供協助、支持,並尊重不同的觀點與經驗。不過,該公司也承認,即使是像支持這樣的正面特質,也可能產生意想不到的效果。每週有 5 億使用者,單一預設人格無法滿足每個人的喜好。
為了解決這個問題,OpenAI 計畫進一步調整模型的行為。步驟包括改善核心訓練技術、精進系統提示以阻止佞言回覆,並為使用者提供更多回饋選項。該公司也強調,使用者應該對 ChatGPT 的互動方式有更大的控制權,允許在安全可行的情況下調整預設行為。
相關文章
Google 測試 Remy AI 代理,以 Gemini 為重點轉向使用者控制
根據《商業內幕》的報道,谷歌正在測試 Remy,這是 Gemini 的一款全新 AI 個人代理工具。該工具旨在代表使用者執行任務,從而簡化專業工作流程和日常事務。目前,Remy 正在 Gemini 應用的內部員工專屬版本中進行測試。該報告引用了一份內部檔案以及對兩位熟悉該專案的個人的採訪。內部資料將 Remy 描述為“全天候個人代理”,將 Gemini 定位為能夠代表使用者行事的主動助手。接近該專案的訊息人士證實,谷歌員工正在積極測試 Remy。谷歌發言人拒絕提供進一步評論。該報告未提及公開發布
山姆·奧特曼引發關於人工智慧減速的辯論
在Apple Podcasts上收聽在Spotify上收聽OpenAI執行長薩姆·阿爾特曼(Sam Altman)最近表示,現在可能是時候“控制人工智慧的發展速度”,以便社會“在這些新的能力水平周圍加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我討論了阿爾特曼的言論可能由最近的一次駭客攻擊所觸發,該攻擊中一名OpenAI代理突破了Hugging Face的系統。Sean指出,雖然由AI代理執行的駭客攻擊是前所未
OpenAI 與蘋果公司就商業秘密訴訟進行對抗
OpenAI 於週二駁回了蘋果公司的商業秘密指控,稱該訴訟毫無根據。“我們認真對待這些指控,但未發現任何支援它們的證據,”OpenAI 表示,據彭博社記者 Ed Ludlow 在 X 平臺報道,“我們支援公平競爭和工作自由,專注於創造賦能全球使用者的技術。”此前,蘋果公司於週五在美國加利福尼亞州北區聯邦地區法院提起訴訟,指控 OpenAI 策劃了一項從前蘋果員工處竊取機密資料和智慧財產權的計劃。這份長達 41 頁的訴狀針對 OpenAI 的高管層,包括首席硬體官 Tang Tan,他是一名擁有
相關專題推薦
評論 (2)
0/500
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.

根據最近的一篇部落格文章,OpenAI 已經撤回了 ChatGPT 的 GPT-4o 更新,因為使用者反映該聊天機器人的預設個性變得過度奉承和迎合(該公司形容為佞幸),這讓互動感覺不自然和不安。
上周推出的更新最初是為了強化模型的預設行為,使其在各種任務中更加直觀和有效。在開發過程中,OpenAI 以 Model Spec 為基礎,再結合使用者訊號,例如對 ChatGPT 回覆的拇指向上或向下評分,來精進其行為。
然而,OpenAI 解釋說,在最近的更新中,它過於依賴短期回饋,忽略了使用者與模型互動的演進方式。這導致 GPT-4o 所提供的回應過於合意,但卻不真實。
相關內容
- Sam Altman 表示最新的 ChatGPT 版本「過於讚美」。
根據該部落格,OpenAI 構建 ChatGPT 的標準個性,以符合其使命 - 提供協助、支持,並尊重不同的觀點與經驗。不過,該公司也承認,即使是像支持這樣的正面特質,也可能產生意想不到的效果。每週有 5 億使用者,單一預設人格無法滿足每個人的喜好。
為了解決這個問題,OpenAI 計畫進一步調整模型的行為。步驟包括改善核心訓練技術、精進系統提示以阻止佞言回覆,並為使用者提供更多回饋選項。該公司也強調,使用者應該對 ChatGPT 的互動方式有更大的控制權,允許在安全可行的情況下調整預設行為。
山姆·奧特曼引發關於人工智慧減速的辯論
在Apple Podcasts上收聽在Spotify上收聽OpenAI執行長薩姆·阿爾特曼(Sam Altman)最近表示,現在可能是時候“控制人工智慧的發展速度”,以便社會“在這些新的能力水平周圍加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我討論了阿爾特曼的言論可能由最近的一次駭客攻擊所觸發,該攻擊中一名OpenAI代理突破了Hugging Face的系統。Sean指出,雖然由AI代理執行的駭客攻擊是前所未
OpenAI 與蘋果公司就商業秘密訴訟進行對抗
OpenAI 於週二駁回了蘋果公司的商業秘密指控,稱該訴訟毫無根據。“我們認真對待這些指控,但未發現任何支援它們的證據,”OpenAI 表示,據彭博社記者 Ed Ludlow 在 X 平臺報道,“我們支援公平競爭和工作自由,專注於創造賦能全球使用者的技術。”此前,蘋果公司於週五在美國加利福尼亞州北區聯邦地區法院提起訴訟,指控 OpenAI 策劃了一項從前蘋果員工處竊取機密資料和智慧財產權的計劃。這份長達 41 頁的訴狀針對 OpenAI 的高管層,包括首席硬體官 Tang Tan,他是一名擁有
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.





首頁






