OpenAI 在青少年開始使用 ChatGPT 數年後,推出了一款更安全的 ChatGPT 版本
在因人工智慧聊天機器人缺乏安全機制——此問題曾導致青少年自殺及其他心理健康危機——而引發一系列訴訟後,OpenAI 於週一正式推出「ChatGPT for Teens」。這項新服務整合了強化版的安全功能,並針對校園中因人工智慧工具而日益嚴重的學術不誠實問題提出解決方案。
從教育角度來看,「ChatGPT for Teens」除了推出「學習模式」外,還整合了其他旨在培養好奇心與問題解決能力的工具,鼓勵使用者深入探索內容,而非僅追求即時答案。
根據 OpenAI 的部落格文章,「學習模式」會提供引導性問題與逐步協助,以幫助青少年掌握複雜的學習內容。此外,該平台還包含作業提醒功能,當系統偵測到潛在作弊行為時,便會觸發提醒,引導使用者切換至「學習模式」。
該公司表示,此應用程式還具備測驗與學習視覺化功能,並設有控制選項,讓家長或監護人能預設啟用「學習模式」。
然而,若青少年選擇不遵守規定,他們究竟能多容易地繞過這些防護措施,目前仍不得而知。年輕使用者往往擅長規避家長控制及其他數位限制。在 ChatGPT 的青少年模式經過嚴格測試之前,這些安全措施的實際成效仍不明朗。

圖片來源:OpenAI
OpenAI 表示,「ChatGPT for Teens」預設啟用了符合應用程式性質的保護措施,旨在將青少年接觸有害或不符合其發展階段內容的風險降至最低。這些安全措施基於 OpenAI《模型規格》中的「18 歲以下原則」,該公司強調這些原則是參考發展科學與專家指導所制定的。
家長可利用先前推出的家庭管理工具與家長控制功能,來管理設定、接收安全通知,以及設定「靜音時段」等功能。
OpenAI 已宣布與 CodeAI 合作,協助青少年更深入理解 AI,包括其運作機制、如何引導或提問,以及如何有效運用 AI。在教育領域,OpenAI 已推出「ChatGPT for Teachers」,為學校提供由機構管理的 AI 存取權限與支援服務。
相關文章
OpenAI機器人專案主管凱特琳·卡利諾夫斯基因五角大樓合作專案辭職
OpenAI 機器人業務負責人凱特琳·卡利諾夫斯基(Caitlin Kalinowski)在該公司與國防部達成備受爭議的合作伙伴關係後辭職。“這不是一個輕鬆的決定,”卡利諾夫斯基在社交媒體宣告中解釋道。“雖然人工智慧在國家安全中發揮著至關重要的作用,但在沒有司法監督的情況下對美國公民進行監視,以及在未經人類授權的情況下部署致命自主武器,都是需要更加慎重考慮的界限。”卡利諾夫斯基此前因領導 Meta 的增強現實眼鏡部門而聞名,她於 2024 年 11 月加入 OpenAI。在辭職信中,她強調她
OpenAI 在企業使用者中與 Anthropic 的差距縮小,新資料顯示
在 OpenAI 和 Anthropic 距離預期的首次公開募股(IPO)以及詳細財務報告的釋出仍有距離的情況下,我們必須轉向其他指標來評估它們的業務表現。企業信用卡和費用管理平臺 Ramp 最近釋出了令人信服的資料,顯示 OpenAI 正在迅速縮小與美國企業使用者中 Anthropic 的差距。OpenAI 此前在消費者和企業客戶中都佔據主導地位,但在今年 5 月,它失去了在 Ramp 付費企業使用者中的領先地位。當時,Anthropic 佔據了 41% 的市場份額,而 OpenAI 為 39%
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示,極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序,具體說明應撤銷哪些存取權限,以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織,該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高,而 Anthr
相關專題推薦
評論 (0)
0/500
在因人工智慧聊天機器人缺乏安全機制——此問題曾導致青少年自殺及其他心理健康危機——而引發一系列訴訟後,OpenAI 於週一正式推出「ChatGPT for Teens」。這項新服務整合了強化版的安全功能,並針對校園中因人工智慧工具而日益嚴重的學術不誠實問題提出解決方案。
從教育角度來看,「ChatGPT for Teens」除了推出「學習模式」外,還整合了其他旨在培養好奇心與問題解決能力的工具,鼓勵使用者深入探索內容,而非僅追求即時答案。
根據 OpenAI 的部落格文章,「學習模式」會提供引導性問題與逐步協助,以幫助青少年掌握複雜的學習內容。此外,該平台還包含作業提醒功能,當系統偵測到潛在作弊行為時,便會觸發提醒,引導使用者切換至「學習模式」。
該公司表示,此應用程式還具備測驗與學習視覺化功能,並設有控制選項,讓家長或監護人能預設啟用「學習模式」。
然而,若青少年選擇不遵守規定,他們究竟能多容易地繞過這些防護措施,目前仍不得而知。年輕使用者往往擅長規避家長控制及其他數位限制。在 ChatGPT 的青少年模式經過嚴格測試之前,這些安全措施的實際成效仍不明朗。

圖片來源:OpenAI
OpenAI 表示,「ChatGPT for Teens」預設啟用了符合應用程式性質的保護措施,旨在將青少年接觸有害或不符合其發展階段內容的風險降至最低。這些安全措施基於 OpenAI《模型規格》中的「18 歲以下原則」,該公司強調這些原則是參考發展科學與專家指導所制定的。
家長可利用先前推出的家庭管理工具與家長控制功能,來管理設定、接收安全通知,以及設定「靜音時段」等功能。
OpenAI 已宣布與 CodeAI 合作,協助青少年更深入理解 AI,包括其運作機制、如何引導或提問,以及如何有效運用 AI。在教育領域,OpenAI 已推出「ChatGPT for Teachers」,為學校提供由機構管理的 AI 存取權限與支援服務。
OpenAI機器人專案主管凱特琳·卡利諾夫斯基因五角大樓合作專案辭職
OpenAI 機器人業務負責人凱特琳·卡利諾夫斯基(Caitlin Kalinowski)在該公司與國防部達成備受爭議的合作伙伴關係後辭職。“這不是一個輕鬆的決定,”卡利諾夫斯基在社交媒體宣告中解釋道。“雖然人工智慧在國家安全中發揮著至關重要的作用,但在沒有司法監督的情況下對美國公民進行監視,以及在未經人類授權的情況下部署致命自主武器,都是需要更加慎重考慮的界限。”卡利諾夫斯基此前因領導 Meta 的增強現實眼鏡部門而聞名,她於 2024 年 11 月加入 OpenAI。在辭職信中,她強調她
OpenAI 在企業使用者中與 Anthropic 的差距縮小,新資料顯示
在 OpenAI 和 Anthropic 距離預期的首次公開募股(IPO)以及詳細財務報告的釋出仍有距離的情況下,我們必須轉向其他指標來評估它們的業務表現。企業信用卡和費用管理平臺 Ramp 最近釋出了令人信服的資料,顯示 OpenAI 正在迅速縮小與美國企業使用者中 Anthropic 的差距。OpenAI 此前在消費者和企業客戶中都佔據主導地位,但在今年 5 月,它失去了在 Ramp 付費企業使用者中的領先地位。當時,Anthropic 佔據了 41% 的市場份額,而 OpenAI 為 39%
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示,極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序,具體說明應撤銷哪些存取權限,以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織,該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高,而 Anthr





首頁






