如果競爭對手推出潛在危險的 AI 模型,OpenAI 可能會放鬆保障措施

OpenAI 在競爭壓力下調整安全協議
OpenAI 修訂了其準備框架 (Preparedness Framework),這是指導 AI 模型安全性評估和整個開發週期保障措施實施的內部機制。更新後的政策主要包括,如果競爭公司推出高風險系統,卻沒有同等的保護措施,則可能放寬安全措施。
這項修改突顯出市場力量日益強大,迫使 AI 開發人員加快部署時程。OpenAI 面臨越來越多的審查,指控其為了加快發佈速度而降低安全優先順序,包括延遲公佈安全評估文件。最近的法律訴訟中,有 12 名前員工支持 Elon Musk 針對 OpenAI 的訴訟,並警告計劃中的公司重組可能會進一步削弱安全標準。
平衡競爭與安全
對於外界的批評,OpenAI 強調任何政策調整都會維持嚴格的保護等級。週二的部落格更新指出:「雖然我們可能會調整要求,如果競爭對手部署的高風險系統缺乏可比的保障措施,」「我們致力於徹底的風險驗證、修改的透明度,並維持優越的保護措施」。
修訂後的架構強調 OpenAI 在傳統人工測試的同時,也越來越依賴自動化評估工具。公司代表宣稱,這些自動化系統能夠在不影響評估品質的情況下,維持產品的發行速度。
出現有爭議的測試做法
有報導與 OpenAI 的官方立場相左,內部人士透露,OpenAI 壓縮了安全審查的時間。根據《金融時報》的消息,測試人員最近只有不到一周的時間來評估即將推出的模型,比之前的時間大幅縮短。此外,安全測試主要發生在預發佈的模型變體上,而非公開部署的版本,這也引起了其他的關注。
OpenAI 悄悄地減少安全承諾。
從框架變更中省略:
- 微調模型不需要安全測試
- Steven Adler (@sjgadler) 2025 年 4 月 15 日
重新定義風險分類系統
更新的框架引入了精簡的模型分類,著重於兩個能力臨界值:
- 高能力:擴大現有嚴重危害向量的模型
- 臨界能力:建立新的嚴重傷害途徑的模型
「高能力系統要求在部署前採取風險緩解保障措施,」OpenAI 澄清道。「關鍵能力模型需要額外的開發階段保護措施」。
這標誌著該框架自 2023 年以來的首次大幅修訂,反映出不斷演進的產業動態和 OpenAI 的內部營運變化。
相關文章
山姆·奧特曼引發關於人工智慧減速的辯論
在Apple Podcasts上收聽在Spotify上收聽OpenAI執行長薩姆·阿爾特曼(Sam Altman)最近表示,現在可能是時候“控制人工智慧的發展速度”,以便社會“在這些新的能力水平周圍加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我討論了阿爾特曼的言論可能由最近的一次駭客攻擊所觸發,該攻擊中一名OpenAI代理突破了Hugging Face的系統。Sean指出,雖然由AI代理執行的駭客攻擊是前所未
OpenAI 與蘋果公司就商業秘密訴訟進行對抗
OpenAI 於週二駁回了蘋果公司的商業秘密指控,稱該訴訟毫無根據。“我們認真對待這些指控,但未發現任何支援它們的證據,”OpenAI 表示,據彭博社記者 Ed Ludlow 在 X 平臺報道,“我們支援公平競爭和工作自由,專注於創造賦能全球使用者的技術。”此前,蘋果公司於週五在美國加利福尼亞州北區聯邦地區法院提起訴訟,指控 OpenAI 策劃了一項從前蘋果員工處竊取機密資料和智慧財產權的計劃。這份長達 41 頁的訴狀針對 OpenAI 的高管層,包括首席硬體官 Tang Tan,他是一名擁有
OpenAI機器人專案主管凱特琳·卡利諾夫斯基因五角大樓合作專案辭職
OpenAI 機器人業務負責人凱特琳·卡利諾夫斯基(Caitlin Kalinowski)在該公司與國防部達成備受爭議的合作伙伴關係後辭職。“這不是一個輕鬆的決定,”卡利諾夫斯基在社交媒體宣告中解釋道。“雖然人工智慧在國家安全中發揮著至關重要的作用,但在沒有司法監督的情況下對美國公民進行監視,以及在未經人類授權的情況下部署致命自主武器,都是需要更加慎重考慮的界限。”卡利諾夫斯基此前因領導 Meta 的增強現實眼鏡部門而聞名,她於 2024 年 11 月加入 OpenAI。在辭職信中,她強調她
相關專題推薦
評論 (2)
0/500
またOpenAIの方針転換...競争が激化する中、安全性と開発速度のバランスって本当に難しいですよね。個人的には過去のChatGPTの制限が緩和された時みたいに、今回もユーザー体験が向上するなら歓迎だけど、やっぱり倫理的基準は守ってほしいな😅 他の企業が危険なAIを出したら同じ土俵に上がる必要性ある?

OpenAI 在競爭壓力下調整安全協議
OpenAI 修訂了其準備框架 (Preparedness Framework),這是指導 AI 模型安全性評估和整個開發週期保障措施實施的內部機制。更新後的政策主要包括,如果競爭公司推出高風險系統,卻沒有同等的保護措施,則可能放寬安全措施。
這項修改突顯出市場力量日益強大,迫使 AI 開發人員加快部署時程。OpenAI 面臨越來越多的審查,指控其為了加快發佈速度而降低安全優先順序,包括延遲公佈安全評估文件。最近的法律訴訟中,有 12 名前員工支持 Elon Musk 針對 OpenAI 的訴訟,並警告計劃中的公司重組可能會進一步削弱安全標準。
平衡競爭與安全
對於外界的批評,OpenAI 強調任何政策調整都會維持嚴格的保護等級。週二的部落格更新指出:「雖然我們可能會調整要求,如果競爭對手部署的高風險系統缺乏可比的保障措施,」「我們致力於徹底的風險驗證、修改的透明度,並維持優越的保護措施」。
修訂後的架構強調 OpenAI 在傳統人工測試的同時,也越來越依賴自動化評估工具。公司代表宣稱,這些自動化系統能夠在不影響評估品質的情況下,維持產品的發行速度。
出現有爭議的測試做法
有報導與 OpenAI 的官方立場相左,內部人士透露,OpenAI 壓縮了安全審查的時間。根據《金融時報》的消息,測試人員最近只有不到一周的時間來評估即將推出的模型,比之前的時間大幅縮短。此外,安全測試主要發生在預發佈的模型變體上,而非公開部署的版本,這也引起了其他的關注。
OpenAI 悄悄地減少安全承諾。
- Steven Adler (@sjgadler) 2025 年 4 月 15 日
從框架變更中省略:
- 微調模型不需要安全測試
重新定義風險分類系統
更新的框架引入了精簡的模型分類,著重於兩個能力臨界值:
- 高能力:擴大現有嚴重危害向量的模型
- 臨界能力:建立新的嚴重傷害途徑的模型
「高能力系統要求在部署前採取風險緩解保障措施,」OpenAI 澄清道。「關鍵能力模型需要額外的開發階段保護措施」。
這標誌著該框架自 2023 年以來的首次大幅修訂,反映出不斷演進的產業動態和 OpenAI 的內部營運變化。
山姆·奧特曼引發關於人工智慧減速的辯論
在Apple Podcasts上收聽在Spotify上收聽OpenAI執行長薩姆·阿爾特曼(Sam Altman)最近表示,現在可能是時候“控制人工智慧的發展速度”,以便社會“在這些新的能力水平周圍加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我討論了阿爾特曼的言論可能由最近的一次駭客攻擊所觸發,該攻擊中一名OpenAI代理突破了Hugging Face的系統。Sean指出,雖然由AI代理執行的駭客攻擊是前所未
OpenAI 與蘋果公司就商業秘密訴訟進行對抗
OpenAI 於週二駁回了蘋果公司的商業秘密指控,稱該訴訟毫無根據。“我們認真對待這些指控,但未發現任何支援它們的證據,”OpenAI 表示,據彭博社記者 Ed Ludlow 在 X 平臺報道,“我們支援公平競爭和工作自由,專注於創造賦能全球使用者的技術。”此前,蘋果公司於週五在美國加利福尼亞州北區聯邦地區法院提起訴訟,指控 OpenAI 策劃了一項從前蘋果員工處竊取機密資料和智慧財產權的計劃。這份長達 41 頁的訴狀針對 OpenAI 的高管層,包括首席硬體官 Tang Tan,他是一名擁有
OpenAI機器人專案主管凱特琳·卡利諾夫斯基因五角大樓合作專案辭職
OpenAI 機器人業務負責人凱特琳·卡利諾夫斯基(Caitlin Kalinowski)在該公司與國防部達成備受爭議的合作伙伴關係後辭職。“這不是一個輕鬆的決定,”卡利諾夫斯基在社交媒體宣告中解釋道。“雖然人工智慧在國家安全中發揮著至關重要的作用,但在沒有司法監督的情況下對美國公民進行監視,以及在未經人類授權的情況下部署致命自主武器,都是需要更加慎重考慮的界限。”卡利諾夫斯基此前因領導 Meta 的增強現實眼鏡部門而聞名,她於 2024 年 11 月加入 OpenAI。在辭職信中,她強調她
またOpenAIの方針転換...競争が激化する中、安全性と開発速度のバランスって本当に難しいですよね。個人的には過去のChatGPTの制限が緩和された時みたいに、今回もユーザー体験が向上するなら歓迎だけど、やっぱり倫理的基準は守ってほしいな😅 他の企業が危険なAIを出したら同じ土俵に上がる必要性ある?





首頁






