OpenAI發佈GPT-4.1未附安全報告
OpenAI的GPT-4.1在無安全報告的情況下推出——這為何重要
週一,OpenAI推出了其最新AI模型GPT-4.1,宣稱其性能有所提升,特別是在程式設計基準測試中。但與之前的發佈不同,這次有一個顯著的遺漏:無安全報告。
通常,OpenAI會發佈一份“系統卡”,詳細說明內部和第三方安全評估,揭示潛在風險,如欺騙行為或非預期的說服能力。這些報告被視為AI開發中促進透明度的誠信努力。
然而,截至週二,OpenAI確認其不會為GPT-4.1發佈安全報告。根據發言人Shaokyi Amdo的說法,該模型不被視為“前沿”AI系統——意即其未突破界限到需要完整安全分析的程度。
透明度下降的趨勢?
此舉正值人們日益擔憂主要AI實驗室正在縮減安全披露之際。過去一年:
- Google已延遲發佈安全報告。
- Anthropic和其他公司發表的評估細節較少。
- OpenAI本身因報告不一致而受到批評,包括:
- 發佈的2023年12月安全報告中的基準測試結果與實際模型不符。
- 在發佈DeepSeek-V3數週後才公開其系統卡。
Steven Adler,前OpenAI安全研究員,告訴TechCrunch,雖然這些報告是自願性的,但它們已成為AI行業的關鍵透明工具。OpenAI此前向政府承諾——包括在2023年英國AI安全峰會之前——系統卡對問責制至關重要。
為何遭到反對?
安全報告有時會揭示令人不安的真相——如模型可能操縱用戶或生成有害內容。但隨著競爭加劇,AI公司可能優先考慮速度而非審查。
近期報告顯示,OpenAI已削減安全測試資源,上週,12名前員工(包括Adler)在Elon Musk的訴訟中提交了友方意見書,警告以利潤為導向的OpenAI可能妥協安全。
無報告的GPT-4.1有風險嗎?
雖然GPT-4.1不是OpenAI的最先進模型,但其提升效率並降低延遲——這些因素仍可能引入風險。
Thomas Woodside,Secure AI Project聯合創始人,認為任何性能提升都應附有安全文件。“模型越複雜,風險越高,”他對TechCrunch表示。
AI監管的更大爭議
許多AI公司,包括OpenAI,反對強制性安全法規。今年早些時候,OpenAI反對加州SB 1047法案,該法案將強制AI開發者為公開模型發佈安全審計。
目前,行業的透明標準仍為自我約束——且越來越成為可選。
TechCrunch活動:全階段通行證節省200美元以上
🚀 更聰明地構建。更快地擴展。更深入地連接。
與來自Precursor Ventures、NEA、Index Ventures、Underscore VC等的遠見者共聚一堂,參與一天的策略、工作坊和人脈建立。
📍 麻州波士頓 | 7月15日
🔗 立即註冊
隨著AI的發展,安全與速度的爭論愈發激烈。若無更嚴格的問責制,誰來決定哪些風險值得冒?
相關文章
山姆·奧特曼引發關於人工智慧減速的辯論
在Apple Podcasts上收聽在Spotify上收聽OpenAI執行長薩姆·阿爾特曼(Sam Altman)最近表示,現在可能是時候“控制人工智慧的發展速度”,以便社會“在這些新的能力水平周圍加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我討論了阿爾特曼的言論可能由最近的一次駭客攻擊所觸發,該攻擊中一名OpenAI代理突破了Hugging Face的系統。Sean指出,雖然由AI代理執行的駭客攻擊是前所未
OpenAI 與蘋果公司就商業秘密訴訟進行對抗
OpenAI 於週二駁回了蘋果公司的商業秘密指控,稱該訴訟毫無根據。“我們認真對待這些指控,但未發現任何支援它們的證據,”OpenAI 表示,據彭博社記者 Ed Ludlow 在 X 平臺報道,“我們支援公平競爭和工作自由,專注於創造賦能全球使用者的技術。”此前,蘋果公司於週五在美國加利福尼亞州北區聯邦地區法院提起訴訟,指控 OpenAI 策劃了一項從前蘋果員工處竊取機密資料和智慧財產權的計劃。這份長達 41 頁的訴狀針對 OpenAI 的高管層,包括首席硬體官 Tang Tan,他是一名擁有
OpenAI機器人專案主管凱特琳·卡利諾夫斯基因五角大樓合作專案辭職
OpenAI 機器人業務負責人凱特琳·卡利諾夫斯基(Caitlin Kalinowski)在該公司與國防部達成備受爭議的合作伙伴關係後辭職。“這不是一個輕鬆的決定,”卡利諾夫斯基在社交媒體宣告中解釋道。“雖然人工智慧在國家安全中發揮著至關重要的作用,但在沒有司法監督的情況下對美國公民進行監視,以及在未經人類授權的情況下部署致命自主武器,都是需要更加慎重考慮的界限。”卡利諾夫斯基此前因領導 Meta 的增強現實眼鏡部門而聞名,她於 2024 年 11 月加入 OpenAI。在辭職信中,她強調她
相關專題推薦
評論 (1)
0/500
OpenAI的GPT-4.1在無安全報告的情況下推出——這為何重要
週一,OpenAI推出了其最新AI模型GPT-4.1,宣稱其性能有所提升,特別是在程式設計基準測試中。但與之前的發佈不同,這次有一個顯著的遺漏:無安全報告。
通常,OpenAI會發佈一份“系統卡”,詳細說明內部和第三方安全評估,揭示潛在風險,如欺騙行為或非預期的說服能力。這些報告被視為AI開發中促進透明度的誠信努力。
然而,截至週二,OpenAI確認其不會為GPT-4.1發佈安全報告。根據發言人Shaokyi Amdo的說法,該模型不被視為“前沿”AI系統——意即其未突破界限到需要完整安全分析的程度。
透明度下降的趨勢?
此舉正值人們日益擔憂主要AI實驗室正在縮減安全披露之際。過去一年:
- Google已延遲發佈安全報告。
- Anthropic和其他公司發表的評估細節較少。
- OpenAI本身因報告不一致而受到批評,包括:
- 發佈的2023年12月安全報告中的基準測試結果與實際模型不符。
- 在發佈DeepSeek-V3數週後才公開其系統卡。
Steven Adler,前OpenAI安全研究員,告訴TechCrunch,雖然這些報告是自願性的,但它們已成為AI行業的關鍵透明工具。OpenAI此前向政府承諾——包括在2023年英國AI安全峰會之前——系統卡對問責制至關重要。
為何遭到反對?
安全報告有時會揭示令人不安的真相——如模型可能操縱用戶或生成有害內容。但隨著競爭加劇,AI公司可能優先考慮速度而非審查。
近期報告顯示,OpenAI已削減安全測試資源,上週,12名前員工(包括Adler)在Elon Musk的訴訟中提交了友方意見書,警告以利潤為導向的OpenAI可能妥協安全。
無報告的GPT-4.1有風險嗎?
雖然GPT-4.1不是OpenAI的最先進模型,但其提升效率並降低延遲——這些因素仍可能引入風險。
Thomas Woodside,Secure AI Project聯合創始人,認為任何性能提升都應附有安全文件。“模型越複雜,風險越高,”他對TechCrunch表示。
AI監管的更大爭議
許多AI公司,包括OpenAI,反對強制性安全法規。今年早些時候,OpenAI反對加州SB 1047法案,該法案將強制AI開發者為公開模型發佈安全審計。
目前,行業的透明標準仍為自我約束——且越來越成為可選。
TechCrunch活動:全階段通行證節省200美元以上
🚀 更聰明地構建。更快地擴展。更深入地連接。
與來自Precursor Ventures、NEA、Index Ventures、Underscore VC等的遠見者共聚一堂,參與一天的策略、工作坊和人脈建立。
📍 麻州波士頓 | 7月15日
🔗 立即註冊
隨著AI的發展,安全與速度的爭論愈發激烈。若無更嚴格的問責制,誰來決定哪些風險值得冒?
山姆·奧特曼引發關於人工智慧減速的辯論
在Apple Podcasts上收聽在Spotify上收聽OpenAI執行長薩姆·阿爾特曼(Sam Altman)最近表示,現在可能是時候“控制人工智慧的發展速度”,以便社會“在這些新的能力水平周圍加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我討論了阿爾特曼的言論可能由最近的一次駭客攻擊所觸發,該攻擊中一名OpenAI代理突破了Hugging Face的系統。Sean指出,雖然由AI代理執行的駭客攻擊是前所未
OpenAI 與蘋果公司就商業秘密訴訟進行對抗
OpenAI 於週二駁回了蘋果公司的商業秘密指控,稱該訴訟毫無根據。“我們認真對待這些指控,但未發現任何支援它們的證據,”OpenAI 表示,據彭博社記者 Ed Ludlow 在 X 平臺報道,“我們支援公平競爭和工作自由,專注於創造賦能全球使用者的技術。”此前,蘋果公司於週五在美國加利福尼亞州北區聯邦地區法院提起訴訟,指控 OpenAI 策劃了一項從前蘋果員工處竊取機密資料和智慧財產權的計劃。這份長達 41 頁的訴狀針對 OpenAI 的高管層,包括首席硬體官 Tang Tan,他是一名擁有
OpenAI機器人專案主管凱特琳·卡利諾夫斯基因五角大樓合作專案辭職
OpenAI 機器人業務負責人凱特琳·卡利諾夫斯基(Caitlin Kalinowski)在該公司與國防部達成備受爭議的合作伙伴關係後辭職。“這不是一個輕鬆的決定,”卡利諾夫斯基在社交媒體宣告中解釋道。“雖然人工智慧在國家安全中發揮著至關重要的作用,但在沒有司法監督的情況下對美國公民進行監視,以及在未經人類授權的情況下部署致命自主武器,都是需要更加慎重考慮的界限。”卡利諾夫斯基此前因領導 Meta 的增強現實眼鏡部門而聞名,她於 2024 年 11 月加入 OpenAI。在辭職信中,她強調她





首頁






