選項
首頁
新聞
如果競爭對手推出潛在危險的 AI 模型,OpenAI 可能會放鬆保障措施

如果競爭對手推出潛在危險的 AI 模型,OpenAI 可能會放鬆保障措施

2025-11-07
114

如果競爭對手推出潛在危險的 AI 模型,OpenAI 可能會放鬆保障措施

OpenAI 在競爭壓力下調整安全協議

OpenAI 修訂了其準備框架 (Preparedness Framework),這是指導 AI 模型安全性評估和整個開發週期保障措施實施的內部機制。更新後的政策主要包括,如果競爭公司推出高風險系統,卻沒有同等的保護措施,則可能放寬安全措施。

這項修改突顯出市場力量日益強大,迫使 AI 開發人員加快部署時程。OpenAI 面臨越來越多的審查,指控其為了加快發佈速度而降低安全優先順序,包括延遲公佈安全評估文件。最近的法律訴訟中,有 12 名前員工支持 Elon Musk 針對 OpenAI 的訴訟,並警告計劃中的公司重組可能會進一步削弱安全標準。

平衡競爭與安全

對於外界的批評,OpenAI 強調任何政策調整都會維持嚴格的保護等級。週二的部落格更新指出:「雖然我們可能會調整要求,如果競爭對手部署的高風險系統缺乏可比的保障措施,」「我們致力於徹底的風險驗證、修改的透明度,並維持優越的保護措施」。

修訂後的架構強調 OpenAI 在傳統人工測試的同時,也越來越依賴自動化評估工具。公司代表宣稱,這些自動化系統能夠在不影響評估品質的情況下,維持產品的發行速度。

出現有爭議的測試做法

有報導與 OpenAI 的官方立場相左,內部人士透露,OpenAI 壓縮了安全審查的時間。根據《金融時報》的消息,測試人員最近只有不到一周的時間來評估即將推出的模型,比之前的時間大幅縮短。此外,安全測試主要發生在預發佈的模型變體上,而非公開部署的版本,這也引起了其他的關注。

重新定義風險分類系統

更新的框架引入了精簡的模型分類,著重於兩個能力臨界值:

  • 高能力:擴大現有嚴重危害向量的模型
  • 臨界能力:建立新的嚴重傷害途徑的模型

「高能力系統要求在部署前採取風險緩解保障措施,」OpenAI 澄清道。「關鍵能力模型需要額外的開發階段保護措施」。

這標誌著該框架自 2023 年以來的首次大幅修訂,反映出不斷演進的產業動態和 OpenAI 的內部營運變化。

相關文章
山姆·奧特曼引發關於人工智慧減速的辯論 山姆·奧特曼引發關於人工智慧減速的辯論 在Apple Podcasts上收聽在Spotify上收聽OpenAI執行長薩姆·阿爾特曼(Sam Altman)最近表示,現在可能是時候“控制人工智慧的發展速度”,以便社會“在這些新的能力水平周圍加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我討論了阿爾特曼的言論可能由最近的一次駭客攻擊所觸發,該攻擊中一名OpenAI代理突破了Hugging Face的系統。Sean指出,雖然由AI代理執行的駭客攻擊是前所未
OpenAI 與蘋果公司就商業秘密訴訟進行對抗 OpenAI 與蘋果公司就商業秘密訴訟進行對抗 OpenAI 於週二駁回了蘋果公司的商業秘密指控,稱該訴訟毫無根據。“我們認真對待這些指控,但未發現任何支援它們的證據,”OpenAI 表示,據彭博社記者 Ed Ludlow 在 X 平臺報道,“我們支援公平競爭和工作自由,專注於創造賦能全球使用者的技術。”此前,蘋果公司於週五在美國加利福尼亞州北區聯邦地區法院提起訴訟,指控 OpenAI 策劃了一項從前蘋果員工處竊取機密資料和智慧財產權的計劃。這份長達 41 頁的訴狀針對 OpenAI 的高管層,包括首席硬體官 Tang Tan,他是一名擁有
OpenAI機器人專案主管凱特琳·卡利諾夫斯基因五角大樓合作專案辭職 OpenAI機器人專案主管凱特琳·卡利諾夫斯基因五角大樓合作專案辭職 OpenAI 機器人業務負責人凱特琳·卡利諾夫斯基(Caitlin Kalinowski)在該公司與國防部達成備受爭議的合作伙伴關係後辭職。“這不是一個輕鬆的決定,”卡利諾夫斯基在社交媒體宣告中解釋道。“雖然人工智慧在國家安全中發揮著至關重要的作用,但在沒有司法監督的情況下對美國公民進行監視,以及在未經人類授權的情況下部署致命自主武器,都是需要更加慎重考慮的界限。”卡利諾夫斯基此前因領導 Meta 的增強現實眼鏡部門而聞名,她於 2024 年 11 月加入 OpenAI。在辭職信中,她強調她
相關專題推薦
寫作 最適合撰寫長篇 SEO 文章的 AI 大綱生成工具
最適合撰寫長篇 SEO 文章的 AI 大綱生成工具

2026 年最新最佳、評價最高的 AI 大綱生成器,專為長篇 SEO 文章打造,由 XIX.AI 精心精選。這些強大的工具能為快速創作高品質內容提供革命性的協助,大幅提升寫作效率。 透過免費版與付費版的比較、實際測試結果及詳細排名,協助您找出最符合需求且不容錯過的選項。立即探索,釋放您的 AI 優勢。

8 個工具
xix.ai
教育與學習 適用於作業與考試準備的人工智慧學習工具
適用於作業與考試準備的人工智慧學習工具

2026 年最新最佳 AI 學習工具,助您完成作業與備考!XIX.AI 精心整理了一份備受好評的清單,收錄了這些強大且具革命性、經實測驗證的工具,能幫助學生提升效率、簡化作業流程,並在考試中取得優異成績。 獲取免費版與付費版的比較、詳細排名,以及必試選項,以釋放您的 AI 優勢。立即探索!

10 個工具
xix.ai
音樂創作 面向詞曲創作者、旋律片段、主旋律及多語言草稿創作的AI人聲演示工具
面向詞曲創作者、旋律片段、主旋律及多語言草稿創作的AI人聲演示工具

2026 年最新最佳 AI 人聲演示工具,專為詞曲創作者、旋律創作者和多語言內容團隊打造!XIX.AI 精心整理了一份經過嚴格真實世界測試的高評分、變革性工具列表。您將找到詳細的免費與付費對比資料、全面排名以及必試選項,幫助您提升創作效率並釋放創意潛力。立即探索,發現滿足您所有內容需求的完美工具!

9 個工具
xix.ai
商業 最適合小型企業的頂尖 AI 競爭情勢分析工具
最適合小型企業的頂尖 AI 競爭情勢分析工具

2026 年最新、最佳且評價最高的中小企業 AI 競爭研究工具!XIX.AI 精心精選了一系列極具威力且能改變遊戲規則的工具,並透過嚴謹的實測與詳細排名,每週更新內容。您可在此找到詳盡的免費版與付費版比較,協助您找出必試的工具,以提升工作效率並獲得競爭優勢。 立即探索,找出最適合您的工具!

9 個工具
xix.ai
圖像編輯 用於電商服裝、皮膚清潔和色彩一致性的 Photoshop AI 修圖工具
用於電商服裝、皮膚清潔和色彩一致性的 Photoshop AI 修圖工具

2026 年最新最佳 Photoshop AI 修圖工具,適用於電商服裝、皮膚清潔和色彩一致性!這份頂級精選列表包含強大的變革性解決方案,可幫助您提升寫作效率、簡化內容創作並輕鬆實現完美的視覺效果。每個工具都經過實際測試,並透過每週更新的排名進行驗證,同時提供免費與付費版本的詳細對比。由 XIX.AI 支援,這是任何希望發揮 AI 優勢的人必試指南。立即探索!

10 個工具
xix.ai
迅速的 適用於 ChatGPT 工作流程的最佳 AI 提示詞庫
適用於 ChatGPT 工作流程的最佳 AI 提示詞庫

2026 年最新、最受好評的 AI 提示詞庫,可優化各類 ChatGPT 工作流程。XIX.AI 精心蒐羅了一套強大且具革命性的精選集合,並經過嚴格的實際測試,以確保其表現卓越。 您可查閱詳盡的免費版與付費版比較分析,以及專家評比,助您挑選必試工具,從而提升工作效率並釋放您的 AI 優勢。立即探索!

11 個工具
xix.ai
評論 (2)
0/500
WillieHernández
WillieHernández 2025-11-19 06:30:38

またOpenAIの方針転換...競争が激化する中、安全性と開発速度のバランスって本当に難しいですよね。個人的には過去のChatGPTの制限が緩和された時みたいに、今回もユーザー体験が向上するなら歓迎だけど、やっぱり倫理的基準は守ってほしいな😅 他の企業が危険なAIを出したら同じ土俵に上がる必要性ある?

PaulTaylor
PaulTaylor 2025-11-12 02:30:35

Interesante cómo la competencia puede influir en los estándares de seguridad 😕 No sé si relajar protocolos sea buena idea, pero entiendo la presión del mercado. ¿Hasta qué punto la carrera por la IA está poniendo en riesgo controles importantes?

OR