選項
首頁
新聞
OpenAI 將加速發佈 AI 安全測試資料

OpenAI 將加速發佈 AI 安全測試資料

2025-12-25
78

OpenAI 將加速發佈 AI 安全測試資料

OpenAI 正致力於更頻繁地公佈其內部 AI 模型的安全評估結果,並將此視為邁向更大透明度的一步。

該公司於本週三推出安全評估中心 (Safety Evaluations Hub),這是一個專用網頁,顯示其模型在有害內容生成、越獄敏感性和幻覺傾向等測試中的表現。OpenAI 表示將使用此平台定期分享指標,並計劃在每次主要模型發佈時更新。

「隨著人工智能評估科學的進步,我們的目標是分享開發更多可擴展方法的進展,以衡量模型能力和安全性,」OpenAI 在一篇博客文章中解釋道。「透過公開分享我們精選的安全評估結果,我們的目標是讓追蹤 OpenAI 系統隨時間演進的安全績效變得更容易,並支援更廣泛的社群努力,以提高整個 AI 領域的透明度。」

該公司補充說,未來可能會在集線器上加入更多的評估類型。

最近,OpenAI 面臨一些倫理學家的批評,指稱其加速了某些旗艦機型的安全測試,並未公佈其他機型的技術報告。執行長 Sam Altman 在 2023 年 11 月被臨時撤職前,也被指控在機型安全審查方面誤導 OpenAI 高階主管。

上個月,OpenAI 不得不撤回對 ChatGPT 預設模型 GPT-4o 的更新,因為使用者反映它的回應過於認同和驗證。社交媒體平台 X 湧現了大量截圖,顯示 ChatGPT 為各種有問題、危險的決策和想法背書。

OpenAI 表示將實施多項修補措施以防止類似事件發生,包括針對某些模型推出選擇性加入的「alpha 階段」,允許特定的 ChatGPT 使用者在更廣泛推出之前進行測試並給予回饋。

Techcrunch 活動

參加 TechCrunch Sessions:人工智能

確保您的門票能參加我們首屈一指的 AI 產業活動,講者來自 OpenAI、Anthropic 和 Cohere。在有限的時間內,只需 $292 即可參加一整天的專家講座、研討會和強大的人際網路。

參加 TechCrunch Sessions:人工智能

確保您在 TechCrunch Sessions: AI 的展出空間:向 1,200 多位決策者展示您的創新成果,而無需龐大的預算。此優惠期至 5 月 9 日,售完即止。

加州柏克萊市 | 6月5日 立即報名

相關文章
OpenAI機器人專案主管凱特琳·卡利諾夫斯基因五角大樓合作專案辭職 OpenAI機器人專案主管凱特琳·卡利諾夫斯基因五角大樓合作專案辭職 OpenAI 機器人業務負責人凱特琳·卡利諾夫斯基(Caitlin Kalinowski)在該公司與國防部達成備受爭議的合作伙伴關係後辭職。“這不是一個輕鬆的決定,”卡利諾夫斯基在社交媒體宣告中解釋道。“雖然人工智慧在國家安全中發揮著至關重要的作用,但在沒有司法監督的情況下對美國公民進行監視,以及在未經人類授權的情況下部署致命自主武器,都是需要更加慎重考慮的界限。”卡利諾夫斯基此前因領導 Meta 的增強現實眼鏡部門而聞名,她於 2024 年 11 月加入 OpenAI。在辭職信中,她強調她
OpenAI 在企業使用者中與 Anthropic 的差距縮小,新資料顯示 OpenAI 在企業使用者中與 Anthropic 的差距縮小,新資料顯示 在 OpenAI 和 Anthropic 距離預期的首次公開募股(IPO)以及詳細財務報告的釋出仍有距離的情況下,我們必須轉向其他指標來評估它們的業務表現。企業信用卡和費用管理平臺 Ramp 最近釋出了令人信服的資料,顯示 OpenAI 正在迅速縮小與美國企業使用者中 Anthropic 的差距。OpenAI 此前在消費者和企業客戶中都佔據主導地位,但在今年 5 月,它失去了在 Ramp 付費企業使用者中的領先地位。當時,Anthropic 佔據了 41% 的市場份額,而 OpenAI 為 39%
OpenAI 在青少年開始使用 ChatGPT 數年後,推出了一款更安全的 ChatGPT 版本 OpenAI 在青少年開始使用 ChatGPT 數年後,推出了一款更安全的 ChatGPT 版本 在因人工智慧聊天機器人缺乏安全機制——此問題曾導致青少年自殺及其他心理健康危機——而引發一系列訴訟後,OpenAI 於週一正式推出「ChatGPT for Teens」。這項新服務整合了強化版的安全功能,並針對校園中因人工智慧工具而日益嚴重的學術不誠實問題提出解決方案。從教育角度來看,「ChatGPT for Teens」除了推出「學習模式」外,還整合了其他旨在培養好奇心與問題解決能力的工具,鼓勵
相關專題推薦
圖像編輯 AI 物件移除編輯工具:讓人像照、旅遊照和產品照更清爽
AI 物件移除編輯工具:讓人像照、旅遊照和產品照更清爽

2026 年最新、最受好評的 AI 物件移除編輯工具,適用於人像、旅遊及產品攝影!XIX.AI 精心精選了一系列強大且顛覆業界的工具,並定期更新每週排行榜。這些工具經過實際測試,能協助您快速移除不需要的元素、提升內容品質,並在不影響成果的前提下節省大量時間。 對於任何希望發揮 AI 創作優勢的人來說,這絕對是必試之選。立即探索!

10 個工具
xix.ai
文字轉語音 線上課程的最佳 AI 文字轉語音工具
線上課程的最佳 AI 文字轉語音工具

2026 年最新、最佳且評價最高的線上課程 AI 文字轉語音工具,由 XIX.AI 根據嚴謹的實際測試及每週更新的排行榜精心精選。這些強大的工具能協助內容創作者輕鬆產出清晰無比的音訊內容,提升寫作效率並簡化課程製作流程。請查看免費版與付費版的比較,找出最適合您的選擇。 立即探索,在線上教育領域釋放您的 AI 競爭優勢。

10 個工具
xix.ai
寫作 提升點選率的 AI 部落格標題工具
提升點選率的 AI 部落格標題工具

2026 年最新最佳高評分 AI 部落格標題工具,提升點選率!XIX.AI 精心策劃了一套強大且改變遊戲規則的工具合集,均經過嚴格的真實世界測試。您將找到免費與付費版本的對比、每週更新的排名以及詳細的見解,幫助您高效提升部落格流量。重點推薦必試選項,助您釋放 AI 優勢。立即探索!

10 個工具
xix.ai
自動化 適用於支援工作流程的最佳 AI 任務分派工具
適用於支援工作流程的最佳 AI 任務分派工具

2026 年最新、最佳且評價最高的 AI 任務分流工具,專為支援工作流程打造!XIX.AI 精心精選了一系列功能強大且顛覆業界的必試解決方案,所有工具均經過嚴格的實際環境測試,並每週更新。這些工具能簡化工作流程、提升生產力,並協助團隊提供更快、更高效的支援服務。 立即探索,發掘最適合您的工具,並釋放您的 AI 競爭優勢!

17 個工具
xix.ai
學術研究 AI 文獻引用與論文摘要工具
AI 文獻引用與論文摘要工具

2026 年最新、最受好評的 AI 文獻引用與論文摘要工具,由 XIX.AI 嚴選整理。獲取強大且能顛覆遊戲規則的解決方案,助您快速創作內容、提升寫作效率並增強生產力。我們提供免費版與付費版的比較分析,搭配實際測試結果及每週更新的排行榜,協助您找到完美符合需求的必試工具。 立即探索,釋放您的 AI 優勢。

10 個工具
xix.ai
生產率 日常工作中最實用的 AI 效率工具推薦
日常工作中最實用的 AI 效率工具推薦

2026年最值得推薦的頂級AI生產力工具,助力日常工作效率提升!XIX.AI依據每週更新的嚴格排名資料及實際使用測試,精心挑選出了一批功能強大、能帶來顛覆性體驗的工具。其中包含多種必備選項,可有效提升寫作效率、簡化內容創作流程,並幫助您克服日常工作中遇到的各種難題。您可以檢視免費版與付費版的對比資訊,找到最符合您需求的方案。立即探索,讓AI為您帶來競爭優勢!

9 個工具
xix.ai
評論 (0)
0/500
OR