OpenAI的安全承諾受到質疑:監管與監督之爭

在導致加拿大震驚的Tumbler Ridge槍擊事件發生後,OpenAI迅速採取了一系列補救措施。然而,法律和技術專家們仍對此表示懷疑。學者Jean-Christophe Bélisle-Pipon指出,OpenAI執行長Sam Altman向加拿大政府作出的安全承諾實際上是用企業監管取代了民主監督。
在事件發生前幾個月,18歲槍手Jesse van Ruttenaar的ChatGPT賬戶就因釋出與槍支暴力相關的內容而被標記。儘管該賬戶被暫停使用,但OpenAI並未將這一潛在威脅報告給執法部門。這場悲劇最終造成了八人喪生。
OpenAI的新舉措:在警方與公司之間建立“直通渠道”
作為回應,OpenAI承諾採取以下行動:
直接報告機制:立即將可信的威脅資訊報告給加拿大皇家騎警。
回顧性審查:重新審視此前被標記為可疑的賬戶。
專家參與:允許加拿大專家加入其安全諮詢流程,協助政府制定監管建議。
專家們的擔憂:“監控替代品”的陷阱
Bélisle-Pipon教授在分析中指出了一個關鍵問題:OpenAI正在迴避對其核心模型設計及訓練方法的監督,而是轉而加強了對使用者對話的監測。
責任缺失:報告的標準仍由OpenAI內部決定,缺乏透明度和獨立審計。
令人擔憂的影響:研究表明,由於使用者認為聊天機器人能保護隱私,他們往往會向這些機器人傾訴心事。如果這些對話直接成為警方監控的渠道,處於心理危機中的弱勢群體可能會選擇保持沉默,從而錯失獲得幫助的機會。
監管上的隱患:這種“自願做出的讓步”可能實際上是為了規避更嚴格的法律法規。
真正的治理之道:將焦點從使用者轉向系統本身
批評者認為,真正的人工智慧監管應該不僅僅關注對語音的監測,而應深入審視相關係統本身。例如:
建立獨立監督機構:由心理健康專家和法律專家組成的第三方機構來評估風險,而不是完全由企業來決定一切。
模型層面的責任機制:仔細審查人工智慧模型在面對暴力意圖披露時的反應方式,以及開發過程中進行了哪些安全壓力測試。
隨著OpenAI積極與全球各國政府開展合作,Tumbler Ridge事件正在成為一個重要的參考案例:我們是在朝著更安全的科技方向發展,還是在走向一個由私營企業運營的數字監控網路?
相關文章
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work
Google 測試 Remy AI 代理,以 Gemini 為重點轉向使用者控制
根據《商業內幕》的報道,谷歌正在測試 Remy,這是 Gemini 的一款全新 AI 個人代理工具。該工具旨在代表使用者執行任務,從而簡化專業工作流程和日常事務。目前,Remy 正在 Gemini 應用的內部員工專屬版本中進行測試。該報告引用了一份內部檔案以及對兩位熟悉該專案的個人的採訪。內部資料將 Remy 描述為“全天候個人代理”,將 Gemini 定位為能夠代表使用者行事的主動助手。接近該專案的訊息人士證實,谷歌員工正在積極測試 Remy。谷歌發言人拒絕提供進一步評論。該報告未提及公開發布
如何修復核心網頁指標以獲得更好的 SEO 排名
利用 AI 工具簡化成績單評語撰寫引言用於生成成績單評語的 AI 工具Magic SchoolAlmanac AIChat GPT使用 Magic School 生成成績單評語登入 Magic School選擇成績單評語工具為學生定製評語使用 Almanac AI 生成成績單評語設定課程與評分方案配置評語長度與學生資訊使用 Almanac AI 生成評語比較 Magic School 與 Almanac AI設定的便捷性可定製性與課程內容的整合速度與效率使用
相關專題推薦
評論 (1)
0/500

在導致加拿大震驚的Tumbler Ridge槍擊事件發生後,OpenAI迅速採取了一系列補救措施。然而,法律和技術專家們仍對此表示懷疑。學者Jean-Christophe Bélisle-Pipon指出,OpenAI執行長Sam Altman向加拿大政府作出的安全承諾實際上是用企業監管取代了民主監督。
在事件發生前幾個月,18歲槍手Jesse van Ruttenaar的ChatGPT賬戶就因釋出與槍支暴力相關的內容而被標記。儘管該賬戶被暫停使用,但OpenAI並未將這一潛在威脅報告給執法部門。這場悲劇最終造成了八人喪生。
OpenAI的新舉措:在警方與公司之間建立“直通渠道”
作為回應,OpenAI承諾採取以下行動:
直接報告機制:立即將可信的威脅資訊報告給加拿大皇家騎警。
回顧性審查:重新審視此前被標記為可疑的賬戶。
專家參與:允許加拿大專家加入其安全諮詢流程,協助政府制定監管建議。
專家們的擔憂:“監控替代品”的陷阱
Bélisle-Pipon教授在分析中指出了一個關鍵問題:OpenAI正在迴避對其核心模型設計及訓練方法的監督,而是轉而加強了對使用者對話的監測。
責任缺失:報告的標準仍由OpenAI內部決定,缺乏透明度和獨立審計。
令人擔憂的影響:研究表明,由於使用者認為聊天機器人能保護隱私,他們往往會向這些機器人傾訴心事。如果這些對話直接成為警方監控的渠道,處於心理危機中的弱勢群體可能會選擇保持沉默,從而錯失獲得幫助的機會。
監管上的隱患:這種“自願做出的讓步”可能實際上是為了規避更嚴格的法律法規。
真正的治理之道:將焦點從使用者轉向系統本身
批評者認為,真正的人工智慧監管應該不僅僅關注對語音的監測,而應深入審視相關係統本身。例如:
建立獨立監督機構:由心理健康專家和法律專家組成的第三方機構來評估風險,而不是完全由企業來決定一切。
模型層面的責任機制:仔細審查人工智慧模型在面對暴力意圖披露時的反應方式,以及開發過程中進行了哪些安全壓力測試。
隨著OpenAI積極與全球各國政府開展合作,Tumbler Ridge事件正在成為一個重要的參考案例:我們是在朝著更安全的科技方向發展,還是在走向一個由私營企業運營的數字監控網路?
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work
如何修復核心網頁指標以獲得更好的 SEO 排名
利用 AI 工具簡化成績單評語撰寫引言用於生成成績單評語的 AI 工具Magic SchoolAlmanac AIChat GPT使用 Magic School 生成成績單評語登入 Magic School選擇成績單評語工具為學生定製評語使用 Almanac AI 生成成績單評語設定課程與評分方案配置評語長度與學生資訊使用 Almanac AI 生成評語比較 Magic School 與 Almanac AI設定的便捷性可定製性與課程內容的整合速度與效率使用





首頁






