OpenAI推出ChatGPT封鎖模式,透過切斷網路連線來防止資料洩露

隨著生成式人工智慧迅速邁入智慧體時代,模型呼叫工具及連線網際網路的能力日益增強,這為安全系統帶來了新的嚴峻挑戰。為應對激增的提示注入攻擊,OpenAI推出了一項名為“封鎖模式”的全新可選安全功能,目前所有已登入使用者、各類賬戶型別以及工作空間均可使用該功能。
提示注入攻擊長期以來一直困擾著大型語言模型開發者。攻擊者常常將惡意指令隱藏在網頁、第三方文件或其他外部資料中。當ChatGPT在連線網際網路時讀取這些被汙染的內容,就可能會被誘使忽視自身的核心安全規則,執行未經授權的操作,甚至會在使用者不知情的情況下,將商業機密或個人資訊等敏感資料秘密傳送到外部的惡意伺服器。
為解決這一業內廣為人知的問題,OpenAI推出的新“封鎖模式”採取了務實的方法。它並不試圖完美識別每一條新的惡意指令,而是直接限制最危險的功能——即訪問外部網路的能力。
一旦使用者或工作空間管理員啟用封鎖模式,ChatGPT的許多核心功能都會受到限制。實時網頁瀏覽功能會被大幅削弱——系統僅能訪問受保護的快取網頁內容,這可能導致搜尋結果不完整、過時或無法獲取。該模型也無法從外部網路檢索或顯示任何圖片,也不能從網上下載檔案以進行高階資料分析。
此外,“深度研究”和“智慧體模式”等高階生產力功能也會被完全禁用。即便在Canvas功能中生成的程式碼也無法訪問網際網路。在這種模式下,大型語言模型只能處理使用者手動上傳的本地安全文件。
不過,OpenAI的官方文件明確指出,封鎖模式並非堅不可摧的防護屏障,它無法保證100%防範提示注入攻擊。惡意指令仍可能潛藏在合法的快取網頁或使用者上傳的檔案中,繼續幹擾模型的判斷。
這一新功能凸顯出人工智慧行業的一個現實悖論:大型語言模型對網際網路的訪問許可權越開放,其自動化工具的使用程度越高,暴露出的攻擊面也就越大。封鎖模式體現了OpenAI試圖為人工智慧能力劃定安全邊界的明確意圖。它並不承諾“絕對安全”,而是將“更強大、更智慧的協作體驗”與“更低的資料洩露風險”之間的權衡交由使用者和企業管理員自行決定。
相關文章
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work
Google 測試 Remy AI 代理,以 Gemini 為重點轉向使用者控制
根據《商業內幕》的報道,谷歌正在測試 Remy,這是 Gemini 的一款全新 AI 個人代理工具。該工具旨在代表使用者執行任務,從而簡化專業工作流程和日常事務。目前,Remy 正在 Gemini 應用的內部員工專屬版本中進行測試。該報告引用了一份內部檔案以及對兩位熟悉該專案的個人的採訪。內部資料將 Remy 描述為“全天候個人代理”,將 Gemini 定位為能夠代表使用者行事的主動助手。接近該專案的訊息人士證實,谷歌員工正在積極測試 Remy。谷歌發言人拒絕提供進一步評論。該報告未提及公開發布
相關專題推薦
評論 (0)
0/500

隨著生成式人工智慧迅速邁入智慧體時代,模型呼叫工具及連線網際網路的能力日益增強,這為安全系統帶來了新的嚴峻挑戰。為應對激增的提示注入攻擊,OpenAI推出了一項名為“封鎖模式”的全新可選安全功能,目前所有已登入使用者、各類賬戶型別以及工作空間均可使用該功能。
提示注入攻擊長期以來一直困擾著大型語言模型開發者。攻擊者常常將惡意指令隱藏在網頁、第三方文件或其他外部資料中。當ChatGPT在連線網際網路時讀取這些被汙染的內容,就可能會被誘使忽視自身的核心安全規則,執行未經授權的操作,甚至會在使用者不知情的情況下,將商業機密或個人資訊等敏感資料秘密傳送到外部的惡意伺服器。
為解決這一業內廣為人知的問題,OpenAI推出的新“封鎖模式”採取了務實的方法。它並不試圖完美識別每一條新的惡意指令,而是直接限制最危險的功能——即訪問外部網路的能力。
一旦使用者或工作空間管理員啟用封鎖模式,ChatGPT的許多核心功能都會受到限制。實時網頁瀏覽功能會被大幅削弱——系統僅能訪問受保護的快取網頁內容,這可能導致搜尋結果不完整、過時或無法獲取。該模型也無法從外部網路檢索或顯示任何圖片,也不能從網上下載檔案以進行高階資料分析。
此外,“深度研究”和“智慧體模式”等高階生產力功能也會被完全禁用。即便在Canvas功能中生成的程式碼也無法訪問網際網路。在這種模式下,大型語言模型只能處理使用者手動上傳的本地安全文件。
不過,OpenAI的官方文件明確指出,封鎖模式並非堅不可摧的防護屏障,它無法保證100%防範提示注入攻擊。惡意指令仍可能潛藏在合法的快取網頁或使用者上傳的檔案中,繼續幹擾模型的判斷。
這一新功能凸顯出人工智慧行業的一個現實悖論:大型語言模型對網際網路的訪問許可權越開放,其自動化工具的使用程度越高,暴露出的攻擊面也就越大。封鎖模式體現了OpenAI試圖為人工智慧能力劃定安全邊界的明確意圖。它並不承諾“絕對安全”,而是將“更強大、更智慧的協作體驗”與“更低的資料洩露風險”之間的權衡交由使用者和企業管理員自行決定。
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work





首頁






