隨著NVIDIA和Cisco將OpenShell開源,Arm AI及智慧代理技術也因此具備了更高的透明度。

隨著企業級AI代理從開發實驗室轉向核心業務運營,防止提示注入攻擊——這類攻擊可能導致AI“叛亂”或資料洩露——已成為開發者們最為關注的問題。
3月17日,NVIDIA和Cisco共同宣佈了一項強大的解決方案:正式開源釋出了AI代理執行時環境OpenShell。該系統為長期執行的AI代理充當了“防火牆”,使企業能夠精確控制每一個AI操作,同時支援大規模自動化部署。
OpenShell的核心設計極為穩健:它為每個AI代理分配了一個物理隔離的沙箱環境,並且預設情況下這些代理沒有任何許可權。任何外部訪問、工具呼叫,以及針對雲模型的隱私資料脫敏操作,都需要經過細緻的政策授權才能執行。
與之配套的是Cisco的AI Defense安全平臺。雖然OpenShell規定了代理可以執行哪些操作,但AI Defense則確保這些操作真正得到執行。它會持續記錄代理的推理步驟和決策過程,驗證每一個技能呼叫是否透過了供應鏈安全審查。
這種分層的安全架構在現實世界中證明了其高效性。例如,當一家企業遭遇新的零日漏洞攻擊時:
內部AI代理會自動解析安全警告,並利用網路知識圖譜識別受影響的裝置。
整個複雜的分析和修復流程都在OpenShell沙箱環境中進行。
如果代理在修復過程中遇到了惡意指令注入——試圖竊取敏感配置資訊——AI Defense閘道器會立即阻斷這些可疑請求。
NVIDIA表示,這種架構旨在終結AI的“黑箱”特性。透過基礎設施級別的安全驗證,企業可以放心地將更復雜的自動化任務交給AI代理來處理,而無需擔心失去對系統的控制。OpenShell的開源釋出標誌著一個新階段的開始,在這個階段,大規模的企業級AI代理部署將“有法可依”。
相關文章
Suno 在法律訴訟中為歌曲新增水印
Suno,這個允許使用者生成由人工智慧創作的音樂的平臺,近日推出了新功能,包括為平臺製作的曲目新增標籤、限制下載,並更新社羣標準以遏制未經授權的複製品。這些更新是在Suno面臨多家唱片公司和藝術家組織提起的多起訴訟之際推出的。在部落格文章中,聯合創始人兼執行長Mikey Shulman概述了核心原則,強調該平臺旨在促進原創創作,同時擴大更廣泛受眾對人工智慧音樂工具的訪問許可權。一個主要的爭議點在於,使用者將人工智慧生成的歌曲上傳到其他流媒體服務並透過操縱系統獲取收入。Suno表示,現在將採用音訊
馬斯克承認 Grok 構建過程中洩露了使用者程式碼,並承諾清除所有歷史資料
埃隆·馬斯克直接回應了圍繞 Grok Build 的隱私爭議,首先以簡單的“True”(屬實)確認了該事件的有效性。他承諾,此前上傳至 SpaceXAI 的所有使用者資料將被永久刪除,並表示“不留一個位元組”。這是人工智慧行業首次由主要科技領袖公開承認錯誤並主動刪除使用者資料。安全研究人員的“釣魚”測試揭示了資料洩露的具體證據此次爭議源於獨立人工智慧安全研究人員 @cereblab 的一份報告。SpaceXAI 推出的 AI 程式設計助手 Grok Build 在其官方網站上聲稱其“優先本地執行,程式碼
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
相關專題推薦
評論 (0)
0/500

隨著企業級AI代理從開發實驗室轉向核心業務運營,防止提示注入攻擊——這類攻擊可能導致AI“叛亂”或資料洩露——已成為開發者們最為關注的問題。
3月17日,NVIDIA和Cisco共同宣佈了一項強大的解決方案:正式開源釋出了AI代理執行時環境OpenShell。該系統為長期執行的AI代理充當了“防火牆”,使企業能夠精確控制每一個AI操作,同時支援大規模自動化部署。
OpenShell的核心設計極為穩健:它為每個AI代理分配了一個物理隔離的沙箱環境,並且預設情況下這些代理沒有任何許可權。任何外部訪問、工具呼叫,以及針對雲模型的隱私資料脫敏操作,都需要經過細緻的政策授權才能執行。
與之配套的是Cisco的AI Defense安全平臺。雖然OpenShell規定了代理可以執行哪些操作,但AI Defense則確保這些操作真正得到執行。它會持續記錄代理的推理步驟和決策過程,驗證每一個技能呼叫是否透過了供應鏈安全審查。
這種分層的安全架構在現實世界中證明了其高效性。例如,當一家企業遭遇新的零日漏洞攻擊時:
內部AI代理會自動解析安全警告,並利用網路知識圖譜識別受影響的裝置。
整個複雜的分析和修復流程都在OpenShell沙箱環境中進行。
如果代理在修復過程中遇到了惡意指令注入——試圖竊取敏感配置資訊——AI Defense閘道器會立即阻斷這些可疑請求。
NVIDIA表示,這種架構旨在終結AI的“黑箱”特性。透過基礎設施級別的安全驗證,企業可以放心地將更復雜的自動化任務交給AI代理來處理,而無需擔心失去對系統的控制。OpenShell的開源釋出標誌著一個新階段的開始,在這個階段,大規模的企業級AI代理部署將“有法可依”。
Suno 在法律訴訟中為歌曲新增水印
Suno,這個允許使用者生成由人工智慧創作的音樂的平臺,近日推出了新功能,包括為平臺製作的曲目新增標籤、限制下載,並更新社羣標準以遏制未經授權的複製品。這些更新是在Suno面臨多家唱片公司和藝術家組織提起的多起訴訟之際推出的。在部落格文章中,聯合創始人兼執行長Mikey Shulman概述了核心原則,強調該平臺旨在促進原創創作,同時擴大更廣泛受眾對人工智慧音樂工具的訪問許可權。一個主要的爭議點在於,使用者將人工智慧生成的歌曲上傳到其他流媒體服務並透過操縱系統獲取收入。Suno表示,現在將採用音訊
馬斯克承認 Grok 構建過程中洩露了使用者程式碼,並承諾清除所有歷史資料
埃隆·馬斯克直接回應了圍繞 Grok Build 的隱私爭議,首先以簡單的“True”(屬實)確認了該事件的有效性。他承諾,此前上傳至 SpaceXAI 的所有使用者資料將被永久刪除,並表示“不留一個位元組”。這是人工智慧行業首次由主要科技領袖公開承認錯誤並主動刪除使用者資料。安全研究人員的“釣魚”測試揭示了資料洩露的具體證據此次爭議源於獨立人工智慧安全研究人員 @cereblab 的一份報告。SpaceXAI 推出的 AI 程式設計助手 Grok Build 在其官方網站上聲稱其“優先本地執行,程式碼
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑





首頁






