NVIDIA 主導在 OSAA 框架下成立 SAFE 工作小組,以促進 AI 安全資訊共享與開源合作
由 NVIDIA 於一週多前發起的「開放式安全人工智慧聯盟」(OSAA),正迅速推動人工智慧安全領域的發展。該聯盟的成員數已突破 120 家企業,並宣布成立「人工智慧發現資訊共享平台」(SAFE)工作小組,目前正接受關於管理人工智慧安全事件的提案。 此項計畫由 Linux 基金會負責監督。
在本週舉行的 Black Hat 會議上,該聯盟進一步完善了其策略,著重強調 AI 網路安全事件的保密通報、受影響方的通知協議,以及不歸咎於任何一方的事後檢討。這些措施旨在鼓勵全產業共享安全洞見與最佳實踐。

除了制定協作標準外,OSAA 成員還正貢獻開源安全功能,並計劃建立一套適用於企業部署的全面開源 AI 安全工具鏈。這將有助於保護 AI 代理程式,並防禦惡意 AI 攻擊。 NVIDIA 正貢獻開放式模型及開源大型語言模型(LLM)漏洞掃描器 Garak;Okta 致力推進代理身分識別技術;Red Hat 則開發代理治理解決方案;亞馬遜則貢獻了 Strands Agents 及 Cedar 授權語言等專案。
聯盟成員包括 Adobe、BlackRock、Cisco、Intel、Microsoft 及 Visa。然而,OpenAI、Anthropic 和 Google 尚未加入。儘管如此,OpenAI 和 Google 均簽署了先前由 NVIDIA 發起、並獲得超過 200 家科技公司支持的公開信,該公開信旨在倡導開源 AI。
該聯盟的迅速成立,與美國當前關於開源 AI 監管政策的討論密切相關。業界專家認為,OSAA 在推動開放協作與安全標準方面的加速努力,有望進一步鞏固美國的開源 AI 生態系統,並透過開放共享來提升 AI 安全能力與產業競爭力。
相關文章
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work
Google 測試 Remy AI 代理,以 Gemini 為重點轉向使用者控制
根據《商業內幕》的報道,谷歌正在測試 Remy,這是 Gemini 的一款全新 AI 個人代理工具。該工具旨在代表使用者執行任務,從而簡化專業工作流程和日常事務。目前,Remy 正在 Gemini 應用的內部員工專屬版本中進行測試。該報告引用了一份內部檔案以及對兩位熟悉該專案的個人的採訪。內部資料將 Remy 描述為“全天候個人代理”,將 Gemini 定位為能夠代表使用者行事的主動助手。接近該專案的訊息人士證實,谷歌員工正在積極測試 Remy。谷歌發言人拒絕提供進一步評論。該報告未提及公開發布
相關專題推薦
評論 (0)
0/500
由 NVIDIA 於一週多前發起的「開放式安全人工智慧聯盟」(OSAA),正迅速推動人工智慧安全領域的發展。該聯盟的成員數已突破 120 家企業,並宣布成立「人工智慧發現資訊共享平台」(SAFE)工作小組,目前正接受關於管理人工智慧安全事件的提案。 此項計畫由 Linux 基金會負責監督。
在本週舉行的 Black Hat 會議上,該聯盟進一步完善了其策略,著重強調 AI 網路安全事件的保密通報、受影響方的通知協議,以及不歸咎於任何一方的事後檢討。這些措施旨在鼓勵全產業共享安全洞見與最佳實踐。

除了制定協作標準外,OSAA 成員還正貢獻開源安全功能,並計劃建立一套適用於企業部署的全面開源 AI 安全工具鏈。這將有助於保護 AI 代理程式,並防禦惡意 AI 攻擊。 NVIDIA 正貢獻開放式模型及開源大型語言模型(LLM)漏洞掃描器 Garak;Okta 致力推進代理身分識別技術;Red Hat 則開發代理治理解決方案;亞馬遜則貢獻了 Strands Agents 及 Cedar 授權語言等專案。
聯盟成員包括 Adobe、BlackRock、Cisco、Intel、Microsoft 及 Visa。然而,OpenAI、Anthropic 和 Google 尚未加入。儘管如此,OpenAI 和 Google 均簽署了先前由 NVIDIA 發起、並獲得超過 200 家科技公司支持的公開信,該公開信旨在倡導開源 AI。
該聯盟的迅速成立,與美國當前關於開源 AI 監管政策的討論密切相關。業界專家認為,OSAA 在推動開放協作與安全標準方面的加速努力,有望進一步鞏固美國的開源 AI 生態系統,並透過開放共享來提升 AI 安全能力與產業競爭力。
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work





首頁






