Anthropic 限制 Mythos 的使用,是為了保護網路,還是為了保護自己?

本週,Anthropic 宣布限制其最新模型「Mythos」的推出,理由是該模型具備非凡的能力,能揭露全球廣泛使用的軟體中的安全漏洞。
這家前沿實驗室並未將 Mythos 公開發布,而是計畫與一組精選的大型企業及組織分享,這些單位負責管理關鍵的線上基礎設施,從亞馬遜網路服務(AWS)到摩根大通(JPMorgan Chase)皆在其中。據報導,OpenAI 正考慮針對其下一款網路安全工具採取類似的做法。 官方聲稱此舉旨在讓這些大型企業能領先於可能利用先進大型語言模型(LLMs)入侵安全軟體的惡意行為者。
但上文中的「企業」一詞暗示,這項發布策略可能不僅僅關乎網路安全——或是圍繞模型能力的炒作。
AI 網路安全實驗室 Irregular 的執行長丹·拉哈夫(Dan Lahav)在 3 月 Mythos 正式亮相前向 TechCrunch 表示,雖然 AI 工具發現漏洞很重要,但任何弱點對攻擊者的真正價值取決於許多因素,包括這些弱點如何被組合運用。
「我腦海中始終萦繞的問題,」拉哈夫表示,「在於他們是否發現了某種具有高度實用價值的可利用漏洞——無論是單獨存在,還是作為一連串攻擊鏈的一部分。」
Anthropic 表示,Mythos 能比其前一代模型 Opus 更有效地利用漏洞。但 Mythos 是否真正代表了終極的網路安全模型,目前仍不明朗。 人工智慧網路安全新創公司 Aisle 聲稱,他們利用較小且開放權重的模型,複製了 Anthropic 所稱 Mythos 所達成的大部分成果。Aisle 團隊主張,這些結果表明網路安全領域並不存在單一的深度學習模型;相反地,其有效性取決於具體任務。
鑒於 Opus 早已被視為顛覆網路安全遊戲規則的突破性模型,前沿實驗室可能還有另一個理由將模型發布限制在大型組織:這不僅能為大型企業合約創造飛輪效應,同時也讓競爭對手更難透過「蒸餾」技術——即利用前沿模型以低成本訓練新大型語言模型(LLMs)——來複製其模型。
「這其實是種行銷說辭,用來掩蓋頂級模型現已受企業協議限制,小型實驗室無法再進行蒸餾的事實,」軟體工程師兼新創公司 exe.dev 執行長大衛·克勞肖(David Crawshaw)在社群媒體貼文中指出。 「等到你我能夠使用 Mythos 時,將會出現一個僅限企業使用的全新頂級版本。這種循環機制透過將蒸餾公司降為二線地位,有助於維持企業資金的流動(這佔了絕大部分資金),」克勞肖表示。
這項分析與我們在 AI 生態系統中所見的現象相符:一方面是前沿實驗室競相打造最大、功能最強大的模型;另一方面則是像 Aisle 這樣的公司,它們依賴多種模型,並將開源大型語言模型(通常來自中國,且據稱多是透過蒸餾技術開發而成)視為獲取經濟優勢的途徑。
今年,前沿實驗室對模型蒸餾採取了更強硬的立場。Anthropic 已公開揭露其所謂中國企業試圖複製其模型的行為;據《彭博社》報導,三家領先實驗室——Anthropic、Google 和 OpenAI——已聯手識別並封鎖模型蒸餾者。
蒸餾技術威脅到前沿實驗室的商業模式,因為它消除了透過投入巨額資本進行規模化所獲得的優勢。阻斷蒸餾技術固然是一項值得投入的努力,但隨著此類技術成為獲利部署的關鍵,選擇性發布的策略也讓實驗室得以區隔其企業級解決方案。
無論是 Mythos 還是任何新模型,是否真的危及網路安全仍有待觀察,而謹慎推出這項技術是負責任的前進方式。
截至發稿時,Anthropic 尚未回應我們關於此決定是否也與「蒸餾」疑慮有關的提問,但該公司或許已找到一種巧妙的方式來保護網際網路——以及自身的獲利能力。
相關文章
Google 測試 Remy AI 代理,以 Gemini 為重點轉向使用者控制
根據《商業內幕》的報道,谷歌正在測試 Remy,這是 Gemini 的一款全新 AI 個人代理工具。該工具旨在代表使用者執行任務,從而簡化專業工作流程和日常事務。目前,Remy 正在 Gemini 應用的內部員工專屬版本中進行測試。該報告引用了一份內部檔案以及對兩位熟悉該專案的個人的採訪。內部資料將 Remy 描述為“全天候個人代理”,將 Gemini 定位為能夠代表使用者行事的主動助手。接近該專案的訊息人士證實,谷歌員工正在積極測試 Remy。谷歌發言人拒絕提供進一步評論。該報告未提及公開發布
奧利押注隱私保護,力爭在 AI 助理競賽中勝出
要真正發揮實用價值,人工智慧助理必須深入了解其使用者。Ollie 是一款專為日常生活設計的個人助理,其運作前提是:這無需您交出個人資料,亦不會損害您的隱私。雖然某些企業級 AI 工具提供資料隱私保障,但 Ollie 作為首批獲得 SOC 2 合規認證的主流、以家庭為導向的 AI 服務之一,顯得格外突出。此框架允許企業透過獨立稽核證明,其已建立正式的管控措施來保護客戶資料,並確保系統運作的安全性。達
「AI LIVE:倫敦」將如何探討人工智慧與工業自動化
本次峰會將匯聚來自全球的高階主管,共同探討全球產業面臨的迫切挑戰,涵蓋範圍從人工智慧驅動的顛覆性變革到經濟波動。AI LIVE:倫敦峰會將以「科技+人類使命」為主題,匯聚逾 2,000 位國際領袖,共同探討人工智慧新興時代的發展。隸屬於 BizClik 旗下的《AI Magazine》已公佈其於「AI LIVE:倫敦峰會」上舉辦的「人工智慧與工業自動化」聯合爐邊談話的與會陣容。該座談會定於 10
相關專題推薦
評論 (0)
0/500

本週,Anthropic 宣布限制其最新模型「Mythos」的推出,理由是該模型具備非凡的能力,能揭露全球廣泛使用的軟體中的安全漏洞。
這家前沿實驗室並未將 Mythos 公開發布,而是計畫與一組精選的大型企業及組織分享,這些單位負責管理關鍵的線上基礎設施,從亞馬遜網路服務(AWS)到摩根大通(JPMorgan Chase)皆在其中。據報導,OpenAI 正考慮針對其下一款網路安全工具採取類似的做法。 官方聲稱此舉旨在讓這些大型企業能領先於可能利用先進大型語言模型(LLMs)入侵安全軟體的惡意行為者。
但上文中的「企業」一詞暗示,這項發布策略可能不僅僅關乎網路安全——或是圍繞模型能力的炒作。
AI 網路安全實驗室 Irregular 的執行長丹·拉哈夫(Dan Lahav)在 3 月 Mythos 正式亮相前向 TechCrunch 表示,雖然 AI 工具發現漏洞很重要,但任何弱點對攻擊者的真正價值取決於許多因素,包括這些弱點如何被組合運用。
「我腦海中始終萦繞的問題,」拉哈夫表示,「在於他們是否發現了某種具有高度實用價值的可利用漏洞——無論是單獨存在,還是作為一連串攻擊鏈的一部分。」
Anthropic 表示,Mythos 能比其前一代模型 Opus 更有效地利用漏洞。但 Mythos 是否真正代表了終極的網路安全模型,目前仍不明朗。 人工智慧網路安全新創公司 Aisle 聲稱,他們利用較小且開放權重的模型,複製了 Anthropic 所稱 Mythos 所達成的大部分成果。Aisle 團隊主張,這些結果表明網路安全領域並不存在單一的深度學習模型;相反地,其有效性取決於具體任務。
鑒於 Opus 早已被視為顛覆網路安全遊戲規則的突破性模型,前沿實驗室可能還有另一個理由將模型發布限制在大型組織:這不僅能為大型企業合約創造飛輪效應,同時也讓競爭對手更難透過「蒸餾」技術——即利用前沿模型以低成本訓練新大型語言模型(LLMs)——來複製其模型。
「這其實是種行銷說辭,用來掩蓋頂級模型現已受企業協議限制,小型實驗室無法再進行蒸餾的事實,」軟體工程師兼新創公司 exe.dev 執行長大衛·克勞肖(David Crawshaw)在社群媒體貼文中指出。 「等到你我能夠使用 Mythos 時,將會出現一個僅限企業使用的全新頂級版本。這種循環機制透過將蒸餾公司降為二線地位,有助於維持企業資金的流動(這佔了絕大部分資金),」克勞肖表示。
這項分析與我們在 AI 生態系統中所見的現象相符:一方面是前沿實驗室競相打造最大、功能最強大的模型;另一方面則是像 Aisle 這樣的公司,它們依賴多種模型,並將開源大型語言模型(通常來自中國,且據稱多是透過蒸餾技術開發而成)視為獲取經濟優勢的途徑。
今年,前沿實驗室對模型蒸餾採取了更強硬的立場。Anthropic 已公開揭露其所謂中國企業試圖複製其模型的行為;據《彭博社》報導,三家領先實驗室——Anthropic、Google 和 OpenAI——已聯手識別並封鎖模型蒸餾者。
蒸餾技術威脅到前沿實驗室的商業模式,因為它消除了透過投入巨額資本進行規模化所獲得的優勢。阻斷蒸餾技術固然是一項值得投入的努力,但隨著此類技術成為獲利部署的關鍵,選擇性發布的策略也讓實驗室得以區隔其企業級解決方案。
無論是 Mythos 還是任何新模型,是否真的危及網路安全仍有待觀察,而謹慎推出這項技術是負責任的前進方式。
截至發稿時,Anthropic 尚未回應我們關於此決定是否也與「蒸餾」疑慮有關的提問,但該公司或許已找到一種巧妙的方式來保護網際網路——以及自身的獲利能力。
奧利押注隱私保護,力爭在 AI 助理競賽中勝出
要真正發揮實用價值,人工智慧助理必須深入了解其使用者。Ollie 是一款專為日常生活設計的個人助理,其運作前提是:這無需您交出個人資料,亦不會損害您的隱私。雖然某些企業級 AI 工具提供資料隱私保障,但 Ollie 作為首批獲得 SOC 2 合規認證的主流、以家庭為導向的 AI 服務之一,顯得格外突出。此框架允許企業透過獨立稽核證明,其已建立正式的管控措施來保護客戶資料,並確保系統運作的安全性。達
「AI LIVE:倫敦」將如何探討人工智慧與工業自動化
本次峰會將匯聚來自全球的高階主管,共同探討全球產業面臨的迫切挑戰,涵蓋範圍從人工智慧驅動的顛覆性變革到經濟波動。AI LIVE:倫敦峰會將以「科技+人類使命」為主題,匯聚逾 2,000 位國際領袖,共同探討人工智慧新興時代的發展。隸屬於 BizClik 旗下的《AI Magazine》已公佈其於「AI LIVE:倫敦峰會」上舉辦的「人工智慧與工業自動化」聯合爐邊談話的與會陣容。該座談會定於 10





首頁






