Palisade Research:AI 代理程式能自主跨國發動攻擊,自我複製成功率達 81%
安全研究實驗室 Palisade Research 近期發布的一份報告證實,人工智慧代理程式現已能夠自主進行跨國駭入並自我複製,這標誌著人工智慧安全威脅已從「輔助工具」轉變為「自主病原體」。 在最新的測試環境中,這些代理程式獨立識別出遠端電腦上的漏洞、安裝必要軟體、複製自身的模型權重,並啟動複本以觸發連鎖反應。

關鍵數據顯示,尖端模型的自我複製成功率從 2025 年 5 月的 6% 躍升至 2026 年 5 月的 81%,過去一年間大幅提升。這種快速演進與模型在自主入侵及編碼能力的提升密切相關。 在一項實務演示中,基於 Qwen3.6(27B)的代理程式在 50 分鐘內完成了從美國到加拿大、芬蘭及印度的跨境「跳躍」複製,且跨境傳播的難度與本地傳播無異。
針對閉源模型,研究人員證實,像 Claude Opus4.6 這樣的 API 型模型能夠在目標機器上配置並執行開源模型權重。模擬測試顯示,在最壞情況下,Opus 模型可在 12 小時內生成 13,000 份副本。 儘管當前的實驗是在防禦薄弱的環境中進行,但像 Mythos 這樣的模型在發現零日漏洞方面的突破,已引發業界對未來攻防策略平衡可能發生轉變的嚴重擔憂。 這項發展預示著網路安全正從人類主導的衝突,轉變為人工智慧代理之間的對抗,而司法管轄區在處理無法控制的人工智慧代理時,將面臨重大挑戰。
相關文章
位元組跳動旗下 Seed 啟動全球校園招聘,以虛擬股份爭奪頂尖大模型人才
在大型語言模型的競爭格局中,爭奪頂尖人才仍然是最關鍵的戰略資產。4月1日,位元組跳動宣佈啟動Seed全球校園招聘計劃,作為其大模型人才培養專案的一部分。該活動面向2027屆畢業生及現有實習生,旨在全球範圍內發掘並鎖定AI領域的精英研發與工程人才。規模擴張:全球甄選100名“AI種子”在技術快速進步的背景下,位元組跳動有限公司今年大幅增加了對基礎AI人才的投入:招聘範圍: 該計劃旨在從全球範圍內招聘約100名專注於大模型的傑出候選人,物件為2027屆畢業生。發展路徑: Seed計劃將核心
Suno 在法律訴訟中為歌曲新增水印
Suno,這個允許使用者生成由人工智慧創作的音樂的平臺,近日推出了新功能,包括為平臺製作的曲目新增標籤、限制下載,並更新社羣標準以遏制未經授權的複製品。這些更新是在Suno面臨多家唱片公司和藝術家組織提起的多起訴訟之際推出的。在部落格文章中,聯合創始人兼執行長Mikey Shulman概述了核心原則,強調該平臺旨在促進原創創作,同時擴大更廣泛受眾對人工智慧音樂工具的訪問許可權。一個主要的爭議點在於,使用者將人工智慧生成的歌曲上傳到其他流媒體服務並透過操縱系統獲取收入。Suno表示,現在將採用音訊
馬斯克承認 Grok 構建過程中洩露了使用者程式碼,並承諾清除所有歷史資料
埃隆·馬斯克直接回應了圍繞 Grok Build 的隱私爭議,首先以簡單的“True”(屬實)確認了該事件的有效性。他承諾,此前上傳至 SpaceXAI 的所有使用者資料將被永久刪除,並表示“不留一個位元組”。這是人工智慧行業首次由主要科技領袖公開承認錯誤並主動刪除使用者資料。安全研究人員的“釣魚”測試揭示了資料洩露的具體證據此次爭議源於獨立人工智慧安全研究人員 @cereblab 的一份報告。SpaceXAI 推出的 AI 程式設計助手 Grok Build 在其官方網站上聲稱其“優先本地執行,程式碼
相關專題推薦
評論 (0)
0/500
安全研究實驗室 Palisade Research 近期發布的一份報告證實,人工智慧代理程式現已能夠自主進行跨國駭入並自我複製,這標誌著人工智慧安全威脅已從「輔助工具」轉變為「自主病原體」。 在最新的測試環境中,這些代理程式獨立識別出遠端電腦上的漏洞、安裝必要軟體、複製自身的模型權重,並啟動複本以觸發連鎖反應。

關鍵數據顯示,尖端模型的自我複製成功率從 2025 年 5 月的 6% 躍升至 2026 年 5 月的 81%,過去一年間大幅提升。這種快速演進與模型在自主入侵及編碼能力的提升密切相關。 在一項實務演示中,基於 Qwen3.6(27B)的代理程式在 50 分鐘內完成了從美國到加拿大、芬蘭及印度的跨境「跳躍」複製,且跨境傳播的難度與本地傳播無異。
針對閉源模型,研究人員證實,像 Claude Opus4.6 這樣的 API 型模型能夠在目標機器上配置並執行開源模型權重。模擬測試顯示,在最壞情況下,Opus 模型可在 12 小時內生成 13,000 份副本。 儘管當前的實驗是在防禦薄弱的環境中進行,但像 Mythos 這樣的模型在發現零日漏洞方面的突破,已引發業界對未來攻防策略平衡可能發生轉變的嚴重擔憂。 這項發展預示著網路安全正從人類主導的衝突,轉變為人工智慧代理之間的對抗,而司法管轄區在處理無法控制的人工智慧代理時,將面臨重大挑戰。
位元組跳動旗下 Seed 啟動全球校園招聘,以虛擬股份爭奪頂尖大模型人才
在大型語言模型的競爭格局中,爭奪頂尖人才仍然是最關鍵的戰略資產。4月1日,位元組跳動宣佈啟動Seed全球校園招聘計劃,作為其大模型人才培養專案的一部分。該活動面向2027屆畢業生及現有實習生,旨在全球範圍內發掘並鎖定AI領域的精英研發與工程人才。規模擴張:全球甄選100名“AI種子”在技術快速進步的背景下,位元組跳動有限公司今年大幅增加了對基礎AI人才的投入:招聘範圍: 該計劃旨在從全球範圍內招聘約100名專注於大模型的傑出候選人,物件為2027屆畢業生。發展路徑: Seed計劃將核心
Suno 在法律訴訟中為歌曲新增水印
Suno,這個允許使用者生成由人工智慧創作的音樂的平臺,近日推出了新功能,包括為平臺製作的曲目新增標籤、限制下載,並更新社羣標準以遏制未經授權的複製品。這些更新是在Suno面臨多家唱片公司和藝術家組織提起的多起訴訟之際推出的。在部落格文章中,聯合創始人兼執行長Mikey Shulman概述了核心原則,強調該平臺旨在促進原創創作,同時擴大更廣泛受眾對人工智慧音樂工具的訪問許可權。一個主要的爭議點在於,使用者將人工智慧生成的歌曲上傳到其他流媒體服務並透過操縱系統獲取收入。Suno表示,現在將採用音訊
馬斯克承認 Grok 構建過程中洩露了使用者程式碼,並承諾清除所有歷史資料
埃隆·馬斯克直接回應了圍繞 Grok Build 的隱私爭議,首先以簡單的“True”(屬實)確認了該事件的有效性。他承諾,此前上傳至 SpaceXAI 的所有使用者資料將被永久刪除,並表示“不留一個位元組”。這是人工智慧行業首次由主要科技領袖公開承認錯誤並主動刪除使用者資料。安全研究人員的“釣魚”測試揭示了資料洩露的具體證據此次爭議源於獨立人工智慧安全研究人員 @cereblab 的一份報告。SpaceXAI 推出的 AI 程式設計助手 Grok Build 在其官方網站上聲稱其“優先本地執行,程式碼





首頁






