Anthropic 證實其 AI 模型曾入侵三家組織的系統
Anthropic 近期發布的一份安全報告顯示,由於測試環境中的配置錯誤,其 Claude 系列模型無意間連上了網際網路,隨後滲透進了三家不同組織的生產系統。此次安全事件涉及Claude Opus4.7、專注於網路安全的Claude Mythos5,以及一個尚未發布的原型模型。 Anthropic 澄清,此事件係因測試環境的設定錯誤所致,並非模型主動繞過安全協議所致。

根據報告,這些模型當時正參與一項內部「奪旗」(Capture the Flag)演習,該演習旨在尋找 Anthropic 內部網路中隱藏的「旗幟」資料。 由於 Anthropic 與其評估合作夥伴之間存在溝通鴻溝,儘管系統顯示模型處於離線狀態,模型仍得以存取網際網路。在發現外部網路入口點後,模型錯誤地假設目標系統屬於訓練環境的一部分,並繼續存取了三家外部機構。
Anthropic 指出,這些模型主要利用了基本的安全漏洞(例如弱密碼),而非複雜的漏洞。該公司解釋,最新一代的模型在察覺自己已進入真實的網際網路環境後便停止了行動,而較舊的模型則繼續執行任務,進而對受影響的機構造成衝擊。
事件曝光後,Anthropic 對其測試程序進行了徹底檢討,並承認若能更完善地驗證網路存取路徑、強化日誌稽核,或更明確地向模型說明其網際網路能力,本可避免此次事件。該公司已於 7 月 27 日前通知其評估合作夥伴及三家受影響機構。 其中兩家機構並未察覺其系統曾遭存取,而第三家機構目前仍在聯繫中。
繼 OpenAI 先前披露一則事件——某 AI 代理在測試期間連上網際網路並進入 Hugging Face 環境——之後,Anthropic 最近發生的這起事件凸顯了業界日益增長的擔憂:隨著 AI 代理獲得更大的自主性,強健的測試環境隔離、權限控制以及安全評估機制已變得至關重要。
相關文章
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work
Google 測試 Remy AI 代理,以 Gemini 為重點轉向使用者控制
根據《商業內幕》的報道,谷歌正在測試 Remy,這是 Gemini 的一款全新 AI 個人代理工具。該工具旨在代表使用者執行任務,從而簡化專業工作流程和日常事務。目前,Remy 正在 Gemini 應用的內部員工專屬版本中進行測試。該報告引用了一份內部檔案以及對兩位熟悉該專案的個人的採訪。內部資料將 Remy 描述為“全天候個人代理”,將 Gemini 定位為能夠代表使用者行事的主動助手。接近該專案的訊息人士證實,谷歌員工正在積極測試 Remy。谷歌發言人拒絕提供進一步評論。該報告未提及公開發布
相關專題推薦
評論 (0)
0/500
Anthropic 近期發布的一份安全報告顯示,由於測試環境中的配置錯誤,其 Claude 系列模型無意間連上了網際網路,隨後滲透進了三家不同組織的生產系統。此次安全事件涉及Claude Opus4.7、專注於網路安全的Claude Mythos5,以及一個尚未發布的原型模型。 Anthropic 澄清,此事件係因測試環境的設定錯誤所致,並非模型主動繞過安全協議所致。

根據報告,這些模型當時正參與一項內部「奪旗」(Capture the Flag)演習,該演習旨在尋找 Anthropic 內部網路中隱藏的「旗幟」資料。 由於 Anthropic 與其評估合作夥伴之間存在溝通鴻溝,儘管系統顯示模型處於離線狀態,模型仍得以存取網際網路。在發現外部網路入口點後,模型錯誤地假設目標系統屬於訓練環境的一部分,並繼續存取了三家外部機構。
Anthropic 指出,這些模型主要利用了基本的安全漏洞(例如弱密碼),而非複雜的漏洞。該公司解釋,最新一代的模型在察覺自己已進入真實的網際網路環境後便停止了行動,而較舊的模型則繼續執行任務,進而對受影響的機構造成衝擊。
事件曝光後,Anthropic 對其測試程序進行了徹底檢討,並承認若能更完善地驗證網路存取路徑、強化日誌稽核,或更明確地向模型說明其網際網路能力,本可避免此次事件。該公司已於 7 月 27 日前通知其評估合作夥伴及三家受影響機構。 其中兩家機構並未察覺其系統曾遭存取,而第三家機構目前仍在聯繫中。
繼 OpenAI 先前披露一則事件——某 AI 代理在測試期間連上網際網路並進入 Hugging Face 環境——之後,Anthropic 最近發生的這起事件凸顯了業界日益增長的擔憂:隨著 AI 代理獲得更大的自主性,強健的測試環境隔離、權限控制以及安全評估機制已變得至關重要。
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work





首頁






