Anthropic 擴大 Claude Code 的控制權,同時保留一定程度的限制

對於依賴人工智慧的開發者而言,當前所謂的「直覺式編碼」做法,往往要麼是密切監控每項操作,要麼是讓模型完全自由運作。Anthropic 聲稱,其針對 Claude 的最新更新消除了這個兩難困境,讓人工智慧能夠在特定界限內,自主決定哪些操作是安全的。
此舉反映了更廣泛的產業趨勢:人工智慧工具正被設計為無需在每個步驟都經過人類批准即可運作。關鍵挑戰在於在速度與監督之間取得平衡:過多的安全措施會拖慢進度,而過少則可能導致不可預測且高風險的行為。 Anthropic 的新「自動模式」(目前處於研究預覽階段——意即可供測試但尚未成為最終產品)正是該公司為尋求此平衡所做的最新嘗試。
自動模式運用 AI 安全防護機制,在執行前審查每項動作,以偵測未經請求的風險行為及「提示注入」的跡象——這是一種攻擊技術,將惡意指令嵌入正在處理的內容中,誘使 AI 執行非預期的動作。被判定為安全的動作將自動執行,而具風險的動作則會被阻擋。
這本質上是 Claude Code 現有「dangerously-skip-permissions」指令的延伸,該指令將所有決策權交由 AI 處理,但在其上額外增添了一層安全防護。
這項功能是基於 GitHub 和 OpenAI 等公司近期興起的自主編碼工具而開發的,這些工具能夠代表開發者執行任務。然而,它更進一步將「何時向使用者請求權限」的決策權交由 AI 本身來決定。
Anthropic 尚未透露其安全層用以區分安全與高風險操作的具體標準——開發者在廣泛採用此功能前,很可能希望更清楚地了解這些細節。(TechCrunch 已就此議題聯繫該公司以獲取進一步資訊。)
「自動模式」的推出,緊接在 Anthropic 推出「Claude Code Review」之後;該工具是一款自動程式碼審查系統,能在錯誤進入程式碼庫前就加以偵測,此外還推出了「Dispatch for Cowork」,讓使用者能將任務指派給 AI 代理程式,由其代為處理工作。
「自動模式」將於未來數日內向企業版及 API 用戶推出。該公司表示,此功能目前僅與 Claude Sonnet 4.6 及 Opus 4.6 相容,並建議在「隔離環境」中使用這項新功能——即與生產系統分離的沙盒環境,以在發生問題時將潛在損害降至最低。
相關文章
Google 測試 Remy AI 代理,以 Gemini 為重點轉向使用者控制
根據《商業內幕》的報道,谷歌正在測試 Remy,這是 Gemini 的一款全新 AI 個人代理工具。該工具旨在代表使用者執行任務,從而簡化專業工作流程和日常事務。目前,Remy 正在 Gemini 應用的內部員工專屬版本中進行測試。該報告引用了一份內部檔案以及對兩位熟悉該專案的個人的採訪。內部資料將 Remy 描述為“全天候個人代理”,將 Gemini 定位為能夠代表使用者行事的主動助手。接近該專案的訊息人士證實,谷歌員工正在積極測試 Remy。谷歌發言人拒絕提供進一步評論。該報告未提及公開發布
Anthropic 進入 AI 法律科技市場,競爭日益激烈
Anthropic 於週二釋出了一系列新的聊天機器人功能,旨在為法律實務提供自動化支援。這些增強功能在年初推出的特定律所平臺 Claude for Legal 基礎上進行了擴充套件,增加了針對不同法律領域的專用法律外掛和 MCP 聯結器。隨著法律人工智慧領域競爭的加劇,這些工具應運而生。今年三月,利用代理式人工智慧簡化法律工作流的 AI 法律初創公司 Harvey 以 110 億美元的估值獲得了 2 億美元融資。上個月,競爭對手 Legora 完成了 6 億美元的 D 輪融資,並啟動了一場由裘德·
OpenAI 在企業使用者中與 Anthropic 的差距縮小,新資料顯示
在 OpenAI 和 Anthropic 距離預期的首次公開募股(IPO)以及詳細財務報告的釋出仍有距離的情況下,我們必須轉向其他指標來評估它們的業務表現。企業信用卡和費用管理平臺 Ramp 最近釋出了令人信服的資料,顯示 OpenAI 正在迅速縮小與美國企業使用者中 Anthropic 的差距。OpenAI 此前在消費者和企業客戶中都佔據主導地位,但在今年 5 月,它失去了在 Ramp 付費企業使用者中的領先地位。當時,Anthropic 佔據了 41% 的市場份額,而 OpenAI 為 39%
相關專題推薦
評論 (0)
0/500

對於依賴人工智慧的開發者而言,當前所謂的「直覺式編碼」做法,往往要麼是密切監控每項操作,要麼是讓模型完全自由運作。Anthropic 聲稱,其針對 Claude 的最新更新消除了這個兩難困境,讓人工智慧能夠在特定界限內,自主決定哪些操作是安全的。
此舉反映了更廣泛的產業趨勢:人工智慧工具正被設計為無需在每個步驟都經過人類批准即可運作。關鍵挑戰在於在速度與監督之間取得平衡:過多的安全措施會拖慢進度,而過少則可能導致不可預測且高風險的行為。 Anthropic 的新「自動模式」(目前處於研究預覽階段——意即可供測試但尚未成為最終產品)正是該公司為尋求此平衡所做的最新嘗試。
自動模式運用 AI 安全防護機制,在執行前審查每項動作,以偵測未經請求的風險行為及「提示注入」的跡象——這是一種攻擊技術,將惡意指令嵌入正在處理的內容中,誘使 AI 執行非預期的動作。被判定為安全的動作將自動執行,而具風險的動作則會被阻擋。
這本質上是 Claude Code 現有「dangerously-skip-permissions」指令的延伸,該指令將所有決策權交由 AI 處理,但在其上額外增添了一層安全防護。
這項功能是基於 GitHub 和 OpenAI 等公司近期興起的自主編碼工具而開發的,這些工具能夠代表開發者執行任務。然而,它更進一步將「何時向使用者請求權限」的決策權交由 AI 本身來決定。
Anthropic 尚未透露其安全層用以區分安全與高風險操作的具體標準——開發者在廣泛採用此功能前,很可能希望更清楚地了解這些細節。(TechCrunch 已就此議題聯繫該公司以獲取進一步資訊。)
「自動模式」的推出,緊接在 Anthropic 推出「Claude Code Review」之後;該工具是一款自動程式碼審查系統,能在錯誤進入程式碼庫前就加以偵測,此外還推出了「Dispatch for Cowork」,讓使用者能將任務指派給 AI 代理程式,由其代為處理工作。
「自動模式」將於未來數日內向企業版及 API 用戶推出。該公司表示,此功能目前僅與 Claude Sonnet 4.6 及 Opus 4.6 相容,並建議在「隔離環境」中使用這項新功能——即與生產系統分離的沙盒環境,以在發生問題時將潛在損害降至最低。
Anthropic 進入 AI 法律科技市場,競爭日益激烈
Anthropic 於週二釋出了一系列新的聊天機器人功能,旨在為法律實務提供自動化支援。這些增強功能在年初推出的特定律所平臺 Claude for Legal 基礎上進行了擴充套件,增加了針對不同法律領域的專用法律外掛和 MCP 聯結器。隨著法律人工智慧領域競爭的加劇,這些工具應運而生。今年三月,利用代理式人工智慧簡化法律工作流的 AI 法律初創公司 Harvey 以 110 億美元的估值獲得了 2 億美元融資。上個月,競爭對手 Legora 完成了 6 億美元的 D 輪融資,並啟動了一場由裘德·
OpenAI 在企業使用者中與 Anthropic 的差距縮小,新資料顯示
在 OpenAI 和 Anthropic 距離預期的首次公開募股(IPO)以及詳細財務報告的釋出仍有距離的情況下,我們必須轉向其他指標來評估它們的業務表現。企業信用卡和費用管理平臺 Ramp 最近釋出了令人信服的資料,顯示 OpenAI 正在迅速縮小與美國企業使用者中 Anthropic 的差距。OpenAI 此前在消費者和企業客戶中都佔據主導地位,但在今年 5 月,它失去了在 Ramp 付費企業使用者中的領先地位。當時,Anthropic 佔據了 41% 的市場份額,而 OpenAI 為 39%





首頁






