앤트로픽, 클로드 코드의 제어 범위를 확대하면서도 통제권을 유지

AI에 의존하는 개발자들에게 있어, 현재의 ‘감각적 코딩(vibe coding)’ 접근 방식은 대개 모든 행동을 면밀히 모니터링하거나 모델에 전적인 재량권을 부여하는 두 가지 중 하나를 수반합니다. Anthropic은 Claude의 최신 업데이트를 통해 AI가 특정 범위 내에서 어떤 행동이 안전하게 실행될 수 있는지 자율적으로 결정할 수 있게 함으로써 이러한 딜레마를 해소했다고 주장합니다.
이러한 움직임은 모든 단계에서 사람의 승인을 받지 않고도 작동하도록 AI 도구가 개발되고 있는 업계 전반의 추세를 반영합니다. 핵심 과제는 속도와 감독 간의 균형을 맞추는 것입니다. 과도한 안전 장치는 진행 속도를 늦추는 반면, 안전 장치가 너무 부족하면 예측 불가능하고 위험한 행동으로 이어질 수 있습니다. 현재 연구용 프리뷰 단계(즉, 테스트는 가능하지만 아직 최종 제품이 아닌 상태)에 있는 Anthropic의 새로운 ‘자동 모드’는 이러한 균형을 모색하기 위한 최신 시도입니다.
오토 모드는 AI 안전 장치를 활용해 실행 전 각 행동을 검토하며, 요청되지 않은 위험한 행동과 프롬프트 주입(prompt injection)의 징후를 탐지합니다. 프롬프트 주입이란 처리 중인 콘텐츠에 악의적인 지시를 삽입하여 AI가 의도하지 않은 행동을 수행하도록 속이는 공격 기법입니다. 안전한 것으로 판단된 행동은 자동으로 수행되는 반면, 위험한 행동은 차단됩니다.
이는 본질적으로 모든 의사 결정을 AI에 위임하는 클로드 코드(Claude Code)의 기존 ‘dangerously-skip-permissions’ 명령을 확장한 것이지만, 여기에 추가적인 안전 장치가 더해진 형태입니다.
이 기능은 개발자를 대신해 작업을 수행할 수 있는 GitHub 및 OpenAI와 같은 기업들의 자율 코딩 도구가 최근 급증한 흐름을 바탕으로 개발되었습니다. 그러나 사용자에게 언제 권한을 요청할지 결정하는 권한을 AI 자체로 넘김으로써 한 단계 더 나아갔습니다.
Anthropic은 안전 계층이 안전한 행동과 위험한 행동을 구분하는 데 사용하는 구체적인 기준을 공개하지 않았는데, 개발자들은 이 기능을 널리 도입하기 전에 이러한 세부 사항을 더 명확히 이해하고 싶어 할 것입니다. (TechCrunch는 이 문제에 대한 추가 정보를 얻기 위해 해당 회사에 문의했습니다.)
‘오토 모드’는 코드베이스에 반영되기 전에 버그를 포착하는 자동 코드 검토 도구인 ‘클로드 코드 리뷰(Claude Code Review)’와, 사용자가 AI 에이전트에게 작업을 할당해 대신 업무를 처리하게 할 수 있는 ‘디스패치 포 코워크(Dispatch for Cowork)’에 이어 앤트로픽이 출시한 기능입니다.
자동 모드는 앞으로 며칠 내로 엔터프라이즈 및 API 사용자에게 제공될 예정이다. 회사는 현재 이 기능이 Claude Sonnet 4.6 및 Opus 4.6에서만 작동한다고 밝혔으며, 문제가 발생할 경우 잠재적인 피해를 최소화하기 위해 프로덕션 시스템과 분리된 샌드박스 환경인 “격리된 환경”에서 이 새로운 기능을 사용할 것을 권장한다.
관련 기사
Anthropic, AI 법률 기술 시장에 진출하며 경쟁 심화
Anthropic은 화요일 법률 실무에 자동화된 지원을 제공하기 위해 설계된 일련의 새로운 챗봇 기능을 공개했습니다. 이러한 기능들은 올해 초 도입된 법률 전용 플랫폼인 Claude for Legal을 확장하여, 다양한 법률 분야에 맞춘 전문 법률 플러그인과 MCP 연결자를 추가합니다.이러한 도구들은 법률 AI 분야의 경쟁이 심화되는 시점에 등장했습니다. 3월, 법률 워크플로우를 간소화하기 위해 에이전트 AI를 활용하는 AI 법률 스타트업 하
OpenAI는 Anthropic과 비즈니스 사용자들 사이에서 격차를 좁혔습니다, 새로운 데이터가 보여줍니다
OpenAI와 Anthropic이 예상 초기공개(IPO)와 상세 재무보고서 공개에서 여전히 멀어 있는 상황에서, 우리는 그들의 비즈니스 성과를 측정하기 위해 대체 지표에 의존해야 합니다. 기업용 신용카드 및 비용 관리 플랫폼인 램프(Ramp)는 최근 OpenAI가 미국 기업들 사이에서 Anthropic과의 격차를 빠르게 좁히고 있음을 보여주는 설득력 있는 데이터를 발표했습니다.OpenAI는 소비자와 기업 모두에게서 지배적인 지위를 차지하고 있
Anthropic, 새로운 동적 워크플로우 도구를 탑재한 Opus 4.8 출시
앤트로픽은 목요일, 자사의 주력 공개 모델인 ‘오푸스(Opus)’의 최신 버전인 4.8을 공개했다. 이전 버전과 가격이 동일한 이번 업데이트는 이제 모든 플랫폼에서 이용할 수 있다.Opus 4.7 출시 불과 41일 만에 Opus 4.8을 공개한 Anthropic은 개발 주기를 대폭 단축했으며, 이는 최근 Sonnet 및 Haiku 출시 시 보였던 3개월 및
관련 특별 주제 추천
의견 (0)
0/500

AI에 의존하는 개발자들에게 있어, 현재의 ‘감각적 코딩(vibe coding)’ 접근 방식은 대개 모든 행동을 면밀히 모니터링하거나 모델에 전적인 재량권을 부여하는 두 가지 중 하나를 수반합니다. Anthropic은 Claude의 최신 업데이트를 통해 AI가 특정 범위 내에서 어떤 행동이 안전하게 실행될 수 있는지 자율적으로 결정할 수 있게 함으로써 이러한 딜레마를 해소했다고 주장합니다.
이러한 움직임은 모든 단계에서 사람의 승인을 받지 않고도 작동하도록 AI 도구가 개발되고 있는 업계 전반의 추세를 반영합니다. 핵심 과제는 속도와 감독 간의 균형을 맞추는 것입니다. 과도한 안전 장치는 진행 속도를 늦추는 반면, 안전 장치가 너무 부족하면 예측 불가능하고 위험한 행동으로 이어질 수 있습니다. 현재 연구용 프리뷰 단계(즉, 테스트는 가능하지만 아직 최종 제품이 아닌 상태)에 있는 Anthropic의 새로운 ‘자동 모드’는 이러한 균형을 모색하기 위한 최신 시도입니다.
오토 모드는 AI 안전 장치를 활용해 실행 전 각 행동을 검토하며, 요청되지 않은 위험한 행동과 프롬프트 주입(prompt injection)의 징후를 탐지합니다. 프롬프트 주입이란 처리 중인 콘텐츠에 악의적인 지시를 삽입하여 AI가 의도하지 않은 행동을 수행하도록 속이는 공격 기법입니다. 안전한 것으로 판단된 행동은 자동으로 수행되는 반면, 위험한 행동은 차단됩니다.
이는 본질적으로 모든 의사 결정을 AI에 위임하는 클로드 코드(Claude Code)의 기존 ‘dangerously-skip-permissions’ 명령을 확장한 것이지만, 여기에 추가적인 안전 장치가 더해진 형태입니다.
이 기능은 개발자를 대신해 작업을 수행할 수 있는 GitHub 및 OpenAI와 같은 기업들의 자율 코딩 도구가 최근 급증한 흐름을 바탕으로 개발되었습니다. 그러나 사용자에게 언제 권한을 요청할지 결정하는 권한을 AI 자체로 넘김으로써 한 단계 더 나아갔습니다.
Anthropic은 안전 계층이 안전한 행동과 위험한 행동을 구분하는 데 사용하는 구체적인 기준을 공개하지 않았는데, 개발자들은 이 기능을 널리 도입하기 전에 이러한 세부 사항을 더 명확히 이해하고 싶어 할 것입니다. (TechCrunch는 이 문제에 대한 추가 정보를 얻기 위해 해당 회사에 문의했습니다.)
‘오토 모드’는 코드베이스에 반영되기 전에 버그를 포착하는 자동 코드 검토 도구인 ‘클로드 코드 리뷰(Claude Code Review)’와, 사용자가 AI 에이전트에게 작업을 할당해 대신 업무를 처리하게 할 수 있는 ‘디스패치 포 코워크(Dispatch for Cowork)’에 이어 앤트로픽이 출시한 기능입니다.
자동 모드는 앞으로 며칠 내로 엔터프라이즈 및 API 사용자에게 제공될 예정이다. 회사는 현재 이 기능이 Claude Sonnet 4.6 및 Opus 4.6에서만 작동한다고 밝혔으며, 문제가 발생할 경우 잠재적인 피해를 최소화하기 위해 프로덕션 시스템과 분리된 샌드박스 환경인 “격리된 환경”에서 이 새로운 기능을 사용할 것을 권장한다.
Anthropic, AI 법률 기술 시장에 진출하며 경쟁 심화
Anthropic은 화요일 법률 실무에 자동화된 지원을 제공하기 위해 설계된 일련의 새로운 챗봇 기능을 공개했습니다. 이러한 기능들은 올해 초 도입된 법률 전용 플랫폼인 Claude for Legal을 확장하여, 다양한 법률 분야에 맞춘 전문 법률 플러그인과 MCP 연결자를 추가합니다.이러한 도구들은 법률 AI 분야의 경쟁이 심화되는 시점에 등장했습니다. 3월, 법률 워크플로우를 간소화하기 위해 에이전트 AI를 활용하는 AI 법률 스타트업 하
OpenAI는 Anthropic과 비즈니스 사용자들 사이에서 격차를 좁혔습니다, 새로운 데이터가 보여줍니다
OpenAI와 Anthropic이 예상 초기공개(IPO)와 상세 재무보고서 공개에서 여전히 멀어 있는 상황에서, 우리는 그들의 비즈니스 성과를 측정하기 위해 대체 지표에 의존해야 합니다. 기업용 신용카드 및 비용 관리 플랫폼인 램프(Ramp)는 최근 OpenAI가 미국 기업들 사이에서 Anthropic과의 격차를 빠르게 좁히고 있음을 보여주는 설득력 있는 데이터를 발표했습니다.OpenAI는 소비자와 기업 모두에게서 지배적인 지위를 차지하고 있
Anthropic, 새로운 동적 워크플로우 도구를 탑재한 Opus 4.8 출시
앤트로픽은 목요일, 자사의 주력 공개 모델인 ‘오푸스(Opus)’의 최신 버전인 4.8을 공개했다. 이전 버전과 가격이 동일한 이번 업데이트는 이제 모든 플랫폼에서 이용할 수 있다.Opus 4.7 출시 불과 41일 만에 Opus 4.8을 공개한 Anthropic은 개발 주기를 대폭 단축했으며, 이는 최근 Sonnet 및 Haiku 출시 시 보였던 3개월 및





집






