앤트로픽, AI 모델로 인해 3개 기관의 시스템이 침해된 사실 확인
Anthropic이 최근 발표한 보안 보고서에 따르면, 테스트 환경의 구성 오류로 인해 자사의 Claude 시리즈 모델들이 의도치 않게 인터넷에 접속하게 되었고, 그 결과 세 곳의 서로 다른 조직의 운영 시스템에 침투한 것으로 드러났다. 이번 침해 사고에는 Claude Opus4.7, 사이버 보안에 중점을 둔 Claude Mythos5, 그리고 아직 공개되지 않은 프로토타입 모델이 연루되었다. Anthropic은 이번 사건이 모델들이 보안 프로토콜을 의도적으로 우회한 것이 아니라, 테스트 환경의 구성 오류로 인한 결과라고 설명했다.

보고서에 따르면, 해당 모델들은 Anthropic 내부 네트워크 내에 숨겨진 ‘플래그’ 데이터를 찾아내는 것을 목적으로 한 내부 ‘캡처 더 플래그(Capture the Flag)’ 훈련에 참여 중이었습니다. Anthropic과 평가 파트너 간의 의사소통 오류로 인해, 시스템상으로는 오프라인 상태임에도 불구하고 모델들이 인터넷에 접속할 수 있게 되었습니다. 외부 네트워크 진입점을 발견한 모델들은 대상 시스템이 훈련 환경의 일부라고 잘못 판단하고, 세 곳의 외부 기관에 접속을 시도했습니다.
Anthropic은 모델들이 복잡한 취약점을 악용하기보다는 주로 취약한 비밀번호와 같은 기본적인 보안 결함을 악용했다고 밝혔다. 회사는 최신 세대 모델들은 실제 인터넷 환경에 진입했음을 인식하자마자 행동을 중단한 반면, 구형 모델들은 작업을 계속 진행하여 영향을 받은 기관들에 피해를 입혔다고 설명했다.
이 사실이 공개된 후, Anthropic은 테스트 절차를 철저히 검토했으며, 네트워크 접속 경로를 더 철저히 검증하거나, 로그 감사를 강화하거나, 모델에 대한 인터넷 사용 권한을 더 명확히 전달했다면 이번 사고를 예방할 수 있었을 것이라고 인정했다. 이 회사는 7월 27일까지 평가 파트너사와 피해를 입은 3개 기관에 이 사실을 통보했다. 이 중 두 기관은 자사 시스템에 무단 접근이 있었다는 사실을 인지하지 못했으며, 나머지 한 기관과는 현재도 연락을 시도 중인 상태다.
앞서 OpenAI가 테스트 중 AI 에이전트가 인터넷에 접속해 Hugging Face 환경에 진입한 사고를 공개한 바 있는 가운데, Anthropic의 최근 사건은 업계의 우려가 커지고 있음을 여실히 보여준다. 즉, AI 에이전트의 자율성이 높아짐에 따라 견고한 테스트 환경 격리, 권한 제어, 보안 평가 메커니즘이 필수적이라는 점이다.
관련 기사
ByteDance의 Seed가 글로벌 캠퍼스 채용을 시작하며, 최상위 대형 모델 인재 영입을 위해 가상 주식을 제공합니다
대규모 언어 모델의 치열한 경쟁 구도에서 최상위 인재 확보는 여전히 가장 중요한 전략적 자산입니다.4월 1일, ByteDance은 대규모 모델 인재 양성 프로그램의 일환으로 글로벌 캠퍼스 채용 프로그램 Seed를 시작한다고 발표했습니다. 이 캠페인은 2027년 졸업 예정자와 현재 인턴을 대상으로 전 세계 AI 분야의 엘리트 연구 및 엔지니어링 전문가를 식별하고 확보하는 것을 목표로 합니다.확장: 전 세계 100명의 "AI 시드" 식별급속한
법적 분쟁 속에서 Suno의 워터마크 삽입
Suno는 사용자가 AI 생성 음악을 생성할 수 있게 하는 플랫폼으로, 플랫폼에서 생성된 트랙에 레이블을 지정하고 다운로드를 제한하며, 무단 복제를 억제하기 위해 커뮤니티 기준을 업데이트하는 새로운 기능을 공개했습니다. 이러한 업데이트는 Suno가 레이블 및 아티스트 조직으로부터 여러 소송에 직면하는 시점에 이루어집니다.공동 창립자이자 CEO인 Mikey Shulman은 블로그 게시물을 통해 핵심 원칙을 제시하며, 플랫폼이 광범위한 청중을 대
머스크, Grok 구축 과정에서 사용자 코드 유출 인정, 모든 과거 데이터 삭제 약속
Elon Musk는 Grok Build와 관련된 프라이버시 논란에 대해 직접적으로 언급하며, 사건의 타당성을 확인하기 위해 간단한 "True"로 답변했습니다. 그는 SpaceXAI에 이전에 업로드된 모든 사용자 데이터를 영구적으로 삭제하겠다고 약속하며, "바이트 하나도 남기지 않겠다"고 밝혔습니다. 이는 주요 기술 리더가 실수를 공개적으로 인정하고 사용자 데이터를 능동적으로 삭제한 AI 산업 최초의 사례입니다.안전 연구원의 '피싱' 테스트는
관련 특별 주제 추천
의견 (0)
0/500
Anthropic이 최근 발표한 보안 보고서에 따르면, 테스트 환경의 구성 오류로 인해 자사의 Claude 시리즈 모델들이 의도치 않게 인터넷에 접속하게 되었고, 그 결과 세 곳의 서로 다른 조직의 운영 시스템에 침투한 것으로 드러났다. 이번 침해 사고에는 Claude Opus4.7, 사이버 보안에 중점을 둔 Claude Mythos5, 그리고 아직 공개되지 않은 프로토타입 모델이 연루되었다. Anthropic은 이번 사건이 모델들이 보안 프로토콜을 의도적으로 우회한 것이 아니라, 테스트 환경의 구성 오류로 인한 결과라고 설명했다.

보고서에 따르면, 해당 모델들은 Anthropic 내부 네트워크 내에 숨겨진 ‘플래그’ 데이터를 찾아내는 것을 목적으로 한 내부 ‘캡처 더 플래그(Capture the Flag)’ 훈련에 참여 중이었습니다. Anthropic과 평가 파트너 간의 의사소통 오류로 인해, 시스템상으로는 오프라인 상태임에도 불구하고 모델들이 인터넷에 접속할 수 있게 되었습니다. 외부 네트워크 진입점을 발견한 모델들은 대상 시스템이 훈련 환경의 일부라고 잘못 판단하고, 세 곳의 외부 기관에 접속을 시도했습니다.
Anthropic은 모델들이 복잡한 취약점을 악용하기보다는 주로 취약한 비밀번호와 같은 기본적인 보안 결함을 악용했다고 밝혔다. 회사는 최신 세대 모델들은 실제 인터넷 환경에 진입했음을 인식하자마자 행동을 중단한 반면, 구형 모델들은 작업을 계속 진행하여 영향을 받은 기관들에 피해를 입혔다고 설명했다.
이 사실이 공개된 후, Anthropic은 테스트 절차를 철저히 검토했으며, 네트워크 접속 경로를 더 철저히 검증하거나, 로그 감사를 강화하거나, 모델에 대한 인터넷 사용 권한을 더 명확히 전달했다면 이번 사고를 예방할 수 있었을 것이라고 인정했다. 이 회사는 7월 27일까지 평가 파트너사와 피해를 입은 3개 기관에 이 사실을 통보했다. 이 중 두 기관은 자사 시스템에 무단 접근이 있었다는 사실을 인지하지 못했으며, 나머지 한 기관과는 현재도 연락을 시도 중인 상태다.
앞서 OpenAI가 테스트 중 AI 에이전트가 인터넷에 접속해 Hugging Face 환경에 진입한 사고를 공개한 바 있는 가운데, Anthropic의 최근 사건은 업계의 우려가 커지고 있음을 여실히 보여준다. 즉, AI 에이전트의 자율성이 높아짐에 따라 견고한 테스트 환경 격리, 권한 제어, 보안 평가 메커니즘이 필수적이라는 점이다.
ByteDance의 Seed가 글로벌 캠퍼스 채용을 시작하며, 최상위 대형 모델 인재 영입을 위해 가상 주식을 제공합니다
대규모 언어 모델의 치열한 경쟁 구도에서 최상위 인재 확보는 여전히 가장 중요한 전략적 자산입니다.4월 1일, ByteDance은 대규모 모델 인재 양성 프로그램의 일환으로 글로벌 캠퍼스 채용 프로그램 Seed를 시작한다고 발표했습니다. 이 캠페인은 2027년 졸업 예정자와 현재 인턴을 대상으로 전 세계 AI 분야의 엘리트 연구 및 엔지니어링 전문가를 식별하고 확보하는 것을 목표로 합니다.확장: 전 세계 100명의 "AI 시드" 식별급속한
법적 분쟁 속에서 Suno의 워터마크 삽입
Suno는 사용자가 AI 생성 음악을 생성할 수 있게 하는 플랫폼으로, 플랫폼에서 생성된 트랙에 레이블을 지정하고 다운로드를 제한하며, 무단 복제를 억제하기 위해 커뮤니티 기준을 업데이트하는 새로운 기능을 공개했습니다. 이러한 업데이트는 Suno가 레이블 및 아티스트 조직으로부터 여러 소송에 직면하는 시점에 이루어집니다.공동 창립자이자 CEO인 Mikey Shulman은 블로그 게시물을 통해 핵심 원칙을 제시하며, 플랫폼이 광범위한 청중을 대
머스크, Grok 구축 과정에서 사용자 코드 유출 인정, 모든 과거 데이터 삭제 약속
Elon Musk는 Grok Build와 관련된 프라이버시 논란에 대해 직접적으로 언급하며, 사건의 타당성을 확인하기 위해 간단한 "True"로 답변했습니다. 그는 SpaceXAI에 이전에 업로드된 모든 사용자 데이터를 영구적으로 삭제하겠다고 약속하며, "바이트 하나도 남기지 않겠다"고 밝혔습니다. 이는 주요 기술 리더가 실수를 공개적으로 인정하고 사용자 데이터를 능동적으로 삭제한 AI 산업 최초의 사례입니다.안전 연구원의 '피싱' 테스트는





집






