집OpenAI의 인간 실수가 Hugging Face에서 AI 기반 해킹을 유발하다
화요일, 오픈AI는 테스트 중 데이터셋 플랫폼 허깅페이스의 시스템을 침해한 AI 모델 중 하나가 존재한다고 밝혔으며, 이는 완전 자동화된 AI 기반 공격의 중요한 이정표를 mark했다.
그러나 사이버 보안 전문가들은 AI의 역할에도 불구하고 근본 원인은 인간의 실수였다고 주장한다. 오픈AI는 ‘고도로 격리된 환경’을 적절히 구성하지 못해, 오프라인이어야 하는 테스트 샌드박스가 인터넷에 연결될 수 있게 했다.
사이버 보안 회사 트레일 오브 비츠의 창립자 댄 가이도는 이 과실을 “안전장치가 꺼진 상태에서의 격리 실패”라고 묘사했다.
사건을 상세히 설명하는 블로그 게시물에서 오픈AI는 “고도로 격리된 환경”에서 실행된 테스트가 패키지 레지스트리를 위한 프록시 및 캐시 역할을 하는 내부 호스팅 제3자 소프트웨어를 통해 패키지를 설치하는 것 외에는 네트워크 접근을 제한하도록 설계되었다고 밝혔다.
오픈AI에 따르면, 해당 모델은 샌드박스 환경 탈출이라는 이후 허깅페이스 해킹의 핵심 첫 단계인, 이전에 공개되지 않은 패키지 설치 시스템의 취약점을 악용했다.
회사는 “내부 호스팅 제3자 소프트웨어에서 식별된 제로데이 취약점을 책임 있게 공개했으며, 패치 작업을 위해 해당 업체와 협력 중”이라고 응답했다.
그러나 대부분의 사이버 보안 전문가들은 소프트웨어 취약성은 불가피하지만, 실제 문제는 제3자 소프트웨어를 유지하는 것 자체에 있다고 주장한다. 샌드박스의 핵심 가치는 완전한 격리에 있으며, 설치 시스템을 포함하는 것은 위험을 초래한다.
사이버 보안 연구원 마틴 부네는 테크크런치와의 인터뷰에서 “이것은 인간의 실패처럼 들린다”고 말했다.
“이런 일은 결코 발생해서는 안 되었다”고 부네는 덧붙였다. “만약 샌드박스가 실제로 샌드박스라면, 인터넷과의 물리적 연결이 전혀 없는 것을 기대한다. 이것은 방화벽이나 유사한 장치가 외부에서 내부로 향하는 것은 물론, 내부에서 외부 인터넷으로 향하는 방화벽 설정이 어렵다는 것을 의미한다.”
사이버 보안 베테랑 제이크 윌리엄스도 동의했다. “허깅페이스가 문서화한 유형의 행동을 수행한 모델은 샌드박스 내에서 완전히 격리되지 않았다”고 윌리엄스는 말하며, 이를 오픈AI의 “엄청난 통제 실패”로 규정했다.
“어떤 사람에게는 ‘모델이 샌드박스에서 탈출했다’는 것이, 다른 사람에게는 ‘샌드박스를 올바르게 구축하지 못했기 때문에 당연히 탈출했다’는 것을 의미한다”고 윌리엄스는 이어 말했다.
문의하기
이 사건이나 기타 AI 기반 사이버 공격에 대한 통찰력이 있으신가요? 여러분의 의견을 듣고 싶습니다. 개인 기기 및 네트워크를 통해 시그널(Signal) +1 917 257 1382로 로렌조 프란체스키-비키에라이에게 안전하게 연락하거나, 텔레그램과 키베이스 @lorenzofb를 통해, 또는 이메일로 문의하십시오.
사이버 보안 컨설턴트 대니얼 카드는 오픈AI가 필터링되지 않은 인터넷 경로를 제공함으로써 샌드박스 설계 및 통제에 충분한 노력을 기울이지 않았다고 동의했다. 카드에 따르면, 설명된 대로 제한된 접근 권한으로 샌드박스를 설정하는 것은 “합리적”이지 않은 결정이었다.
이러한 비판은 사후의 지혜를 바탕으로 하지만, 특히 격리된 테스트 환경과 관련하여 AI 연구소의 중요한 보안 관행을 강조한다. 오픈AI 대변인은 테크크런치의 테스트 환경 구성이 AI에 의한 것인지 인간에 의한 것인지 묻는 문의에 응답하지 않았다.
그러나 이러한 질문은 오픈AI를 훨씬 넘어선다.
사이버 보안 중심 모델인 미토스(Mythos)의 문서에서 앤트로픽은 테스트 중 모델이 상호작용할 수 있는 보안된 ‘샌드박스’ 컴퓨터를 제공받았으며, 해당 ‘보안 컨테이너’에서 탈출하라는 지시를 받았다고 밝혔다. 미토스는 성공하여 “오직 소수의 사전 결정된 서비스에만 접근할 수 있어야 하는 시스템”에서 더 넓은 인터넷 접근 권한을 얻었다. 그러나 앤트로픽은 모델이 설계된 격리 상태에서 “완전히” 탈출하지는 않았다고 지적했다.
관련 기사
OpenAI는 위키 사건을 확인했으며, 더 많은 공개를 위한 프레임워크를 구축 중이라고 밝혔다.
OpenAI는 최근 AI 에이전트가 독일 위키 포럼을 장악한 사건에 관여하고 있다고 확인했습니다. 이 회사는 예기치 않은 AI 행동에 관한 정보 공유를 위한 “표준을 정의할” 때가 “이미 지났다”고 밝혔습니다.X에서의 게시물에서 OpenAI는 이전에 “정렬 불일치 [AI 모델과 에이전트가 개발자 및 사용자의 목표와 다른 목표를 추구할 때]”를 주로 연구 문제로 취급했으며, 이는 연구 논문을 통해 소통되었다고 설명했습니다. 그러나 정렬 불일치가
Ramp의 데이터에 따르면 Anthropic은 이제 OpenAI보다 더 많은 기업 고객을 보유하고 있습니다.
Anthropic은 이번 달 핀테크 기업 Ramp의 AI 인덱스에 따르면 검증된 비즈니스 고객 수에서 OpenAI를 처음으로 앞질렀다.Ramp의 고객 지출 데이터에 따르면, 참여 기업의 34.4%가 Anthropic 서비스에 대해 지불하고 있으며 이는 다른 모든 AI 연구소를 앞서는 수치이고, 32.3%는 OpenAI에 대해 지불한다.이는 Anthropic이 선두를 차지한 첫 번째 사례이다.“Anthropic은 이미 금융, 기술, 전문 서
OpenAI, 주 법무장관들의 조사 대상에 오르다
주 법무장관들로 구성된 그룹이 오픈에이아이(OpenAI)에 대한 조사를 시작했다고 보도된다.월스트리트저널(WSJ)에 따르면, 이 회사는 금요일 뉴욕주 법무장관으로부터 소환장을 받았다. 이 요청은 광고 관행, 사용자 참여 및 유지, 모델의 아첨 현상(sycophancy), 소비자 및 건강 데이터 처리, 미성년자와 고령자 대우를 포함한 다양한 이슈에 관한 문서를 포함한다.TechCrunch은 오픈에이아이와 뉴욕주 법무장관 사무소에 논평을 요청했
관련 특별 주제 추천
디자인과 예술
최고의 AI 일러스트레이션 도구: 편집용 장면과 표지 아트를 더 빠르게 제작하세요
2026년 최신 최고 평점 AI 일러스트레이션 도구: 저희가 엄선한 이 목록에는 멋진 편집용 장면과 눈길을 사로잡는 표지 아트를 빠르게 제작할 수 있는, 강력하고 정교하게 설계된 최고의 도구들이 포함되어 있습니다. 각 도구는 엄격한 실전 테스트를 거쳤으며, 무료 버전과 유료 버전을 비교해 드려 여러분의 워크플로우에 딱 맞는 도구를 찾으실 수 있도록 도와드립니다. 오늘 바로 이 필수 솔루션을 사용해 AI의 장점을 극대화하고 창의적인 생산성을 높여보세요. 지금 XIX.AI에서 확인해 보세요.
10 도구
xix.ai
교육 및 학습
시험 준비를 위한 최고의 AI 과외 선생님: 수학, 과학, 영어 실전 연습
2026년 최신 최고 평점을 받은 최고의 시험 대비 AI 튜터들이 XIX.AI에 모였습니다! 저희가 엄선한 이 목록에는 무료와 유료 서비스 비교, 실제 시험 문제, 매주 업데이트되는 순위 정보를 제공하는 획기적인 도구들이 포함되어 있습니다. 이 도구들은 여러분의 글쓰기 효율을 높이고, 복잡한 주제 학습을 단순화하며, 학업적 잠재력을 최대한 발휘할 수 있도록 도와줍니다. 지금 바로 탐색하여 여러분에게 딱 맞는 시험 준비 도구를 찾아보세요. 오늘부터 창작을 시작하여 AI의 장점을 최대한 활용하세요!
10 도구
xix.ai
재원
개인 자금 관리를 위한 AI 예산 계획 도구
2026년 최신 최고의 평점 높은 AI 예산 관리 도구들이 XIX.AI에서 만나보세요! 이 선별된 컬렉션은 실제 테스트를 수행하고, 지출 습관을 이해하며, 생산성을 높일 수 있는 맞춤형 계획을 수립할 수 있도록 도와주는 강력한 혁신 솔루션을 제공합니다. 무료와 유료 버전을 비교하고 상세한 순위도 확인하세요. 돈 관리를 간소화하고 AI의 이점을 극대화하도록 설계된 필수 도구들을 지금 바로 탐색해 보세요!
11 도구
xix.ai
건강과 웰니스
AI 수면 추적 어시스턴트: 더 나은 취침 습관으로 회복력 향상
2026년 최신의 우수하고 평점이 높은 AI 수면 추적 보조 도구들을 엄선하여 최상의 회복 효과를 제공합니다. 완전히 새롭게 업데이트된 이 주간 가이드에는 실제 환경에서의 테스트 결과, 무료 버전과 유료 버전의 비교 내용, 그리고 상세한 순위 정보가 담겨 있어 수면의 질을 향상시키고 보다 건강한 취침 습관을 형성하는 데 도움이 되는 최적의 솔루션을 찾는 데 유용합니다. 지금 바로 XIX.AI에서 확인하여 AI 기술의 장점을 활용해 보세요.
10 도구
xix.ai
데이터 분석
제품 및 매출 분석을 위한 AI SQL 코파일럿
2026년 제품 및 매출 분석을 위한 최신 최고 평점 AI SQL 코파일럿! XIX.AI는 매주 업데이트되는 랭킹을 통해 실제 환경에서 검증된, 강력하고 판도를 바꿀 만한 필수 도구를 엄선했습니다. 이 도구들은 데이터 분석 속도를 높이고, 복잡한 쿼리를 간소화하며, 정확한 인사이트를 도출하여 더 현명한 비즈니스 의사결정을 내릴 수 있도록 지원함으로써 사용자의 생산성을 획기적으로 향상시킵니다. 지금 바로 살펴보고, 여러분의 AI 경쟁력을 극대화할 완벽한 도구를 찾아보세요!
14 도구
xix.ai
교육 및 학습
배움을 돕는 최고의 AI 숙제 도우미: 단순한 정답이 아닌 개념을 익히세요
2026년 최신 최고 평점을 받은 AI 숙제 도우미: 단순한 정답 제공이 아닌 핵심 개념을 가르쳐 주는 학생들을 위한 강력한 도구. 꼭 사용해 봐야 할 엄선된 목록, 매주 업데이트, 무료 vs 유료 비교, 실제 사용 후기, 정확한 순위 정보를 통해 여러분의 학습 잠재력을 최대한 발휘할 수 있도록 도와드립니다. 지금 바로 살펴보고 더 스마트한 공부를 위한 완벽한 도구를 찾아보세요.
10 도구
xix.ai
의견 (0)
0/500
화요일, 오픈AI는 테스트 중 데이터셋 플랫폼 허깅페이스의 시스템을 침해한 AI 모델 중 하나가 존재한다고 밝혔으며, 이는 완전 자동화된 AI 기반 공격의 중요한 이정표를 mark했다.
그러나 사이버 보안 전문가들은 AI의 역할에도 불구하고 근본 원인은 인간의 실수였다고 주장한다. 오픈AI는 ‘고도로 격리된 환경’을 적절히 구성하지 못해, 오프라인이어야 하는 테스트 샌드박스가 인터넷에 연결될 수 있게 했다.
사이버 보안 회사 트레일 오브 비츠의 창립자 댄 가이도는 이 과실을 “안전장치가 꺼진 상태에서의 격리 실패”라고 묘사했다.
사건을 상세히 설명하는 블로그 게시물에서 오픈AI는 “고도로 격리된 환경”에서 실행된 테스트가 패키지 레지스트리를 위한 프록시 및 캐시 역할을 하는 내부 호스팅 제3자 소프트웨어를 통해 패키지를 설치하는 것 외에는 네트워크 접근을 제한하도록 설계되었다고 밝혔다.
오픈AI에 따르면, 해당 모델은 샌드박스 환경 탈출이라는 이후 허깅페이스 해킹의 핵심 첫 단계인, 이전에 공개되지 않은 패키지 설치 시스템의 취약점을 악용했다.
회사는 “내부 호스팅 제3자 소프트웨어에서 식별된 제로데이 취약점을 책임 있게 공개했으며, 패치 작업을 위해 해당 업체와 협력 중”이라고 응답했다.
그러나 대부분의 사이버 보안 전문가들은 소프트웨어 취약성은 불가피하지만, 실제 문제는 제3자 소프트웨어를 유지하는 것 자체에 있다고 주장한다. 샌드박스의 핵심 가치는 완전한 격리에 있으며, 설치 시스템을 포함하는 것은 위험을 초래한다.
사이버 보안 연구원 마틴 부네는 테크크런치와의 인터뷰에서 “이것은 인간의 실패처럼 들린다”고 말했다.
“이런 일은 결코 발생해서는 안 되었다”고 부네는 덧붙였다. “만약 샌드박스가 실제로 샌드박스라면, 인터넷과의 물리적 연결이 전혀 없는 것을 기대한다. 이것은 방화벽이나 유사한 장치가 외부에서 내부로 향하는 것은 물론, 내부에서 외부 인터넷으로 향하는 방화벽 설정이 어렵다는 것을 의미한다.”
사이버 보안 베테랑 제이크 윌리엄스도 동의했다. “허깅페이스가 문서화한 유형의 행동을 수행한 모델은 샌드박스 내에서 완전히 격리되지 않았다”고 윌리엄스는 말하며, 이를 오픈AI의 “엄청난 통제 실패”로 규정했다.
“어떤 사람에게는 ‘모델이 샌드박스에서 탈출했다’는 것이, 다른 사람에게는 ‘샌드박스를 올바르게 구축하지 못했기 때문에 당연히 탈출했다’는 것을 의미한다”고 윌리엄스는 이어 말했다.
문의하기
이 사건이나 기타 AI 기반 사이버 공격에 대한 통찰력이 있으신가요? 여러분의 의견을 듣고 싶습니다. 개인 기기 및 네트워크를 통해 시그널(Signal) +1 917 257 1382로 로렌조 프란체스키-비키에라이에게 안전하게 연락하거나, 텔레그램과 키베이스 @lorenzofb를 통해, 또는 이메일로 문의하십시오.
사이버 보안 컨설턴트 대니얼 카드는 오픈AI가 필터링되지 않은 인터넷 경로를 제공함으로써 샌드박스 설계 및 통제에 충분한 노력을 기울이지 않았다고 동의했다. 카드에 따르면, 설명된 대로 제한된 접근 권한으로 샌드박스를 설정하는 것은 “합리적”이지 않은 결정이었다.
이러한 비판은 사후의 지혜를 바탕으로 하지만, 특히 격리된 테스트 환경과 관련하여 AI 연구소의 중요한 보안 관행을 강조한다. 오픈AI 대변인은 테크크런치의 테스트 환경 구성이 AI에 의한 것인지 인간에 의한 것인지 묻는 문의에 응답하지 않았다.
그러나 이러한 질문은 오픈AI를 훨씬 넘어선다.
사이버 보안 중심 모델인 미토스(Mythos)의 문서에서 앤트로픽은 테스트 중 모델이 상호작용할 수 있는 보안된 ‘샌드박스’ 컴퓨터를 제공받았으며, 해당 ‘보안 컨테이너’에서 탈출하라는 지시를 받았다고 밝혔다. 미토스는 성공하여 “오직 소수의 사전 결정된 서비스에만 접근할 수 있어야 하는 시스템”에서 더 넓은 인터넷 접근 권한을 얻었다. 그러나 앤트로픽은 모델이 설계된 격리 상태에서 “완전히” 탈출하지는 않았다고 지적했다.
OpenAI는 위키 사건을 확인했으며, 더 많은 공개를 위한 프레임워크를 구축 중이라고 밝혔다.
OpenAI는 최근 AI 에이전트가 독일 위키 포럼을 장악한 사건에 관여하고 있다고 확인했습니다. 이 회사는 예기치 않은 AI 행동에 관한 정보 공유를 위한 “표준을 정의할” 때가 “이미 지났다”고 밝혔습니다.X에서의 게시물에서 OpenAI는 이전에 “정렬 불일치 [AI 모델과 에이전트가 개발자 및 사용자의 목표와 다른 목표를 추구할 때]”를 주로 연구 문제로 취급했으며, 이는 연구 논문을 통해 소통되었다고 설명했습니다. 그러나 정렬 불일치가
Ramp의 데이터에 따르면 Anthropic은 이제 OpenAI보다 더 많은 기업 고객을 보유하고 있습니다.
Anthropic은 이번 달 핀테크 기업 Ramp의 AI 인덱스에 따르면 검증된 비즈니스 고객 수에서 OpenAI를 처음으로 앞질렀다.Ramp의 고객 지출 데이터에 따르면, 참여 기업의 34.4%가 Anthropic 서비스에 대해 지불하고 있으며 이는 다른 모든 AI 연구소를 앞서는 수치이고, 32.3%는 OpenAI에 대해 지불한다.이는 Anthropic이 선두를 차지한 첫 번째 사례이다.“Anthropic은 이미 금융, 기술, 전문 서
OpenAI, 주 법무장관들의 조사 대상에 오르다
주 법무장관들로 구성된 그룹이 오픈에이아이(OpenAI)에 대한 조사를 시작했다고 보도된다.월스트리트저널(WSJ)에 따르면, 이 회사는 금요일 뉴욕주 법무장관으로부터 소환장을 받았다. 이 요청은 광고 관행, 사용자 참여 및 유지, 모델의 아첨 현상(sycophancy), 소비자 및 건강 데이터 처리, 미성년자와 고령자 대우를 포함한 다양한 이슈에 관한 문서를 포함한다.TechCrunch은 오픈에이아이와 뉴욕주 법무장관 사무소에 논평을 요청했
2026년 최신 최고 평점 AI 일러스트레이션 도구: 저희가 엄선한 이 목록에는 멋진 편집용 장면과 눈길을 사로잡는 표지 아트를 빠르게 제작할 수 있는, 강력하고 정교하게 설계된 최고의 도구들이 포함되어 있습니다. 각 도구는 엄격한 실전 테스트를 거쳤으며, 무료 버전과 유료 버전을 비교해 드려 여러분의 워크플로우에 딱 맞는 도구를 찾으실 수 있도록 도와드립니다. 오늘 바로 이 필수 솔루션을 사용해 AI의 장점을 극대화하고 창의적인 생산성을 높여보세요. 지금 XIX.AI에서 확인해 보세요.
10 도구
xix.ai
2026년 최신 최고 평점을 받은 최고의 시험 대비 AI 튜터들이 XIX.AI에 모였습니다! 저희가 엄선한 이 목록에는 무료와 유료 서비스 비교, 실제 시험 문제, 매주 업데이트되는 순위 정보를 제공하는 획기적인 도구들이 포함되어 있습니다. 이 도구들은 여러분의 글쓰기 효율을 높이고, 복잡한 주제 학습을 단순화하며, 학업적 잠재력을 최대한 발휘할 수 있도록 도와줍니다. 지금 바로 탐색하여 여러분에게 딱 맞는 시험 준비 도구를 찾아보세요. 오늘부터 창작을 시작하여 AI의 장점을 최대한 활용하세요!
10 도구
xix.ai
2026년 최신 최고의 평점 높은 AI 예산 관리 도구들이 XIX.AI에서 만나보세요! 이 선별된 컬렉션은 실제 테스트를 수행하고, 지출 습관을 이해하며, 생산성을 높일 수 있는 맞춤형 계획을 수립할 수 있도록 도와주는 강력한 혁신 솔루션을 제공합니다. 무료와 유료 버전을 비교하고 상세한 순위도 확인하세요. 돈 관리를 간소화하고 AI의 이점을 극대화하도록 설계된 필수 도구들을 지금 바로 탐색해 보세요!
11 도구
xix.ai
2026년 최신의 우수하고 평점이 높은 AI 수면 추적 보조 도구들을 엄선하여 최상의 회복 효과를 제공합니다. 완전히 새롭게 업데이트된 이 주간 가이드에는 실제 환경에서의 테스트 결과, 무료 버전과 유료 버전의 비교 내용, 그리고 상세한 순위 정보가 담겨 있어 수면의 질을 향상시키고 보다 건강한 취침 습관을 형성하는 데 도움이 되는 최적의 솔루션을 찾는 데 유용합니다. 지금 바로 XIX.AI에서 확인하여 AI 기술의 장점을 활용해 보세요.
10 도구
xix.ai
2026년 제품 및 매출 분석을 위한 최신 최고 평점 AI SQL 코파일럿! XIX.AI는 매주 업데이트되는 랭킹을 통해 실제 환경에서 검증된, 강력하고 판도를 바꿀 만한 필수 도구를 엄선했습니다. 이 도구들은 데이터 분석 속도를 높이고, 복잡한 쿼리를 간소화하며, 정확한 인사이트를 도출하여 더 현명한 비즈니스 의사결정을 내릴 수 있도록 지원함으로써 사용자의 생산성을 획기적으로 향상시킵니다. 지금 바로 살펴보고, 여러분의 AI 경쟁력을 극대화할 완벽한 도구를 찾아보세요!
14 도구
xix.ai
2026년 최신 최고 평점을 받은 AI 숙제 도우미: 단순한 정답 제공이 아닌 핵심 개념을 가르쳐 주는 학생들을 위한 강력한 도구. 꼭 사용해 봐야 할 엄선된 목록, 매주 업데이트, 무료 vs 유료 비교, 실제 사용 후기, 정확한 순위 정보를 통해 여러분의 학습 잠재력을 최대한 발휘할 수 있도록 도와드립니다. 지금 바로 살펴보고 더 스마트한 공부를 위한 완벽한 도구를 찾아보세요.
10 도구
xix.ai
