앤트로픽의 암호 해독 및 클로드 채팅 유출 사건의 배경

구글 검색 결과, 25페이지가 넘는 검색 결과 페이지에 200건 이상의 클로드(Claude) 대화 내용이 나타났으며, 일부 대화에는 개인 정보나 업무 관련 정보가 포함되어 있었다. 출처: Anthropic

유출된 클로드 대화 내용은 ‘섀도우 AI’가 초래하는 비즈니스 위험을 여실히 보여주며, 한편 ‘마이토스 프리뷰(Mythos Preview)’는 NIST 승인 암호화 알고리즘의 취약점을 밝혀냈다.

최근 앤트로픽(Anthropic)과 관련된 두 가지 주요 소식이 헤드라인을 장식하며, 최첨단 AI 시스템의 역량과 실제 현장에서 직면한 과제를 모두 보여주었습니다.

이 AI 기업은 ‘클로드 미토스 프리뷰(Claude Mythos Preview)’를 활용해 인터넷 개인 통신의 수학적 토대인 암호화 알고리즘을 공격할 수 있는 새롭고 개선된 방법을 찾아냈다.

두 번째, 다소 부정적인 소식은 클로드와 나눈 수백 건의 사용자 대화 내용이 공개 검색 결과에 노출되면서, 조직들이 AI 도구 배포를 어떻게 관리하고 있는지에 대한 심각한 의문을 제기했다는 점이다.

채팅 링크가 검색 가능하게 된 경위

이 사건은 레딧(Reddit) 사용자들이 구글 검색을 통해 클로드(Claude) 대화 내용을 찾을 수 있다는 사실을 알아차리면서 시작되었습니다. 조사 결과, 검색 결과 25페이지에 걸쳐 200건 이상의 대화가 노출된 것으로 드러났습니다.

일부 대화에는 개인 정보가 포함되어 있었고, 다른 대화에는 업무 프로젝트에 대한 세부 내용이 담겨 있었습니다.

스펜서 스타키(Spencer Starkey), 소닉월(SonicWall) EMEA 지역 총괄 부사장

앤트로픽(Anthropic) 대변인은 BBC 뉴스와의 인터뷰에서 채팅 링크를 공유하면 해당 콘텐츠가 공개적으로 접근 가능해진다며, 클로드는 링크를 가진 사람이라면 누구나 대화를 볼 수 있다고 사용자에게 경고하지만, 검색 엔진이 공유된 콘텐츠를 색인화할 수 있다는 점은 명시하지 않는다고 설명했습니다.

이번 유출 사건은 ‘섀도우 AI’라는 중대한 비즈니스 문제를 여실히 드러냅니다. 반타 시큐리티(Vanta Security)의 연구에 따르면, 기업의 70%에서 직원들이 승인되지 않은 AI 도구를 사용하고 있는 것으로 나타났습니다.

소닉월(SonicWall)의 EMEA 지역 총괄 부사장인 스펜서 스타키(Spencer Starkey)는 ‘섀도우 AI’가 초래하는 파장을 다음과 같이 설명합니다.

“직원들은 어떠한 정책 체계도 마련되지 않은 상태에서 매일 공개 LLM/AI 플랫폼을 사용하며, 고객 데이터, 내부 문서, 민감한 서신을 입력하고 있습니다.”라고 스펜서는 지적합니다.

“방화벽 수준에서 승인되지 않은 AI 프로토콜을 차단할 수 있는 기능은 이미 존재하지만, 기업들이 이를 활용하고 있을까요? 이제 그 필요성이 그 어느 때보다 분명해졌습니다.

"조직이 섀도우 AI를 승인되지 않은 타사 애플리케이션과 동일한 수준으로 심각하게 다루지 않는 한, 잠재적으로 민감한 데이터가 구글 검색 결과에서 갑자기 나타날 수 있는, 상당하고 대부분 눈에 띄지 않는 데이터 유출 위험을 완전히 방치하고 있는 셈입니다."

BBC 뉴스에 따르면, 앤트로픽(Anthropic)은 주요 검색 엔진이 공유된 채팅 링크를 색인화하지 못하도록 방지하기 위한 조치를 취했다.

Mythos Preview를 활용한 암호 분석

Claude Mythos Preview는 숨겨진 소프트웨어 취약점을 식별하는 능력을 보여주었습니다. Anthropic의 새로운 연구에 따르면, 이러한 기능은 암호 분석 분야로도 확장되는 것으로 나타났습니다.

조직들이 ‘섀도우 AI’를 승인되지 않은 타사 애플리케이션과 동일한 수준의 심각성으로 다루기 전까지는, 상당하고도 대체로 눈에 띄지 않는 데이터 유출 위험을 완전히 방치하고 있는 셈입니다.

스펜서 스타키(Spencer Starkey), 소닉월(SonicWall) EMEA 지역 전무이사

이러한 암호화 알고리즘은 인터넷 트래픽을 보호하는 수학적 알고리즘입니다. 이들은 암호화를 통해 온라인 뱅킹, 이메일 및 기타 통신을 보호합니다.

Mythos 연구진은 미국 국립표준기술연구소(NIST)가 양자 이후 암호화를 위해 검토 중이던 디지털 서명 체계인 HAWK를 겨냥한 공격을 발견했습니다.

이 AI는 60시간도 채 되지 않아 HAWK에 대한 가장 잘 알려진 공격 방식을 수정하여, 알고리즘의 키 강도를 절반으로 낮췄습니다.

이 연구에서는 고급 암호화 표준(AES)도 조사했습니다. Anthropic에 따르면, AES는 2001년 NIST가 이를 채택한 이후 그 어떤 암호화 알고리즘보다도 더 많은 분석을 거쳤습니다.

주요 사실

• Vanta Security에 따르면, 기업의 70%에서 직원들이 승인되지 않은 AI 도구를 사용하고 있는 것으로 나타났다
• HAWK에 대한 가장 잘 알려진 공격 방식이 Mythos에 의해 60시간도 채 되지 않아 수정되어, 해당 알고리즘의 키 강도가 절반으로 줄어들었다
• Mythos는 기존 최상의 공격 방식보다 200~800배 빠른 속도로 AES 암호화의 약화된 버전을 해독해 냈습니다

Mythos는 이 암호화의 약화된 버전을 기존 공격보다 200~800배 더 빠르게 해독해 냈다. 이 회사는 HAWK가 아직 배포되지 않았고, 원래의 AES 암호가 해독되지 않았기 때문에 현재 시스템에는 즉각적인 영향이 없다고 밝혔다.

Anthropic은 이러한 결과를 암호 연구의 진전으로 평가하고 있다. 이 회사는 ETH 취리히, 텔아비브 대학교, 베를린 공과대학교(TU Berlin)의 학계 전문가들과 협력하여 CryptanalysisBench를 구축하고 있다.

이 벤치마크는 암호화 알고리즘을 묶어 대규모 언어 모델(LLM)의 암호해독 능력을 평가합니다. Anthropic은 자사의 연구 결과를 미국 정부 및 업계 파트너들과 공유했습니다.

또한 Anthropic은 지난 6월 HAWK 연구의 세부 내용을 해당 알고리즘의 개발자들에게 제공했다고 밝혔습니다. Keeper Security의 암호학 고문인 아담 에버스포(Adam Everspaugh) 박사는 속도가 가장 중요하다고 지적합니다.

키퍼 시큐리티(Keeper Security)의 암호학 고문 아담 에버스포(Adam Everspaugh). 출처: Station70

"보도에 따르면, 이 공격은 2년 동안 전문가들이 수작업으로 검토해도 발견하지 못했던 취약점을 찾아내는 데 AI를 활용한 연구로 약 60시간이 소요된 것으로 알려졌습니다. 이 사실만으로도 조직들은 양자 보안 대비에 대한 사고방식을 재검토해야 할 것입니다,"라고 아담은 말합니다.

암호 탄력성(Crypto-Agility)을 갖춘 시스템 구축

아담은 알고리즘 선택만으로는 시스템의 복원력을 결정할 수 없다고 지적합니다. “암호 유연성은 알고리즘 선택 그 자체만큼이나 근본적인 요소입니다,”라고 그는 덧붙입니다.

“전체 아키텍처를 재설계하지 않고도 암호화 기본 요소를 교체하거나 패치할 수 있도록 구축된 시스템은, 단일 방식에 얽매인 시스템보다 이러한 연구 결과를 훨씬 더 쉽게 수용할 수 있습니다.

"실무적으로 이는 환경 전반에서 암호화 알고리즘이 어디에, 어떻게 사용되고 있는지에 대한 최신 현황을 파악하고, 강제 마이그레이션이 필요해지기 전에 업데이트 경로가 마련되어 있는지 확인해야 함을 의미합니다.”