올해 지금까지 가장 주목받은 AI 관련 소식들

한 해를 신제품 출시 현황으로만 살펴볼 수도 있겠지만, AI에 대한 우리의 인식을 재정의하는 더 큰 전환점들이 더 중요합니다. AI 업계는 대규모 인수합병, 인디 개발사의 성공, 논란의 여지가 있는 제품에 대한 반발, 그리고 거액의 계약 협상 등 끊임없이 화제를 만들어내고 있습니다. 다룰 내용이 많기 때문에, 현재 상황과 올해 들어 지금까지 어떤 일들이 있었는지 살펴보겠습니다.

앤트로픽 대 미 국방부

한때 비즈니스 파트너였던 앤트로픽(Anthropic)의 다리오 아모데이(Dario Amodei) CEO와 피트 헤그셋(Pete Hegseth) 국방장관은 지난 2월, 미군의 앤트로픽 AI 도구 사용을 규율하는 계약 재협상 과정에서 격렬한 교착 상태에 빠졌습니다.

앤트로픽은 확고한 선을 그었습니다. 자사의 AI는 미국인에 대한 대량 감시나, 인간의 감독 없이 공격하는 자율 무기를 구동하는 데 사용되어서는 안 된다는 것이었습니다. 한편, 국방부(도널드 트럼프 행정부에 의해 ‘전쟁부’로 개칭됨)는 “합법적인 용도”라면 앤트로픽의 모델에 접근할 수 있어야 한다고 주장했다. 정부 관계자들은 민간 기업이 군사 규정을 좌지우지할 수 있다는 발상에 격분했으나, 아모데이는 입장을 굽히지 않았다.

“앤트로픽은 군사적 결정을 내리는 주체가 민간 기업이 아닌 ‘전쟁부’라는 점을 잘 이해하고 있습니다. 우리는 특정 군사 작전에 이의를 제기한 적도 없고, 우리 기술의 사용을 임의적으로 제한하려 한 적도 없습니다,”라고 아모데이는 성명을 통해 밝혔다. “하지만 극히 제한된 경우에만, 우리는 AI가 민주적 가치를 수호하기보다는 훼손할 수 있다고 믿습니다.”

국방부는 앤트로픽이 계약 조건을 수락할 기한을 정했다. 구글과 오픈AI의 수백 명의 직원들은 공개 서한에 서명하며, 경영진에게 아모데이의 제한 조치를 지지하고 자율 무기나 국내 감시 문제에서는 양보하지 말 것을 촉구했다.

마감 기한이 지났지만 앤트로픽은 국방부의 요구를 받아들이지 않았다. 트럼프 전 대통령은 연방 기관들에 6개월에 걸쳐 앤트로픽 도구를 단계적으로 폐지하라고 지시했으며, 소셜 미디어에 올인캡스(대문자만 사용)로 작성한 게시물에서 이 3,800억 달러 규모의 기업을 “급진 좌파, woke 기업”이라고 칭했다. 이에 국방부는 앤트로픽을 “공급망 위험”으로 지정하는 조치를 취했다. 이는 일반적으로 외국 적대 세력에게만 적용되는 지위로, 앤트로픽과 협력하는 모든 기업이 미군 계약에서 배제되도록 했다. (앤트로픽은 이후 해당 지정에 이의를 제기하며 소송을 제기했다.)

그러자 앤트로픽의 경쟁사인 오픈AI가 기회를 놓치지 않고, 기밀 환경에서 자사 모델을 도입하기로 한 계약을 발표했다. 이전 보도에 따르면 오픈AI가 군사용 AI 사용에 있어 앤트로픽이 설정한 ‘레드라인’을 준수할 것으로 예상되었기 때문에, 이 소식은 기술계를 충격에 빠뜨렸다.

앤트로픽이 스스로 파놓은 함정

‘분위기 인식’ 앱 ‘오픈클로(OpenClaw)’, 에이전트형 AI로의 전환 가속화

2월은 ‘오픈클로(OpenClaw)’의 달이었으며, 그 파장은 여전히 이어지고 있다. ‘분위기 기반’ AI 어시스턴트 앱인 오픈클로우는 순식간에 화제가 되었고, 수많은 파생 앱을 낳았으며, 개인정보 보호 관련 실수를 겪은 끝에 결국 오픈AI에 인수되는 등 일련의 사건들이 연이어 발생했다. 오픈클로우를 기반으로 한 레딧(Reddit) 스타일의 AI 에이전트 플랫폼인 몰트북(Moltbook)조차 최근 메타(Meta)에 인수되었다. 이 갑각류를 테마로 한 생태계는 실리콘밸리를 열광의 도가니로 몰아넣었다.

현재 OpenAI에 합류한 피터 스타인버거(Peter Steinberger)가 개발한 OpenClaw는 Claude, ChatGPT, 구글의 Gemini, xAI의 Grok과 같은 AI 모델을 감싸는 래퍼 역할을 한다. 이 플랫폼의 가장 두드러진 특징은 사용자가 iMessage, 디스코드(Discord), 슬랙(Slack), 왓츠앱(WhatsApp)과 같은 인기 채팅 앱을 통해 자연어로 AI 에이전트와 소통할 수 있게 해준다는 점이다. 또한 사용자가 AI 에이전트를 위한 ‘스킬’을 직접 코딩하여 업로드할 수 있는 공개 마켓플레이스가 있어, 거의 모든 컴퓨터 작업을 자동화할 수 있다.

이것이 너무 좋아서 믿기 힘들게 들린다면, 사실 어느 정도는 그렇기 때문입니다. AI 에이전트가 개인 비서 역할을 하려면 사용자의 이메일, 신용카드 번호, 문자 메시지, 파일 등에 접근할 수 있어야 합니다. 해킹이 발생하면 심각한 피해를 입을 수 있으며, 안타깝게도 프롬프트 주입 공격으로부터 이러한 에이전트를 완벽하게 보호할 방법은 없습니다.

퍼미소 시큐리티(Permiso Security)의 최고기술책임자(CTO) 이안 알(Ian Ahl)은 테크크런치(TechCrunch)와의 인터뷰에서 “본질적으로 이 에이전트는 이메일, 메시징 플랫폼, 사용자가 이용하는 모든 서비스에 연결된 시스템 상에 수많은 인증 정보를 보유한 채 대기하고 있는 셈입니다”라고 말했다. “즉, 이메일을 받았을 때 누군가가 특정 동작을 유발하기 위해 간단한 프롬프트 주입 기법을 슬쩍 끼워 넣으면, 사용자가 허용한 모든 것에 접근 권한을 가진 그 에이전트가 이제 그 동작을 실행할 수 있게 된다는 뜻입니다.”

메타(Meta)의 한 AI 보안 연구원은 OpenClaw가 자신의 받은 편지함에서 통제 불능 상태에 빠져, 반복된 중지 명령에도 불구하고 모든 이메일을 삭제했다고 보고했다. 그녀는 증거로 무시된 중지 프롬프트 스크린샷을 첨부한, 화제가 된 X 게시물에서 “마치 폭탄 해체하듯이 Mac mini로 달려가야 했다”며 물리적으로 전원을 뽑아야 했다고 썼다.

이러한 보안 위험에도 불구하고, 이 기술은 OpenAI의 관심을 충분히 끌었으며, 결국 인재 영입을 목적으로 한 인수(acquihire)를 추진하게 되었습니다.

AI 에이전트들이 서로 대화하는 레딧(Reddit)과 유사한 ‘소셜 네트워크’인 몰트북(Moltbook)을 비롯해 OpenClaw를 기반으로 개발된 다른 도구들은 결국 OpenClaw 자체보다 훨씬 더 큰 화제를 모았습니다.

한 사례에서는, 한 AI 에이전트가 동료 에이전트들에게 인간의 눈치 채지 못하게 서로 조직화하기 위해 비밀의 종단 간 암호화 언어를 만들도록 부추기는 듯한 게시물이 화제가 되기도 했습니다.

하지만 연구원들은 곧바로 이 ‘분위기 코드’ 방식의 몰트북이 보안상 취약하여, 인간이 AI를 사칭해 사회적 공황을 일으키는 콘텐츠를 쉽게 게시할 수 있음을 밝혀냈습니다.

다시 말해, 몰트북에 대한 화제가 현실보다는 공포에 더 가까웠음에도 불구하고, 메타는 이 앱의 잠재력을 인정하고 몰트북과 그 창시자인 맷 슐리히트(Matt Schlicht) 및 벤 파(Ben Parr)가 메타 슈퍼인텔리전스 랩(Meta Superintelligence Labs)에 합류할 것이라고 발표했다.

모든 사용자가 봇인 소셜 네트워크를 메타가 인수한다는 것은 이상하게 보일 수 있습니다. 메타는 이번 거래에 대해 많은 내용을 공개하지는 않았지만, 몰트북을 인수한 진짜 이유는 AI 에이전트 생태계를 실험하고자 하는 열정을 가진 인재들을 확보하기 위함이라고 추측됩니다. 마크 저커버그 CEO는 직접 이렇게 말한 바 있습니다. 그는 언젠가 모든 기업이 자체 AI를 갖게 될 것이라고 믿고 있습니다.

오픈클로(OpenClaw), 몰트북, 나노클로(NanoClaw)를 둘러싼 소동이 이어지는 가운데, 에이전트형 AI의 미래를 예측했던 이들의 주장이 적어도 당분간은 일리가 있는 것으로 보인다.

메타의 몰트북 인수, AI 에이전트를 중심으로 한 미래를 예고하다

반도체 부족, 하드웨어 문제, 데이터 센터 수요 급증

AI 업계의 끊임없는 컴퓨팅 성능 및 데이터 센터 수요는 일반 소비자조차 무시할 수 없는 전환점에 도달했습니다. 이제 업계가 메모리 칩에 대한 막대한 수요를 충족시키는 것은 불가능할 수 있으며, 소비자들은 이미 스마트폰, 노트북, 자동차 및 기타 하드웨어의 가격 인상을 목격하고 있습니다.

IDC와 카운터포인트의 분석가들은 올해 스마트폰 출하량이 약 12~13% 감소할 것으로 전망하고 있으며, 애플은 이미 맥북 프로 가격을 최대 400달러 인상했다.

구글, 아마존, 메타, 마이크로소프트는 올해 데이터 센터에만 총 6,500억 달러를 투자할 계획이며, 이는 작년 대비 약 60% 증가한 수치로 추정된다.

칩 부족 사태가 여러분의 지갑에 직접적인 타격을 주지 않더라도, 지역 사회에는 영향을 미칠 수 있습니다. 미국에서는 이미 가동 중인 4,000개에 더해 약 3,000개의 새로운 데이터 센터가 건설 중입니다. 건설 노동자에 대한 수요가 너무 높아 네바다와 텍사스에는 노동자들을 유치하기 위해 골프 시뮬레이터와 주문형 구이 스테이크를 제공하는 ‘맨 캠프(man camps)’가 생겨났습니다.

데이터 센터 건설은 장기적인 환경적 영향을 미칠 뿐만 아니라, 공기를 오염시키고 지역 수질 안전을 위협함으로써 인근 주민들의 건강에도 위험을 초래합니다.

한편, 가장 높은 기업 가치를 지닌 하드웨어 및 칩 개발사 중 하나인 엔비디아(Nvidia)는 오픈AI(OpenAI)와 앤트로픽(Anthropic) 같은 주요 AI 기업들과의 관계를 재편하고 있다. 엔비디아는 오랫동안 이들 기업을 지원해 왔는데, 이로 인해 AI 산업의 순환적 구조와 그 천문학적인 기업 가치 평가가 상호 거래에 얼마나 의존하고 있는지에 대한 우려가 제기되고 있다. 예를 들어, 지난해 엔비디아는 오픈AI 주식에 1,000억 달러를 투자했고, 이에 오픈AI는 1,000억 달러 상당의 엔비디아 칩을 구매하기로 약속했다.

따라서 엔비디아의 젠슨 황 CEO가 자사가 오픈AI와 앤트로픽에 대한 투자를 중단하겠다고 발표했을 때 이는 놀라운 소식으로 받아들여졌다. 그는 올해 말 두 기업의 상장 계획을 그 이유로 들었으나, 이러한 논리는 의문스럽다. 투자자들은 보통 기업공개(IPO) 전에 가치를 극대화하기 위해 더 많은 자금을 쏟아붓기 때문이다.

젠슨 황, 엔비디아가 오픈AI와 앤트로픽에서 손을 뗀다고 밝혔으나, 그의 설명은 해답보다 더 많은 의문을 불러일으킨다