마이크로소프트 CEO, ‘증류’ 문제로 AI 연구소를 강하게 비판

마이크로소프트의 사티아 나델라 CEO가 모델 정제(distillation)에 대한 비판과 관련해 AI 연구소들의 위선적인 태도를 지적했는데, 이 발언은 앤트로픽(Anthropic)을 겨냥한 것으로 널리 해석되고 있다. 출처: 게티 이미지

마이크로소프트의 사티아 나델라 CEO는 AI 개발자들이 모델 디스틸레이션을 제한하는 한편, 동시에 자체 시스템 훈련을 위해 공공 및 고객 데이터를 활용하고 있는 점에 대해 문제를 제기했다.

마이크로소프트의 사티아 나델라는 기술 업계 전반에 걸쳐 이름이 밝혀지지 않은 AI 연구소들이 ‘AI 디스틸레이션’에 대해 모순된 입장을 취하고 있다고 공개적으로 비판했다. 디스틸레이션이란 더 크고 강력한 시스템의 출력 결과를 활용해 더 작은 모델을 훈련시키는 기법이다.

X에 게시한 글에서 나델라는 모델 개발자들이 디스틸레이션에 대해 불만을 제기하는 것은 더 광범위한 AI 훈련 과정에 있어 위선적인 태도라고 주장했다.

그는 ‘모델 제공업체가 공개 데이터를 활용해 훈련할 수 있는 공정 이용권을 갖는 데서 비롯되는 위대한 혁신이 필요하다’는 점을 인정하면서도, 업계의 합의가 디스틸레이션에 ‘제한적인 조건’을 부과하는 것은 ‘아이러니하다’고 지적했습니다.

이는 해당 기업들이 고객의 사용 및 상호작용 데이터로부터 직접 학습할 권리는 스스로 유보하고 있음에도 불구하고 발생하는 일이다.

나델라는 “학습이 한 방향으로만 흐른다면, 경제적 가치는 지식 그 자체를 창출한 이들이 아니라 학습 인프라 소유자에게로 집중될 것”이라고 지적한다.

앤트로픽의 공격, 심화되는 데이터 출처 논란 부각

Anthropic, OpenAI, Google DeepMind는 AI 모델 훈련을 위해 제3자 콘텐츠에 의존하고 있다. ChatGPT, Claude, Gemini는 공개된 글, 이미지, 데이터에서 정보를 수집한다.

많은 이들이 이러한 훈련 방식에 대해 윤리적·저작권적 우려를 제기해 왔으며, 이는 주요 콘텐츠 제작자들의 법적 조치로 이어지고 있다.

예를 들어, BBC 뉴스는 BBC가 동의 없이 데이터를 수집했다는 이유로 앤트로픽을 상대로 소송을 제기했다고 보도했습니다.

나델라는 앤트로픽을 직접 언급하지는 않았지만, 여러 정황을 미루어 볼 때 이 게시물은 해당 AI 기업을 강력히 겨냥한 것으로 보인다. 그의 비판은 ‘증류 공격 탐지 및 방지’에 관한 앤트로픽의 이전 게시물에 이은 것이다.

지난 6월 사우스캐롤라이나주 팀 스콧 상원의원과 매사추세츠주 엘리자베스 워런 상원의원에게 보낸 서한에서 앤트로픽은 알리바바가 최근 자사 데이터를 대상으로 ‘현재까지 알려진 가장 대규모의 디스틸레이션 공격’을 실행했다고 주장했다.

이 성명서는 경쟁사들이 디스틸레이션을 활용해 ‘독립적으로 개발하는 데 소요되는 시간과 비용의 극히 일부만으로 다른 연구소의 강력한 능력을 획득할 수 있다’고 주장했다. 알리바바는 아직 이러한 혐의에 대해 공식 입장을 밝히지 않았다.

BBC와 레딧(Reddit) 같은 기업들은 앤트로픽이 동의 없이 자사 데이터를 이용해 ‘클로드(Claude)’ 모델을 훈련시켰다고 주장하며 소송을 제기했다. (출처: 앤트로픽)

모델 아웃소싱은 중대한 비즈니스 위험을 초래한다

같은 X 게시물에서 나델라는 주요 AI 모델에 의존하는 기업들이 AI 업체들에게 자사의 독점 데이터에 대한 접근 권한을 부여하고 있다고 경고했다.

그는 기업들이 단일 모델 공급업체에 의존하기보다는 자체 AI 인프라와 업계 지식을 보유해야 한다고 강조한다.

나델라는 기업들이 AI 기술이 시간이 지남에 따라 발전하고 개선될 수 있도록 자체 평가와 ‘학습 루프’를 수행해야 한다고 조언한다.

기업은 독자적인 개발 성과를 보호하기 위해 엄격한 보안 기준을 마련해야 한다. 나델라는 기업의 인적 자본과 토큰 자본이 시너지 효과를 내기 위해서는 실질적인 신뢰 경계가 필요하다고 밝혔다.

그는 이 경계는 ‘동의 없이는 지능 배출물조차도’ 포함해 그 누구도, 어떤 것도 넘어서서는 안 된다고 덧붙였습니다.

이와 유사하게, 일론 머스크는 앤트로픽(Anthropic)이 AI 모델 훈련을 위해 데이터를 수집하는 관행을 공개적으로 비판한 바 있다.

지난 2월 X에 올린 게시물에서 머스크는 앤트로픽이 ‘대규모로 훈련 데이터를 훔쳤다’고 비난하며, 이로 인해 ‘수십억 달러 규모의 합의금’을 물게 될 것이라고 예측했다.

“이건 그저 사실일 뿐입니다,”라고 그는 덧붙였습니다.