미국의 오픈소스 AI 연구소 아리는 중국산 모델이 본질적으로 위험하지 않다고 밝혔다.

중국의 오픈 가중치 AI 모델이 지속적으로 능력을 강화하고 시장 점유율을 확대함에 따라, 이를 어떻게 다뤄야 할지에 대한 논쟁이 다시 격화되고 있습니다.

트럼프 행정부가 이러한 모델들의 금지를 시도할 것이라는 루머가 있지만, 아직 어떤 조치도 취해지지 않았습니다. 한편, 자체 개발 모델 기업들, 특히 오픈AI와 앤트로픽은 경쟁에 대해 점점 더 우려를 나타내고 있습니다.

문선AI의 킴이 K3나 알리바바의 푼과 같은 오픈 가중치 모델은 주요 미국 연구소의 폐쇄형 모델에 비해 토큰 비용의 극히 일부로 추론을 제공합니다. 이러한 가격 우위는 대형 자체 개발 AI 제공업체의 이익 마진을 위협함으로써 보안 위협이 될 수 있다는 우려를 불러일으켰습니다.

그렇다면 이러한 모델을 자체 데이터 센터에 배포하는 기업들은 중국 해커들의 공격 경로가 될 수 있는지에 대해 우려해야 할까요?

아닙니다. 중국의 AI에 대한 미국의 대안적 국내 모델을 제공하기 위해 오픈 모델을 개발하는 기업인 아리의 최고기술책임자(CTO)인 루커스 앳킨스는 이렇게 주장합니다.

만약 중국 모델 금지가 어떤 스타트업에게 이익이 된다면, 그것은 아리일 것입니다. 그러나 앳킨스는 중국의 오픈 모델이 기업이 사용할 수 있는 다른 오픈 소스 소프트웨어보다 더 위험하지 않다고 유지합니다. 실제로 그는 이러한 모델이 자신의 회사에 오히려 이점을 제공한다고 주장합니다.

“많은 사람들은 이것이 특정 의도로 코딩되어 악의적 행위자가 악용할 수 있는 중국 소프트웨어 프로그램과 유사하다고 간주합니다.”라고 그는 지적했습니다.

“그것은 근본적으로 이러한 모델이 훈련되는 방식과 다릅니다. 아리나 알리바바가 모델을 생성하고, 해당 모델을 귀하의 환경에서 실행하게 하며, 그 모델에 대한 어떤 접근 권한도 얻도록 하는 메커니즘은 없습니다.”라고 그는 설명했습니다.

이러한 모델의 대부분은 완전히 오픈 소스 소프트웨어가 아닌 ‘오픈 가중치’이지만, 서버에서 실제로 실행되는 부분인 소스 코드는 허깅페이스와 같은 플랫폼에서 다운로드하면 대부분 공개되고 검토 가능합니다. (남아 있지 않은 것은 훈련 방법과 데이터셋입니다.)

대규모 조직은 모든 모델 코어에 대해 엄격한 보안 테스트와 검사를 수행해야 합니다. 그들은 또한 특정 사용 사례를 위해 사후 훈련된 모델을 게시하며, 편향성, 유해성, 환각, 특정 주제에 대한 민감도 등의 요인을 검토합니다. 이를 통해 사용자들이 프롬프트를 보내기 전에 모델을 활용하고, 최적화하며, 이해할 수 있습니다.

코딩 모델이 생성하는 코드에 악성 백도어를 주입할 수 있을까요? 이론적으로는 가능하지만, 이를 달성하려면 극도로 정교한 기술적 성취가 필요합니다.

“충분히 정교한 행위자가 모든 시나리오에서 코딩에 능숙하도록 모델을 훈련하지만, 특정 코드베이스가 제시되었을 때 숨겨진 악의적 행동을 트리거하는 것은 불가능하지 않지만, 실제로 이를 어떻게 달성할지는 모르겠습니다.”라고 앳킨스는 추측했습니다. 그러나 그는 덧붙였습니다.

대규모 언어 모델은 본질적으로 창의적이므로, 완벽하게 조율된 컨텍스트와 프롬프트에 응답하여 현대 모델이 악성 코드를 생성할 가능성은 낮습니다. 그런 다음 기업이 해당 코드를 사용할 가능성은 더욱 낮습니다.

미래에 이것이 발생할 수 있을까요? 이는 여전히 불확실합니다. 그러나 기업들은 모델에 구애받지 않고 여러 모델을 활용하는 AI 애플리케이션을 구축하고 있습니다. 따라서 중국 모델이 오늘날 최고의 가격 대비 성능비를 제공하더라도, 기업들은 무기한으로 이를 사용하도록 고정되지 않을 것입니다.

“우리는 중국 모델을 어떻게 금지할지에 대한 대화에서, 미국 내에서 견고하고 개방적인 생태계를 어떻게 육성할지에 대한 대화로 전환해야 한다고 믿습니다.”라고 앳킨스는 말했습니다.

아리는 중국 모델로부터도 혜택을 봅니다. 이러한 모델들은 오픈되어 있으므로, “그 모델들이 잘 수행될 때 우리는 그들의 접근 방식을 배우고 그 위에 구축함으로써 가치를 얻습니다. 그러면 그들은 우리의 작업을 배울 수 있습니다.”라고 그는 설명했습니다. “우리는 해당 모델 뒤의 연구자들에게 큰 존경을 가지고 있습니다.”

궁극적으로 중국 모델과 경쟁하는 가장 좋은 방법은 “우수한 모델을 출시하는 것”이라고 앳킨스는 결론지었습니다. “우리는 그들에게 논의할 만한 실질적인 무언가를 제공해야 합니다.”