신생 기업, 차세대 컴퓨팅 거대 기업으로 도약하기 위해 토큰화에 주목하다

"토큰을 주세요. 그냥 토큰만 주세요. 빠르고 저렴하게, 당장 필요해요."

이것이 바로 파라세일(Parasail)의 CEO 마이크 헨리가 생성형 AI 모델을 기반으로 개발하는 개발자들로부터 끊임없이 듣는 요구입니다. 파라세일은 AI 모델 추론을 위해 맞춤화된 클라우드 컴퓨팅 서비스를 제공하며, 헨리는 테크크런치(TechCrunch)와의 인터뷰에서 이 플랫폼이 매일 무려 5,000억 개의 토큰을 생성한다고 밝혔습니다. 토큰 생산량을 극대화한다는 말이 딱 들어맞는 사례입니다.

헨리는 이전에 대규모 언어 모델(LLM)에 특화된 칩 제조사인 그록(Groq)의 임원으로 재직하며 회사의 클라우드 서비스를 개발했는데, 이는 AI 개발자들이 전문적인 클라우드 처리 능력을 필요로 할 것이라는 초기 통찰에서 비롯된 것이었다. 이제 스텔스 모드를 벗어난 지 1년 만에, 파라세일은 이 비전을 확장하기 위해 3,200만 달러 규모의 시리즈 A 투자 라운드를 유치했다.

헨리는 물리적 칩 설계 경력을 가지고 있지만, 파라세일은 자체 하드웨어 보유에 얽매이지 않는다. 이 회사는 하이브리드 모델을 운영한다. 일부 GPU를 직접 보유하긴 하지만, 주로 15개국 40개 데이터 센터에서 처리 시간을 임대하고 유동성 시장에서 구매한 리소스로 보완한다. 이러한 조율된 접근 방식은 추론 요청 비용을 대폭 절감하는 것을 목표로 한다.

파라세일은 워크로드를 지능적으로 배분하고 수요 급증을 피함으로써, 자체 실리콘을 보유하고 있지만 기존 고객 계약이나 고정된 워크로드로 인해 제약을 받을 수 있는 기업들과 경쟁할 수 있는 입지를 다지고 있습니다.

이 회사의 성장 잠재력은 주요 선도 연구소 외부에서 개발된 오픈소스 모델과 AI 에이전트의 지속적인 부상에 달려 있습니다. 파라세일의 경영진과 투자자들은 앤트로픽(Anthropic)이나 오픈AI(OpenAI)와 같은 기업의 독점 API 사용에 따른 비용과 복잡성이 증가하는 점을 주요 동인으로 꼽습니다.

Elicit의 CEO인 안드레아스 슈툴뮐러(Andreas Stuhlmüller)에 따르면, 실제로 하이브리드 아키텍처가 부상하고 있습니다. 과학 문헌용 AI 연구 보조 도구를 구축하기 위해 2,200만 달러 규모의 시리즈 A 투자를 유치한 그의 스타트업은, 이 도구를 활용해 수만 편의 논문 데이터를 분석하는 주요 제약사들에 서비스를 제공하고 있습니다.

스툴뮐러는 테크크런치와의 인터뷰에서 "단일 API 엔드포인트에 수십만 건의 요청을 보내는 것은 어려운 일이기 때문에 우리는 오픈 모델 쪽으로 더 기울고 있다"고 말했다. 특히 엘리시트는 작업을 전략적이고 장기적인 운영으로 분할하는 AI 에이전트를 활용하고 있어 이러한 경향이 더욱 두드러진다. 오픈 모델은 초기 선별 작업을 처리해 비용을 절감하고, 더 뛰어난 성능의 최첨단 모델이 최종 답변을 제공한다.

소프트웨어 개발에 AI 에이전트가 통합되면서 모델 쿼리가 급증하고 있으며, 이는 저비용 추론을 가능하게 하는 파라세일(Parasail)과 같은 인프라 제공업체에 대한 투자를 촉진하고 있다. 이번 투자 라운드를 공동 주도한 투어링 캐피털(Touring Capital)의 파트너 사미르 쿠마르는 테크크런치에 추론이 향후 소프트웨어 개발 비용의 최소 20%를 차지할 것으로 예상한다고 밝혔다.

그렇다면 파라세일은 이 시장에서 얼마나 큰 점유율을 확보할 수 있을까? 경쟁이 치열한 클라우드 컴퓨팅 분야에서 마이크 헨리 CEO는 자사가 추론에만 전적으로 집중하고(훈련은 처리하지 않음) 장기 계약 없이도 스타트업 고객에게 유연하게 서비스를 제공한다는 점이, 대기업 중심의 대형 클라우드 제공업체는 물론 파이어웍스 AI(Fireworks AI)나 베이스텐(Baseten)과 같은 자금력이 풍부한 추론 전문 기업들과도 차별화되는 점이라고 주장한다.

물론, 변동성이 큰 AI 분야에서 주로 시드 및 시리즈 B 단계의 스타트업에 집중하는 것은 그 자체로 일정한 위험을 수반한다.

킨드레드 벤처스(Kindred Ventures)의 파트너이자 이번 투자 라운드의 공동 주도자인 스티브 장은 모델 배포의 경제성 측면에서 파라세일이 제공하는 형태의 컴퓨팅 중개 서비스가 필수적일 것이라고 믿는다. 또한 콘텐츠 생성 및 로봇 공학 분야에서 AI가 더욱 널리 채택됨에 따라 이러한 수요는 더욱 증가할 전망이다.

그는 테크크런치와의 인터뷰에서 "모두가 AI 버블이 있다고 생각했지만, AI 버블은 존재하지 않는다"며, "추론 수요가 공급을 훨씬 앞지르고 있다"고 말했다.