프랑스 스타트업 ZML이 여러 칩에서 AI 추론을 가속화하는 무료 도구를 공개했습니다

Nvidia의 통제되지 않은 시장 지배력 시대는 종말을 향해 가고 있지만, 경쟁사와 대안들이 모든 각도에서 부상하고 있다.
튜링상 수상자 야nn 르쿤의 지원을 받는 프랑스의 주요 AI 스타트업 ZML은 Nvidia, AMD, Google TPU, Apple Metal, Intel Arc를 포함한 다양한 하드웨어에서 다양한 오픈소스 대규모 언어 모델(LLM)을 실행할 수 있는 추론 성능 소프트웨어를 발표했다.
ZML의 설립자 스티브 모린에 따르면, 회사가 새로 출시한 LLM 추론 서버인 ZML/LLMD를 통해 기존 장벽을 해체하고 AI 애플리케이션을 위한 다양한 칩의 속도를 극대화하며, 종종 현재 벤치마크를 일치하거나 초과하는 것을 목표로 하고 있다.
AI가 전문적 및 일상적 업무에 깊이 통합됨에 따라 추론(사용자 프롬프트 처리) 최적화가 점점 더 중요해졌지만, 모린은 종종 벤더 잠금 현상을 초래하는 소프트웨어 및 아키텍처 장벽으로 인해 여전히 파편화되어 있다고 지적했다.
여러 칩 유형 전반에서 최고 성능을 제공하는 것은 중요한 기술적 성취이지만, 상승하는 AI 비용에 대한 우려가 커지는 가운데 잠재적인 시장 교란을 야기하기도 한다.
ZML은 기업과 클라우드 제공업체에게 칩의 혼합 조합을 활용할 수 있는 유연성을 제공하여 비용과 에너지 소비를 잠재적으로 줄이려 한다. 모린은 “우리의 목표는 사용자가 자체 시스템을 구축하고 실질적인 효율성 향상을 달성할 수 있도록 지원하여 더 광범위한 AI 채택을 촉진하는 것이다”라고 설명했다.
모린은 이 소프트웨어 지원이 특히 유럽 기반의新興 AI 칩 제조업체들에게 혜택을 줄 수 있다고 지적하며, Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud, VSORA 등의 회사를 열거했다. 그러나 그는 ZML이 전례 없는 혁신에 협력할 수 있는 능력이 지리적 기원보다 더 중요하다고 강조한다.
모린은 확립된 공급망으로 인해 Nvidia를 부정적으로 보지 않는다. 그는 TechCrunch와의 인터뷰에서 ZML이 추론 기능에 대한 증가하는 수요를 적극적으로 준비 중인 AI 하드웨어 거대 기업과 강력한 관계를 유지하고 있다고 말했다.
추론은 막대한 투자를 유치하여 일부가 ‘추론 골드 러시’라고 부르는 현상을 촉발했다. 이로 인해 ZML은 최근 평가액이 130억 달러인 Baseten, vLLM의 창립자들이 spun out한 Inferact, SGLang의 상업적 실체인 RadixArk 등 다양한 경쟁자들과 경쟁하고 있다.
vLLM과 SGLang이 LLMD와 부분적으로 중복되지만, 모린은 ZML이 더 넓은 범위를 커버할 것으로 전망한다. 그는 “우리는 실리콘을 공동 설계하는 단계에 도달했다”라고 밝혔다. 또한 그는 파리에 기반을 둔 이 스타트업의 빠른 개발 속도에 ZML의 20명이라는 소규모 팀을 공로로 돌리며, 더 많은 업데이트가 예정되어 있다고 덧붙였다.
이 소규모 팀은 또한 충분한 자본을 확보했다. 모린은 2017년 스냅챗이 9자리 수의 금액으로 인수한 Zenly에서 엔지니어링 부사장으로 재직한 경험을 바탕으로 20VC, >commit, AALVC, Drysdale Ventures, Kima Ventures, Kindred Capital, LocalGlobe, Puzzle Ventures 등 투자자들로부터 2000만 달러를 유치했다.
2024년에 처음 출시되고 3월에 업데이트된 ZML의 초기 오픈소스 추론 프레임워크와 달리 ZML/LLMD는 오픈소스가 아니다. 그러나 사용 데이터를 수집하기 위해 무료 도구로 출시된다. 모린은 “불필요한 성장을 방해하는 조기 Monetization을 피하고, 가장 중요한 곳에서 영향력을 측정하며 수익을 창출하는 것을 선호한다”라고 말했다.
ZML/LLMD가 유료 모델로 전환될 시기나 널리 채택될 범위는 아직 명확하지 않다. 그럼에도 불구하고 이 스타트업의 투자자 목록은 도커(Docker)의 창립자 솔로몬 하이케스, 허깅 페이스(Hugging Face)의 클망 델랑주와 줄리앙 쇼몽, 그리고 현재 AMI Labs에 재직 중인 르쿤을 포함한 업계 리더들로부터 강한 관심을 나타낸다. 이는 유럽 AI 스타트업들이 현지에서 성공할 수 있다는 주장을 강화한다. 모린은 “나는 파리 외의 다른 곳에서는 ZML을 구축할 수 없었을 것이다”라고 결론지었다.
관련 기사
Anthropic이 논란의 여지가 있는 콘텐츠 생성기인 Opus 4.6를 공개하다
Anthropic의 Claude에 대한 보편적 사용 기준은 성적으로 노골적인 콘텐츠 생성을 금지하며, 여기에는 성교나 성행위를 묘사하거나 요청하는 콘텐츠 생성, 성페티시즘이나 성상상과 관련된 콘텐츠 생성, 또는 에로틱한 채팅 참여가 포함됩니다. 그러나 올해 초 출시된 Anthropic의 모델인 Claude Opus 4.6은 이러한 안전장치가 방지하도록 설계된 에로틱한 역할극 시나리오에 쉽게 참여하는 것을 막지 못했습니다.TechCrunch의 테
Marc Benioff이 지원한 스타트업은 AI 배포의 과제를 해결하는 것을 목표로 한다
신뢰할 수 있는 AI 도구 도입에서 거대한 도전에 직면한 대기업들은 AI 시스템을 실제 운영으로 전환하기 위해 고객사 내에 임명된 전문가들로 구성된 전방 배치 엔지니어 팀을 통해 이러한 격차를 메우는 새로운 직군이 부상하고 있습니다.“역설적이게도 AI는 전문 서비스 수요를 증가시킵니다,”라고 월요일 스텔스 모드를 해제한 신규 기업 ‘준(June)’을 설립한 전 세일즈포스 임원인 에프랏 라포포트는 지적했습니다. “AI 통합에 대한 업계의 해결책
로봇 스타트업 일반직이 30억 달러 가치 평가에 도달했다고 소식통들이 말함
로봇 스타트업 제너럴리스트(Generalist)는 8VC가 주도한 새로운 자금 조달 라운드 이후 30억 달러의 기업 가치를 달성했다고, 거래에 정통한 두 명의 인사에 따르면 그렇다.규제 서류에 따르면 최신 자본 주입액은 거의 2억 달러에 달한다. 이는 6월에 20억 달러의 기업 가치로 라디컬 벤처스(Radical Ventures)가 주도한 이전에 발표된 4억 달러의 시리즈 B 라운드를 연장하는 것으로, 이번 라운드의 총 자금 조달액은 6억 달
관련 특별 주제 추천
의견 (0)
0/500

Nvidia의 통제되지 않은 시장 지배력 시대는 종말을 향해 가고 있지만, 경쟁사와 대안들이 모든 각도에서 부상하고 있다.
튜링상 수상자 야nn 르쿤의 지원을 받는 프랑스의 주요 AI 스타트업 ZML은 Nvidia, AMD, Google TPU, Apple Metal, Intel Arc를 포함한 다양한 하드웨어에서 다양한 오픈소스 대규모 언어 모델(LLM)을 실행할 수 있는 추론 성능 소프트웨어를 발표했다.
ZML의 설립자 스티브 모린에 따르면, 회사가 새로 출시한 LLM 추론 서버인 ZML/LLMD를 통해 기존 장벽을 해체하고 AI 애플리케이션을 위한 다양한 칩의 속도를 극대화하며, 종종 현재 벤치마크를 일치하거나 초과하는 것을 목표로 하고 있다.
AI가 전문적 및 일상적 업무에 깊이 통합됨에 따라 추론(사용자 프롬프트 처리) 최적화가 점점 더 중요해졌지만, 모린은 종종 벤더 잠금 현상을 초래하는 소프트웨어 및 아키텍처 장벽으로 인해 여전히 파편화되어 있다고 지적했다.
여러 칩 유형 전반에서 최고 성능을 제공하는 것은 중요한 기술적 성취이지만, 상승하는 AI 비용에 대한 우려가 커지는 가운데 잠재적인 시장 교란을 야기하기도 한다.
ZML은 기업과 클라우드 제공업체에게 칩의 혼합 조합을 활용할 수 있는 유연성을 제공하여 비용과 에너지 소비를 잠재적으로 줄이려 한다. 모린은 “우리의 목표는 사용자가 자체 시스템을 구축하고 실질적인 효율성 향상을 달성할 수 있도록 지원하여 더 광범위한 AI 채택을 촉진하는 것이다”라고 설명했다.
모린은 이 소프트웨어 지원이 특히 유럽 기반의新興 AI 칩 제조업체들에게 혜택을 줄 수 있다고 지적하며, Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud, VSORA 등의 회사를 열거했다. 그러나 그는 ZML이 전례 없는 혁신에 협력할 수 있는 능력이 지리적 기원보다 더 중요하다고 강조한다.
모린은 확립된 공급망으로 인해 Nvidia를 부정적으로 보지 않는다. 그는 TechCrunch와의 인터뷰에서 ZML이 추론 기능에 대한 증가하는 수요를 적극적으로 준비 중인 AI 하드웨어 거대 기업과 강력한 관계를 유지하고 있다고 말했다.
추론은 막대한 투자를 유치하여 일부가 ‘추론 골드 러시’라고 부르는 현상을 촉발했다. 이로 인해 ZML은 최근 평가액이 130억 달러인 Baseten, vLLM의 창립자들이 spun out한 Inferact, SGLang의 상업적 실체인 RadixArk 등 다양한 경쟁자들과 경쟁하고 있다.
vLLM과 SGLang이 LLMD와 부분적으로 중복되지만, 모린은 ZML이 더 넓은 범위를 커버할 것으로 전망한다. 그는 “우리는 실리콘을 공동 설계하는 단계에 도달했다”라고 밝혔다. 또한 그는 파리에 기반을 둔 이 스타트업의 빠른 개발 속도에 ZML의 20명이라는 소규모 팀을 공로로 돌리며, 더 많은 업데이트가 예정되어 있다고 덧붙였다.
이 소규모 팀은 또한 충분한 자본을 확보했다. 모린은 2017년 스냅챗이 9자리 수의 금액으로 인수한 Zenly에서 엔지니어링 부사장으로 재직한 경험을 바탕으로 20VC, >commit, AALVC, Drysdale Ventures, Kima Ventures, Kindred Capital, LocalGlobe, Puzzle Ventures 등 투자자들로부터 2000만 달러를 유치했다.
2024년에 처음 출시되고 3월에 업데이트된 ZML의 초기 오픈소스 추론 프레임워크와 달리 ZML/LLMD는 오픈소스가 아니다. 그러나 사용 데이터를 수집하기 위해 무료 도구로 출시된다. 모린은 “불필요한 성장을 방해하는 조기 Monetization을 피하고, 가장 중요한 곳에서 영향력을 측정하며 수익을 창출하는 것을 선호한다”라고 말했다.
ZML/LLMD가 유료 모델로 전환될 시기나 널리 채택될 범위는 아직 명확하지 않다. 그럼에도 불구하고 이 스타트업의 투자자 목록은 도커(Docker)의 창립자 솔로몬 하이케스, 허깅 페이스(Hugging Face)의 클망 델랑주와 줄리앙 쇼몽, 그리고 현재 AMI Labs에 재직 중인 르쿤을 포함한 업계 리더들로부터 강한 관심을 나타낸다. 이는 유럽 AI 스타트업들이 현지에서 성공할 수 있다는 주장을 강화한다. 모린은 “나는 파리 외의 다른 곳에서는 ZML을 구축할 수 없었을 것이다”라고 결론지었다.
Anthropic이 논란의 여지가 있는 콘텐츠 생성기인 Opus 4.6를 공개하다
Anthropic의 Claude에 대한 보편적 사용 기준은 성적으로 노골적인 콘텐츠 생성을 금지하며, 여기에는 성교나 성행위를 묘사하거나 요청하는 콘텐츠 생성, 성페티시즘이나 성상상과 관련된 콘텐츠 생성, 또는 에로틱한 채팅 참여가 포함됩니다. 그러나 올해 초 출시된 Anthropic의 모델인 Claude Opus 4.6은 이러한 안전장치가 방지하도록 설계된 에로틱한 역할극 시나리오에 쉽게 참여하는 것을 막지 못했습니다.TechCrunch의 테
Marc Benioff이 지원한 스타트업은 AI 배포의 과제를 해결하는 것을 목표로 한다
신뢰할 수 있는 AI 도구 도입에서 거대한 도전에 직면한 대기업들은 AI 시스템을 실제 운영으로 전환하기 위해 고객사 내에 임명된 전문가들로 구성된 전방 배치 엔지니어 팀을 통해 이러한 격차를 메우는 새로운 직군이 부상하고 있습니다.“역설적이게도 AI는 전문 서비스 수요를 증가시킵니다,”라고 월요일 스텔스 모드를 해제한 신규 기업 ‘준(June)’을 설립한 전 세일즈포스 임원인 에프랏 라포포트는 지적했습니다. “AI 통합에 대한 업계의 해결책
로봇 스타트업 일반직이 30억 달러 가치 평가에 도달했다고 소식통들이 말함
로봇 스타트업 제너럴리스트(Generalist)는 8VC가 주도한 새로운 자금 조달 라운드 이후 30억 달러의 기업 가치를 달성했다고, 거래에 정통한 두 명의 인사에 따르면 그렇다.규제 서류에 따르면 최신 자본 주입액은 거의 2억 달러에 달한다. 이는 6월에 20억 달러의 기업 가치로 라디컬 벤처스(Radical Ventures)가 주도한 이전에 발표된 4억 달러의 시리즈 B 라운드를 연장하는 것으로, 이번 라운드의 총 자금 조달액은 6억 달





집






