집LFM2.5 DSpark 초안 모델 공개: 추론 속도 3.18배 향상
Liquid AI와 Hugging Face는 LFM2.5 시리즈용 DSpark 초안 모델 체크포인트를 공식 출시했으며, 여기에는 LFM2.5-1.2B-Instruct, LFM2.5-2.6B, LFM2.5-8B-A1B가 포함됩니다. 이번 혁신을 통해 출력 품질을 유지하면서도 추론 처리량을 대폭 향상시키는 새로운 추측적 디코딩 경로가 도입되었습니다.
주요 성능 향상 및 실제 적용 사례
실제 테스트 결과, DSpark의 놀라운 가속 효과가 입증되었습니다. GPU에서는 처리량이 최대 3.18배 증가했으며, 엣지 디바이스에서는 최대 2.87배의 성능 향상을 보였습니다.
엣지 에이전트 추론에서 LFM2.5-2.6B는 함수 호출 지연 시간을 평균 57% 줄여줍니다. M4 Max MacBook Pro에서 테스트한 결과, 초당 최대 139 토큰의 속도를 달성하여 로컬 에이전트 배포의 장벽을 낮추고, 독점적인 클라우드 모델에 필적하는 사용자 경험을 제공합니다.
DSpark의 아키텍처와 작동 원리 이해
기존 LLM 추론은 대부분의 시간이 DRAM에서 SRAM으로 가중치를 스트리밍하는 데 소요되기 때문에 메모리 대역폭에 의해 병목 현상이 발생합니다. 추측적 디코딩(Speculative decoding)은 경량 드래프트 모델을 사용하여 후보 토큰을 생성하고, 이를 대상 모델의 단일 포워드 패스에서 검증함으로써 이 문제를 해결하며, 가중치 로딩 비용을 효과적으로 분산시킵니다.
DSpark는 다음 세 가지 핵심 구성 요소를 통해 기존 기법들을 통합합니다:
병렬 백본 네트워크: DFlash와 유사하게, 대상 모델의 컨텍스트 특징을 기반으로 단일 전진 통과(forward pass)에서 모든 초안 토큰에 대한 숨겨진 상태를 생성합니다.순차적 헤드(마르코프 헤드): 인접한 토큰 간의 마르코프 연쇄를 시뮬레이션하여 의존성을 강화하고 후속 위치에 대한 수용률을 향상시킵니다.신뢰도 스케줄링 검증기: 각 토큰의 생존 확률을 예측하며, 검증 비용이 절감 효과를 상회할 경우 신뢰도가 낮은 접미사를 자동으로 제거합니다.훈련을 위해 초안 모델은 SFT, 채팅, 코드, 함수 호출 등을 포함한 다양한 데이터셋 조합을 활용합니다. 철저한 제거 실험을 거친 후, 초기 버전은 5개의 레이어와 9개의 블록으로 구성된 어텐션 전용 아키텍처를 채택하여 매개변수를 약 3억 개 수준으로 유지합니다.
품질 보증 및 생태계 통합
추측적 디코딩으로 인해, 탐욕적 디코딩은 대상 모델의 분포와 완벽하게 일치하는 초안 토큰만 수용합니다. 거부된 토큰은 대상 모델의 출력으로 대체되어, 생성된 시퀀스가 벤치마크에서 정확도 손실 없이 기준 탐욕적 디코딩 구조와 일치하도록 보장합니다.
출시 당시, DSpark는 주요 추론 프레임워크와의 호환성을 확보했습니다:
SGLang: 전용 통합 및 시작 구성을 통해 가속기 상에서 실행을 지원합니다.llama.cpp: 공식 빌드 지원을 제공하여, 사용자가 명령줄을 통해 해당 GGUF 가중치 및 초안 모델 파일을 불러올 수 있도록 합니다.
관련 기사
유니트리가 휴머노이드 로봇 공학의 미래를 어떻게 만들어가고 있는가
유니트리(Unitree)의 새로운 신체 기반 AI 로봇은 초광각 4D 라이다(LiDAR) 기술을 탑재해 현실 세계에서의 정교한 내비게이션을 구현합니다. 출처: 유니트리유니트리(Unitree)의 왕싱싱(Wang Xingxing) CEO는 휴머노이드 로봇이 낯선 가정 환경에 배치되었을 때 작업의 80%를 수행할 수 있도록 ‘월드 모델’ 분야의 획기적인 발전을
왜 Abnormal AI가 ‘Daybreak’에서 OpenAI와 파트너십을 맺었는가
OpenAI 사이버 부문 제품 책임자 마이클 아이엘로 | 출처: 마이클 아이엘로/LinkedIn애브노멀 AI, 오픈AI의 ‘데이브레이크(Daybreak)’ 프로그램에 합류… 마이크 아이엘로, 이번 파트너십이 기업의 실용적인 방어 체계 도입을 가속화할 것이라고 밝혀선도적인 최첨단 AI 기업인 오픈AI(OpenAI)는 기업들이 비즈니스 및 제품 개발 전반에 걸
AI 에이전트 ‘엘리먼츠 클로’, 초전도체 소재 개발 완료
인공지능이 과학 탐구의 경계를 넓혀가는 가운데, 중요한 이정표가 달성되었습니다. 7월 3일, 알리바바 DAMO 아카데미는 중국 인민대학교 및 중국과학원 대학과 협력하여 초전도 물질 발견에 특화된 세계 최초의 AI 에이전트인 ‘Elements Claw’를 공개했습니다. 이번 획기적인 성과는 과학적 발견의 패러다임 전환을 의미하며, AI를 보조적인 역할에서 독
관련 특별 주제 추천
건강과 웰니스
교대 근무자, 시차 적응, 더 나은 생활 습관을 위한 최고의 AI 수면 코칭 도구
2026년 교대 근무자, 시차 적응, 더 나은 일상 습관을 위한 최신 최고의 AI 수면 코칭 도구! XIX.AI는 정확한 지침을 제공하기 위해 실제 테스트를 거친, 획기적인 고성능 도구들의 최고 평점 목록을 엄선했습니다. 무료 버전과 유료 버전의 상세한 비교 정보를 확인하고, 이 꼭 사용해 봐야 할 솔루션들이 어떻게 수면의 질을 높이고, 시차 적응을 빠르게 하며, 더 건강한 일상을 구축하는 데 도움이 되는지 알아보세요. 지금 바로 탐색하여 나에게 딱 맞는 도구를 찾아보세요!
7 도구
xix.ai
암호
Python 오류, API 로그 및 스택 트레이지 분류를 위한 ChatGPT 디버깅 도구
2026년 최신 최고의 ChatGPT 디버깅 도구로 Python 오류, API 로그, 스택 트레이지 분류를 XIX.AI에서 만나보세요. 이 엄선된 상위 솔루션 목록은 무료 대 유료 비교, 실제 테스트, 상세한 순위를 제공하여 생산성을 크게 향상시키고 복잡한 기술 문제를 더 빠르게 해결할 수 있는 가장 강력한 도구를 찾을 수 있도록 도와줍니다. 지금 탐색하여 완벽한 솔루션을 발견하세요!
9 도구
xix.ai
텍스트 음성 변환
제품 데모 비디오용 AI 보이스오버 도구
2026년 최신 최고의 평점 높은 AI 음성 합성 도구들이 XIX.AI에서 만나보세요! 이 선별된 목록은 강력한 게임 체인저 옵션들을 특징으로 하며, 전문적인 품질의 오디오 콘텐츠를 빠르게 제작할 수 있도록 도와주어 데모 효율성을 크게 향상시킵니다. 우리는 실제 테스트를 수행하고 무료 대 유료 비교와 매주 업데이트되는 랭킹을 제공하여 완벽한 도구를 찾을 수 있도록 지원합니다. 지금 탐색하여 AI의 이점을 잠금 해제하세요!
10 도구
xix.ai
사업
스타트업 검증용 AI 사업 계획서 작성 도구
2026년 스타트업 검증에 가장 적합한 최신 AI 사업 계획 도구! XIX.AI는 실제 테스트를 거쳐 정확한 결과를 제공하는, 판도를 바꿀 만한 강력한 도구들을 엄선하여 최고 평점을 받은 목록을 마련했습니다. 무료 버전과 유료 버전의 비교 정보, 상세한 순위, 그리고 이해하기 쉬운 인사이트를 통해 여러분에게 딱 맞는 솔루션을 선택하고 스타트업의 성공률을 높일 수 있습니다. 지금 바로 살펴보고 AI 경쟁 우위를 확보하세요!
9 도구
xix.ai
챗봇
역할극 및 대화 연습을 위한 AI 채팅 앱
2026년 최신 최고의 AI 채팅 앱: 역할극 및 대화 연습용! XIX.AI는 엄격한 실제 테스트를 거쳐 탁월한 결과를 제공하는 강력한 필수 도구들의 최고 평점 목록을 선별합니다. 무료와 유료 비교, 종합 순위, 그리고 이러한 앱들이 어떻게 언어 능력과 의사소통 자신감을 효과적으로 향상시킬 수 있는지에 대한 통찰력을 찾을 수 있습니다. 지금 탐색하여 연습에 완벽한 도구를 발견하세요!
10 도구
xix.ai
설계
제품 팀을 위한 최고의 AI 와이어프레임 도구
2026년 제품 팀을 위한 최신 최고 평점 AI 와이어프레임 도구 모음! 이 엄선된 목록은 실제 테스트와 철저한 평가를 통해 생산성을 획기적으로 높여주는 강력하고 혁신적인 솔루션을 소개합니다. 여기에는 여러분에게 딱 맞는 도구를 찾을 수 있도록 무료 버전과 유료 버전을 상세히 비교한 내용도 포함되어 있습니다. XIX.AI는 여러분의 결정을 돕기 위해 전문가의 통찰력을 제공합니다. 지금 바로 살펴보고 여러분에게 딱 맞는 도구를 발견하며, 제품 개발에서 AI의 경쟁력을 확보하세요!
8 도구
xix.ai
의견 (0)
0/500
Liquid AI와 Hugging Face는 LFM2.5 시리즈용 DSpark 초안 모델 체크포인트를 공식 출시했으며, 여기에는 LFM2.5-1.2B-Instruct, LFM2.5-2.6B, LFM2.5-8B-A1B가 포함됩니다. 이번 혁신을 통해 출력 품질을 유지하면서도 추론 처리량을 대폭 향상시키는 새로운 추측적 디코딩 경로가 도입되었습니다.
주요 성능 향상 및 실제 적용 사례
실제 테스트 결과, DSpark의 놀라운 가속 효과가 입증되었습니다. GPU에서는 처리량이 최대 3.18배 증가했으며, 엣지 디바이스에서는 최대 2.87배의 성능 향상을 보였습니다.
엣지 에이전트 추론에서 LFM2.5-2.6B는 함수 호출 지연 시간을 평균 57% 줄여줍니다. M4 Max MacBook Pro에서 테스트한 결과, 초당 최대 139 토큰의 속도를 달성하여 로컬 에이전트 배포의 장벽을 낮추고, 독점적인 클라우드 모델에 필적하는 사용자 경험을 제공합니다.
DSpark의 아키텍처와 작동 원리 이해
기존 LLM 추론은 대부분의 시간이 DRAM에서 SRAM으로 가중치를 스트리밍하는 데 소요되기 때문에 메모리 대역폭에 의해 병목 현상이 발생합니다. 추측적 디코딩(Speculative decoding)은 경량 드래프트 모델을 사용하여 후보 토큰을 생성하고, 이를 대상 모델의 단일 포워드 패스에서 검증함으로써 이 문제를 해결하며, 가중치 로딩 비용을 효과적으로 분산시킵니다.
DSpark는 다음 세 가지 핵심 구성 요소를 통해 기존 기법들을 통합합니다:
병렬 백본 네트워크: DFlash와 유사하게, 대상 모델의 컨텍스트 특징을 기반으로 단일 전진 통과(forward pass)에서 모든 초안 토큰에 대한 숨겨진 상태를 생성합니다.순차적 헤드(마르코프 헤드): 인접한 토큰 간의 마르코프 연쇄를 시뮬레이션하여 의존성을 강화하고 후속 위치에 대한 수용률을 향상시킵니다.신뢰도 스케줄링 검증기: 각 토큰의 생존 확률을 예측하며, 검증 비용이 절감 효과를 상회할 경우 신뢰도가 낮은 접미사를 자동으로 제거합니다.훈련을 위해 초안 모델은 SFT, 채팅, 코드, 함수 호출 등을 포함한 다양한 데이터셋 조합을 활용합니다. 철저한 제거 실험을 거친 후, 초기 버전은 5개의 레이어와 9개의 블록으로 구성된 어텐션 전용 아키텍처를 채택하여 매개변수를 약 3억 개 수준으로 유지합니다.
품질 보증 및 생태계 통합
추측적 디코딩으로 인해, 탐욕적 디코딩은 대상 모델의 분포와 완벽하게 일치하는 초안 토큰만 수용합니다. 거부된 토큰은 대상 모델의 출력으로 대체되어, 생성된 시퀀스가 벤치마크에서 정확도 손실 없이 기준 탐욕적 디코딩 구조와 일치하도록 보장합니다.
출시 당시, DSpark는 주요 추론 프레임워크와의 호환성을 확보했습니다:
SGLang: 전용 통합 및 시작 구성을 통해 가속기 상에서 실행을 지원합니다.llama.cpp: 공식 빌드 지원을 제공하여, 사용자가 명령줄을 통해 해당 GGUF 가중치 및 초안 모델 파일을 불러올 수 있도록 합니다.
유니트리가 휴머노이드 로봇 공학의 미래를 어떻게 만들어가고 있는가
유니트리(Unitree)의 새로운 신체 기반 AI 로봇은 초광각 4D 라이다(LiDAR) 기술을 탑재해 현실 세계에서의 정교한 내비게이션을 구현합니다. 출처: 유니트리유니트리(Unitree)의 왕싱싱(Wang Xingxing) CEO는 휴머노이드 로봇이 낯선 가정 환경에 배치되었을 때 작업의 80%를 수행할 수 있도록 ‘월드 모델’ 분야의 획기적인 발전을
왜 Abnormal AI가 ‘Daybreak’에서 OpenAI와 파트너십을 맺었는가
OpenAI 사이버 부문 제품 책임자 마이클 아이엘로 | 출처: 마이클 아이엘로/LinkedIn애브노멀 AI, 오픈AI의 ‘데이브레이크(Daybreak)’ 프로그램에 합류… 마이크 아이엘로, 이번 파트너십이 기업의 실용적인 방어 체계 도입을 가속화할 것이라고 밝혀선도적인 최첨단 AI 기업인 오픈AI(OpenAI)는 기업들이 비즈니스 및 제품 개발 전반에 걸
AI 에이전트 ‘엘리먼츠 클로’, 초전도체 소재 개발 완료
인공지능이 과학 탐구의 경계를 넓혀가는 가운데, 중요한 이정표가 달성되었습니다. 7월 3일, 알리바바 DAMO 아카데미는 중국 인민대학교 및 중국과학원 대학과 협력하여 초전도 물질 발견에 특화된 세계 최초의 AI 에이전트인 ‘Elements Claw’를 공개했습니다. 이번 획기적인 성과는 과학적 발견의 패러다임 전환을 의미하며, AI를 보조적인 역할에서 독
2026년 교대 근무자, 시차 적응, 더 나은 일상 습관을 위한 최신 최고의 AI 수면 코칭 도구! XIX.AI는 정확한 지침을 제공하기 위해 실제 테스트를 거친, 획기적인 고성능 도구들의 최고 평점 목록을 엄선했습니다. 무료 버전과 유료 버전의 상세한 비교 정보를 확인하고, 이 꼭 사용해 봐야 할 솔루션들이 어떻게 수면의 질을 높이고, 시차 적응을 빠르게 하며, 더 건강한 일상을 구축하는 데 도움이 되는지 알아보세요. 지금 바로 탐색하여 나에게 딱 맞는 도구를 찾아보세요!
7 도구
xix.ai
2026년 최신 최고의 ChatGPT 디버깅 도구로 Python 오류, API 로그, 스택 트레이지 분류를 XIX.AI에서 만나보세요. 이 엄선된 상위 솔루션 목록은 무료 대 유료 비교, 실제 테스트, 상세한 순위를 제공하여 생산성을 크게 향상시키고 복잡한 기술 문제를 더 빠르게 해결할 수 있는 가장 강력한 도구를 찾을 수 있도록 도와줍니다. 지금 탐색하여 완벽한 솔루션을 발견하세요!
9 도구
xix.ai
2026년 최신 최고의 평점 높은 AI 음성 합성 도구들이 XIX.AI에서 만나보세요! 이 선별된 목록은 강력한 게임 체인저 옵션들을 특징으로 하며, 전문적인 품질의 오디오 콘텐츠를 빠르게 제작할 수 있도록 도와주어 데모 효율성을 크게 향상시킵니다. 우리는 실제 테스트를 수행하고 무료 대 유료 비교와 매주 업데이트되는 랭킹을 제공하여 완벽한 도구를 찾을 수 있도록 지원합니다. 지금 탐색하여 AI의 이점을 잠금 해제하세요!
10 도구
xix.ai
2026년 스타트업 검증에 가장 적합한 최신 AI 사업 계획 도구! XIX.AI는 실제 테스트를 거쳐 정확한 결과를 제공하는, 판도를 바꿀 만한 강력한 도구들을 엄선하여 최고 평점을 받은 목록을 마련했습니다. 무료 버전과 유료 버전의 비교 정보, 상세한 순위, 그리고 이해하기 쉬운 인사이트를 통해 여러분에게 딱 맞는 솔루션을 선택하고 스타트업의 성공률을 높일 수 있습니다. 지금 바로 살펴보고 AI 경쟁 우위를 확보하세요!
9 도구
xix.ai
2026년 최신 최고의 AI 채팅 앱: 역할극 및 대화 연습용! XIX.AI는 엄격한 실제 테스트를 거쳐 탁월한 결과를 제공하는 강력한 필수 도구들의 최고 평점 목록을 선별합니다. 무료와 유료 비교, 종합 순위, 그리고 이러한 앱들이 어떻게 언어 능력과 의사소통 자신감을 효과적으로 향상시킬 수 있는지에 대한 통찰력을 찾을 수 있습니다. 지금 탐색하여 연습에 완벽한 도구를 발견하세요!
10 도구
xix.ai
2026년 제품 팀을 위한 최신 최고 평점 AI 와이어프레임 도구 모음! 이 엄선된 목록은 실제 테스트와 철저한 평가를 통해 생산성을 획기적으로 높여주는 강력하고 혁신적인 솔루션을 소개합니다. 여기에는 여러분에게 딱 맞는 도구를 찾을 수 있도록 무료 버전과 유료 버전을 상세히 비교한 내용도 포함되어 있습니다. XIX.AI는 여러분의 결정을 돕기 위해 전문가의 통찰력을 제공합니다. 지금 바로 살펴보고 여러분에게 딱 맞는 도구를 발견하며, 제품 개발에서 AI의 경쟁력을 확보하세요!
8 도구
xix.ai
