NVIDIA, 엣지 로봇 공학용 ‘제트슨 오린 나노 2’의 추론 속도 향상

Jetson Orin Nano 2는 이전 모델과 동일한 성능 수준에서 더 적은 전력을 소비합니다. 출처: NVIDIA

NVIDIA는 AI 모델의 효율성이 높아짐에 따라 더 많은 기기가 자율적으로 작동할 수 있게 되겠지만, 개발자들에게는 엣지 AI에 최적화된 소형 고효율 컴퓨터가 필요하다고 강조했습니다. 이 회사는 오늘 엣지 AI를 위한 새로운 엔트리급 컴퓨터인 ‘NVIDIA Jetson Orin Nano 2’를 공개하며, 이를 통해 전 세계 수백만 명의 개발자가 물리적 AI 애플리케이션을 위한 시스템을 구축할 수 있게 될 것이라고 밝혔습니다.

“오늘날의 중소형 프런티어 모델들은 작년 최대 규모의 프런티어 모델에 버금가는 정확도를 달성하여, 엣지 기기에서 실시간 지능을 구현할 수 있게 되었습니다.”라고 엔비디아의 로봇공학 및 엣지 AI 부문 부사장인 디푸 탈라(Deepu Talla)는 밝혔습니다. “제트슨 오린 나노 2 컴퓨터는 수백만 명의 개발자가 이러한 혁신을 손쉽게 활용할 수 있도록 하며, 스마트 드론, 로봇, 비전 AI 시스템에서 실시간 추론에 필요한 성능과 에너지 효율성을 제공합니다.”

그는 기자 간담회에서 “지난 3개월 동안 물리적 AI를 구동하는 오픈 모델의 진화와 그 중요성이 얼마나 커졌는지 목격했습니다”라고 덧붙였습니다. “1년 전만 해도 6,000억 또는 1조 개의 매개변수를 가진 최첨단 모델들이 있었습니다. 1년이 지난 지금, 우리는 오린 나노 2의 입문급 에지 AI 제품까지 그 수준의 정확도를 구현할 수 있게 되었습니다. 정말 놀라운 일입니다.”

NVIDIA Jetson Orin Nano 2는 로봇 공학을 위한 회사의 ‘3대 컴퓨터, 풀스택(full-stack)’ 접근 방식의 일환으로, Omniverse with Cosmos가 테스트를 위한 시뮬레이션을 제공하고, DJX가 훈련을 지원하며, Jetson은 런타임 배포를 담당하는 ‘로봇의 뇌’ 역할을 합니다.

제트슨 오린 나노 2, 정확도와 처리 속도 향상

“제트슨 오린 나노 2는 비용 효율적이고 전력 효율이 뛰어난 시스템에서 AI 및 비디오 처리 성능을 획기적으로 향상시킵니다,”라고 엔비디아는 밝혔다. 이 시스템은 초당 78조 회 연산(TOPS)의 AI 연산 성능, 8GB 메모리, 8코어 Arm CPU를 탑재하고 있다.

제트슨 오린 나노 2는 개선된 텐서 코어와 더 높은 메모리 대역폭을 통해 제트슨 오린 나노 슈퍼의 추론 성능을 두 배로 높였으며, 동시에 동일한 소형 폼 팩터를 유지합니다. Talla는 The Robot Report와의 인터뷰에서 “15와트 모드에서 Jetson Orin Nano 2는 이전 모델과 동일한 피크-투-피크 성능을 제공하면서도 전력 소비량을 40% 줄였습니다”라고 밝혔다 .

NVIDIA는 데이터 센터와 동일한 GPU 아키텍처를 기반으로 구축된 Nano 2에서 기존 오픈 소스 소프트웨어 스택을 실행할 수 있다고 밝혔습니다. 이 제품은 기존 Orin 고객들이 바로 도입할 수 있도록 설계되었습니다.

개발자들은 제트슨 에이전트 스킬(Jetson agent skills) 및 엔비디아의 기술 생태계와 결합하여, 이제 메모리 효율적인 엣지 추론에 최적화된 최신 대규모 언어 모델(LLM)과 비전 언어 모델(VLM)을 실행할 수 있습니다. 여기에는 엔비디아 코스모스(NVIDIA Cosmos)와 네모트론(Nemotron), 젬마 4(Gemma 4), 콴 3(Qwen 3)과 같은 오픈 소스 모델이 포함됩니다.

탈라(Talla)는 기자 간담회에서 “이로써 이전에는 불가능했던 수준의 지능이 갑자기 실현되었습니다. 우리는 지난 10년 동안 엣지 AI 분야에서 이를 꿈꿔왔습니다”라고 말했습니다. “지금은 매우 중요한 순간입니다. 이제 모든 로봇 공학 및 물리적 AI 애플리케이션에 대해, LLM 및 VLM과 같은 최첨단 AI 모델을 다른 자율 기능 위에 실제로 적용할 수 있게 되었습니다. 우리는 이것이 물리적 세계에서 AI의 개발과 배포를 가속화할 것이라고 믿습니다.”

NVIDIA는 이미 주류 애플리케이션을 위한 Orin NX, Orin, T3000/T2000과 고급 용도를 위한 Jetson T5000/T4000을 포함해 자사의 하이엔드 Jetson 제품군을 업데이트한 바 있습니다.

개발자들은 물리적 AI 애플리케이션을 위해 NVIDIA 스택을 활용하고 있습니다

엔비디아는 이미 300만 명 이상의 개발자가 자사의 로봇 공학 스택을 기반으로 개발을 진행 중이라고 밝혔다. 코그넥스(Cognex), 두산 밥캣(Doosan Bobcat), 매틱(Matic), 윙(Wing)과 같은 파트너사들은 소형 기기 내 실제 에지 AI를 위해 제트슨 오린 나노 2(Jetson Orin Nano 2)를 평가 중이거나 이미 사용하고 있다.

탈라(Talla)는 “수천 개의 기업이 제트슨 기반의 엔트리 레벨 엣지 AI를 탑재한 제품을 출시하고 있으며, 1만 개 이상의 기업이 제트슨을 기반으로 한 제품을 출시 중이거나 개발 중”이라고 말했다.

알파벳(Alphabet)의 자회사인 윙(Wing)은 자사의 배송 드론 함대에 제트슨 오린 나노 슈퍼(Jetson Orin Nano Super)와 엔비디아 소프트웨어 스택을 사용하고 있습니다. 이 회사는 지역 업체에서 주택 마당까지 더 빠르고 안전한 배송을 위해 실시간 AI 지각 및 추론 기능을 발전시키기 위해 제트슨 오린 나노 2를 평가할 계획입니다.

윙(Wing)의 지각 기술 책임자인 디누카 아베와르데나(Dinuka Abeywardena)는 “드론 배송은 현실 세계를 빠르고 안정적으로 이해할 수 있게 해주는 AI에 달려 있다”고 말했다. “윙은 제트슨 오린 나노 2를 검토 중이며, 이를 통해 고객에게 더 빠르고 신뢰할 수 있는 배송 서비스를 제공할 수 있는, 반응성이 뛰어나고 에너지 효율이 높은 드론을 개발할 수 있는 길을 모색하고 있다.”

매틱 로보틱스(Matic Robots)는 제트슨 오린 나노 2를 활용해 자사의 가정용 청소 로봇과 더 직관적인 상호작용을 구현하고 있습니다. 이 회사는 로봇에 대화형 AI, 제스처 감지, 정밀 매핑, 가정 환경에 대한 의미적 이해 기능 및 더 높은 자율성을 부여하고 있습니다.

“가정용 로봇은 사람을 이해하고, 공간을 정밀하게 매핑하며, 사물과 공간의 배치를 파악하고, 역동적이고 끊임없이 변화하는 환경에서 자율적으로 청소할 수 있어야 합니다.”라고 Matic Robotics의 공동 창립자이자 CEO인 나브니트 달랄(Navneet Dalal)은 말했습니다. “제트슨 오린 나노 2를 통해 매틱은 실시간 인식, 상호작용 및 내비게이션을 위해 설계된 소형 가정용 로봇 플랫폼에서 최첨단 AI 모델을 엣지 환경에서 구동할 수 있습니다.”

“동반자 로봇의 문제점은 그동안 인공지능 성능이 부족했다는 점이었지만, 이제 오린 나노(Orin Nano)나 오린 나노 2에서 실시간으로 구동 가능한 최첨단 인공지능 기술이 등장함에 따라 우리는 새로운 유형의 애플리케이션을 구현할 수 있게 되었습니다,”라고 탈라(Talla)는 말했습니다. 그는 또한 음성 인식을 위해 소형 LLM을 사용하는 Hugging Face의 ‘Reachy Mini’를 언급했다.

NVIDIA는 AAEON, ADLINK, Advantech, Aetina, Antmicro, Aptiv, Auvidea, AVerMedia, Chuanglebo, Connect Tech, ForeCR, JWIPC, Neurealm, Plink, Realtimes, RidgeRun, RS, Seeed Studio, Tauro Tech, Twowin, TZTek, YUAN을 고객의 시장 출시 기간 단축을 돕기 위해 캐리어 보드, 하드웨어, 맞춤형 AI 소프트웨어 및 레퍼런스 시스템을 개발하는 제트슨(Jetson) 파트너사로 언급했다.

탈라(Talla)는 NVIDIA의 기술이 일반적인 내비게이션과 정교한 조작을 가능하게 할 뿐만 아니라, 로봇 훈련, 안전성 및 자율성 측면에서도 개선을 가져올 것으로 기대한다고 밝혔습니다. NVIDIA는 Jetson Orin Nano 2 모듈과 개발자 키트가 2027년 상반기에 출시될 예정이라고 밝혔습니다.