NVIDIA steigert die Inferenzgeschwindigkeit des Jetson Orin Nano 2 für die Edge-Robotik

Der Jetson Orin Nano 2 verbraucht bei gleicher Leistung wie sein Vorgängermodell weniger Strom. Quelle: NVIDIA

Da KI-Modelle immer effizienter werden, können immer mehr Geräte autonom werden, doch Entwickler benötigen kompakte, energieeffiziente Computer, die speziell für Edge-KI ausgelegt sind, so NVIDIA Corp. Das Unternehmen stellte heute den NVIDIA Jetson Orin Nano 2 vor, einen neuen Einstiegscomputer für Edge-KI, der es laut eigenen Angaben Millionen von Entwicklern weltweit ermöglicht, Systeme für physische KI-Anwendungen zu entwickeln.

„Die heutigen kleinen und mittleren Frontier-Modelle haben die Genauigkeit der größten Frontier-Modelle des letzten Jahres erreicht und ermöglichen damit Echtzeit-Intelligenz für Edge-Geräte“, erklärte Deepu Talla, Vice President für Robotik und Edge-KI bei NVIDIA. „Der Jetson Orin Nano 2-Computer macht diesen Durchbruch für Millionen von Entwicklern zugänglich und bietet die Leistung und Energieeffizienz, die für Echtzeit-Schlussfolgerungen in intelligenten Drohnen, Robotern und Bildverarbeitungs-KI-Systemen erforderlich sind.“

„In den vergangenen drei Monaten haben wir die Entwicklung offener Modelle beobachtet, die physikalische KI antreiben, und gesehen, wie wichtig sie geworden sind“, fügte er während einer Pressekonferenz hinzu. „Vor einem Jahr waren ‚Frontier-Modelle‘ noch Modelle mit 600 Milliarden oder 1 Billion Parametern. Ein Jahr später sind wir in der Lage, dieses Maß an Genauigkeit bis hin zu Edge-KI-Produkten der Einstiegsklasse wie dem Orin Nano 2 zu bringen. Das ist erstaunlich.“

Der NVIDIA Jetson Orin Nano 2 ist Teil des „Drei-Computer-Full-Stack“-Ansatzes des Unternehmens für die Robotik, bei dem Omniverse mit Cosmos die Simulation für Tests bereitstellt, DJX das Training unterstützt und Jetson als „Roboterhirn“ die Laufzeitbereitstellung übernimmt.

Jetson Orin Nano 2 steigert Genauigkeit und Verarbeitungsgeschwindigkeit

„Jetson Orin Nano 2 bietet einen bedeutenden Sprung in der KI- und Videoverarbeitungsleistung in einem kostengünstigen, energieeffizienten System“, so NVIDIA. Das System verfügt über eine KI-Rechenleistung von 78 Billionen Operationen pro Sekunde (TOPS), 8 GB Arbeitsspeicher und eine Achtkern-Arm-CPU.

Jetson Orin Nano 2 verdoppelt die Inferenzleistung des Jetson Orin Nano Super durch verbesserte Tensor-Cores und eine höhere Speicherbandbreite, während der kompakte Formfaktor beibehalten wird. Im 15-Watt-Modus verbraucht der Jetson Orin Nano 2 40 % weniger Strom und liefert dabei die gleiche Spitzenleistung wie sein Vorgänger, erklärte Talla gegenüber The Robot Report.

NVIDIA wies darauf hin, dass sein bestehender offener Software-Stack auf dem Nano 2 laufen kann, der auf derselben GPU-Architektur basiert wie Rechenzentren. Er ist so konzipiert, dass er für bestehende Orin-Kunden nahtlos einsetzbar ist.

In Kombination mit den Jetson-Agent-Skills und dem Technologie-Ökosystem des Unternehmens können Entwickler nun die neuesten großen Sprachmodelle (LLMs) und Vision-Sprachmodelle (VLMs) ausführen, die für speichereffiziente Edge-Inferenz optimiert sind. Dazu gehören offene Modelle wie NVIDIA Cosmos und Nemotron, Gemma 4 sowie Qwen 3.

„Damit erschließt sich plötzlich ein Maß an Intelligenz, das bisher unmöglich war – davon haben wir im Bereich der Edge-KI schon seit einem Jahrzehnt geträumt“, sagte Talla während einer Pressekonferenz. „Dies ist ein bedeutender Moment, in dem wir nun für all diese Robotik- und physischen KI-Anwendungen tatsächlich wegweisende KI-Modelle wie LLMs und VLMs auf die anderen autonomen Fähigkeiten aufsetzen können. Wir glauben, dass dies die Entwicklung und den Einsatz von KI in der physischen Welt beschleunigen wird.“

NVIDIA hatte bereits seine Jetson-Produkte der Oberklasse aktualisiert, darunter den Orin NX, den Orin sowie den T3000/T2000 für Mainstream-Anwendungen und den Jetson T5000/T4000 für anspruchsvolle Einsatzbereiche.

Entwickler nutzen den NVIDIA-Stack für physische KI-Anwendungen

NVIDIA gab an, dass bereits mehr als 3 Millionen Entwickler auf seinem Robotik-Stack aufbauen. Partner wie Cognex, Doosan Bobcat, Matic und Wing evaluieren oder nutzen den Jetson Orin Nano 2 für reale Edge-KI in kompakten Geräten.

„Tausende von Unternehmen bringen Produkte mit Edge-KI der Einstiegsklasse auf Basis von Jetson auf den Markt, und mehr als 10.000 Unternehmen vertreiben oder entwickeln Produkte, die auf Jetson basieren“, sagte Talla.

Die Alphabet-Tochter Wing setzt den „Jetson Orin Nano Super“ und den NVIDIA-Software-Stack in ihrer Lieferdrohnenflotte ein. Das Unternehmen plant, den „Jetson Orin Nano 2“ zu evaluieren, um die Echtzeit-KI-Wahrnehmung und -Schlussfolgerung weiterzuentwickeln und so schnellere und sicherere Lieferungen von lokalen Unternehmen in private Gärten zu ermöglichen.

„Die Lieferung per Drohne hängt von einer KI ab, die ein schnelles und zuverlässiges Verständnis der realen Welt ermöglicht“, sagte Dinuka Abeywardena, Leiter des Bereichs Wahrnehmung bei Wing. „Wing untersucht den Einsatz von Jetson Orin Nano 2, um den Weg zu reaktionsschnelleren, energieeffizienteren Drohnen zu ebnen, die dazu beitragen können, Lieferungen für Kunden schneller und zuverlässiger zu gestalten.“

Matic Robots nutzt den Jetson Orin Nano 2, um intuitivere Interaktionen mit seinen Haushaltsreinigungsrobotern zu ermöglichen. Das Unternehmen stattet die Roboter mit dialogorientierter KI, Gestenerkennung, präziser Kartierung und semantischem Verständnis der häuslichen Umgebung sowie größerer Autonomie aus.

„Haushaltsroboter müssen Menschen verstehen, Räume präzise kartieren, die Anordnung von Objekten und Räumen erfassen und in dynamischen, sich ständig verändernden Umgebungen autonom reinigen“, so Navneet Dalal, Mitbegründer und CEO von Matic Robotics. „Mit dem Jetson Orin Nano 2 kann Matic modernste KI-Modelle am Edge auf einer kompakten Heimrobotik-Plattform ausführen, die für Wahrnehmung, Interaktion und Navigation in Echtzeit entwickelt wurde.“

„Das Problem bei Begleitrobotern war bisher, dass die Intelligenz nicht gut genug war. Doch jetzt, da all diese bahnbrechende Intelligenz verfügbar ist, die in Echtzeit auf dem Orin Nano oder Orin Nano 2 ausgeführt werden kann, können wir eine neue Klasse von Anwendungen ermöglichen“, sagte Talla. Er erwähnte außerdem den „Reachy Mini“ von Hugging Face, der ein kleines LLM für die Spracherkennung nutzt.

NVIDIA nannte AAEON, ADLINK, Advantech, Aetina, Antmicro, Aptiv, Auvidea, AVerMedia, Chuanglebo, Connect Tech, ForeCR, JWIPC, Neurealm, Plink, Realtimes, RidgeRun, RS, Seeed Studio, Tauro Tech, Twowin, TZTek und YUAN als weitere Jetson-Partner an, die Trägerplatinen, Hardware, maßgeschneiderte KI-Software und Referenzsysteme entwickeln, um Kunden dabei zu helfen, die Markteinführungszeit zu verkürzen.

Talla erklärte, er erwarte, dass die Technologie von NVIDIA eine allgemeine Navigation und geschickte Manipulation sowie Verbesserungen beim Training, bei der Sicherheit und bei der Selbstständigkeit von Robotern ermöglichen werde. NVIDIA gab bekannt, dass das Jetson Orin Nano 2-Modul und das Entwickler-Kit in der ersten Hälfte des Jahres 2027 erhältlich sein werden.