Kleine KI-Karte verarbeitet hohe Verarbeitungslasten für mobile Smart-Produkte

Nvidia hat mit dem Jetson Xavier NX ein neues Board auf den Markt gebracht, das die Rechenleistung des AGX Xavier im Formfaktor des Jetson Nano (70 x 45 mm) bietet. Das Xavier NX Board kann 14 bis 21 TOPS INT8 Leistung bei Leistungsbudgets zwischen 10W bzw. 15W erreichen. Diese Rechenleistung würde es dem Unternehmen ermöglichen, mehrere neuronale Netze parallel zu betreiben und Daten von mehreren hochauflösenden Bildsensoren gleichzeitig zu verarbeiten.

Das Jetson Xavier NX Board verfügt über einen Nvidia Volta GPU AI-Beschleuniger mit 384 CUDA-Kernen und 48 Tensor-Kernen, mit zwei Nvidia Deep-Learning-Beschleunigern. Die CPU ist eine 64-Bit-CPU von Nvidia Carmel Arm mit 6 Kernen.

Der Jetson NX gesellt sich zum Jetson AGX Xavier (bis zu 32 TOPS) für Embedded-Anwendungen, einschließlich Robotik, und zum Jetson Nano, einem Embedded Board mit kleinem Formfaktor, das 0,5 TFLOPS FP16-Leistung bietet. Es gibt auch den Jetson TX2 – der NX ist kleiner und liefert eine deutlich höhere (bis zu 15-fache) Leistung in derselben Leistungsklasse.

Nvidias Jetson Xavier NX Board ist kleiner als eine Kreditkarte und bietet 1,4 TOPS/W (Bild:Nvidia)

„Jetson Xavier NX passt in den benötigten Marktraum zwischen TX2 und AGX Xavier“, sagte Patrick Moorhead, President und Principal Analyst, Moor Insights and Strategy. „Es ist ideal für Geräte, die viele Sensoren benötigen, sogar eine batteriebetriebene, leistungsstärkste Drohne. Der größte Vorteil ist eine enorme Menge an ML-Inferenzleistung mit einer ausgereiften Toolchain… Es gibt nichts Vergleichbares mit so viel ML-Leistung bei diesem Leistungsbereich.“

„Dies ist der kleinste KI-Supercomputer der Welt“, sagt Rob Csongor, VP of Autonomous Machines bei Nvidia. „Das ist Leistung auf Xavier-Niveau in einer Nanogröße.“

Zu den Anwendungen, die Nvidia anstrebt, gehören Embedded- und Robotikanwendungen mit einer verfügbaren Leistung von 10 W bis 15 W. Zu den Anwendungen gehören kleine kommerzielle Lieferroboter und Drohnen, die mehrere Kamerastreams verarbeiten müssen, Roboterarme mit hochauflösenden Sensoren in den Logistik- und Produktionsmärkten, Videoanalysesysteme bei beengten Platzverhältnissen und tragbare Bildgebungsgeräte wie medizinische Geräte.

„Es gibt sehr wichtige spezifische Marktsegmente, die durch die Notwendigkeit einer Leistungssteigerung in einer Box definiert werden, die nicht größer wird“, sagte Csongor. „Auch das Strombudget erhöht sich nicht. Wenn Sie also innerhalb dieser Beschränkungen nicht viel oder keine Leistung erbringen können, sind die Anwendungen eingeschränkt. Xavier NX ist perfekt für diese Segmente.“

Der Jetson Xavier NX, der mit Jetson Nano pinkompatibel ist, wird im März 2020 erhältlich sein.