Nvidia GTC:Neues Jetson-Modul bietet 200 TOPS für Embedded Edge-KI

Auf der Nvidia GTC wurde der Nvidia Jetson AGX Orin angekündigt, der nach Angaben des Unternehmens der kleinste, leistungsstärkste und energieeffizienteste KI-Supercomputer der Welt für Robotik, autonome Maschinen, medizinische Geräte und andere Formen des Embedded Computing am Edge ist.

Basierend auf der Nvidia Ampere-Architektur bietet Jetson AGX Orin die sechsfache Rechenleistung und behält Formfaktor und Pin-Kompatibilität mit seinem Vorgänger Jetson AGX Xavier bei. Er liefert 200 Billionen Operationen pro Sekunde, ähnlich einem GPU-fähigen Server, aber in einer Größe, die in Ihre Handfläche passt.

Der neue Jetson-Computer beschleunigt den gesamten Nvidia-KI-Software-Stack und ermöglicht es Entwicklern, die größten und komplexesten Modelle bereitzustellen, die benötigt werden, um Edge-KI- und Robotik-Herausforderungen in Bezug auf natürliches Sprachverständnis, 3D-Wahrnehmung und Multisensor-Fusion zu lösen.

„Da Robotik und Embedded Computing die Fertigung, das Gesundheitswesen, den Einzelhandel, das Transportwesen, Smart Cities und andere wichtige Sektoren der Wirtschaft verändern, steigt die Nachfrage nach Verarbeitung weiter“, sagte Deepu Talla, Vice President und General Manager of Embedded and Edge Computing bei Nvidia . „Jetson AGX Orin erfüllt diesen Bedarf und ermöglicht es den 850.000 Jetson-Entwicklern und über 6.000 Unternehmen, die kommerzielle Produkte darauf aufbauen, autonome Maschinen und Edge-KI-Anwendungen zu erstellen und bereitzustellen, die einst unmöglich schienen.“

Jetson AGX Orin verfügt über eine Nvidia Ampere-Architektur-GPU und Arm Cortex-A78AE-CPUs sowie Deep-Learning- und Vision-Beschleuniger der nächsten Generation. Hochgeschwindigkeitsschnittstellen, schnellere Speicherbandbreite und multimodale Sensorunterstützung bieten die Möglichkeit, mehrere gleichzeitige KI-Anwendungspipelines zu versorgen.

Software- und Ökosystemunterstützung
Kunden, die Jetson AGX Orin verwenden, können den beschleunigten CUDA-X-Computing-Stack, das JetPack SDK und die neuesten Nvidia-Tools für die Anwendungsentwicklung und -optimierung, einschließlich Cloud-nativer Entwicklungsworkflows, nutzen. Vortrainierte Modelle aus dem Nvidia NGC-Katalog sind optimiert und bereit für die Feinabstimmung mit dem TAO-Toolkit und Kundendatensätzen. Dies reduziert Zeit und Kosten für KI-Bereitstellungen in Produktionsqualität, während Cloud-native Technologien nahtlose Updates während der gesamten Lebensdauer eines Produkts ermöglichen.

Das Jetson-Embedded-Computing-Partner-Ökosystem umfasst eine breite Palette von Dienstleistungen und Produkten, darunter Kameras und andere multimodale Sensoren, Trägerplatinen, Hardware-Design-Services, KI- und Systemsoftware, Entwicklertools und kundenspezifische Softwareentwicklung.

„Angetrieben von den Fortschritten in der KI wächst der Robotikmarkt exponentiell“, sagte Jim McGregor, Principal Analyst bei TIRIAS Research. „Nvidia ist der anerkannte Marktführer im Bereich KI und nutzt dieses Know-how weiterhin, um die Robotik durch ein robustes Ökosystem und vollständige End-to-End-Lösungen voranzubringen, einschließlich einer Reihe von Hardwareplattformen, die gängige Tools und neuronale Netzwerkmodelle nutzen. Die neue Jetson-Plattform bringt die Leistung und Vielseitigkeit der Nvidia Ampere-Architektur mit, um noch weitere Fortschritte bei autonomen mobilen Robotern für eine Vielzahl von Anwendungen zu ermöglichen, die von der Landwirtschaft und Fertigung bis hin zum Gesundheitswesen und intelligenten Städten reichen.“

Für bestimmte Anwendungsfälle umfassen Software-Frameworks Nvidia Isaac Sim on Omniverse für Robotik, Nvidia Clara Holoscan SDK für das Gesundheitswesen und Nvidia DRIVE für autonomes Fahren. Die neueste Version von Isaac bietet umfassende Unterstützung für die Entwicklergemeinschaft des Roboterbetriebssystems (ROS). Nvidia hat außerdem den neuen Omniverse Replicator für die synthetische Datengenerierung und Isaac GEMs veröffentlicht, hardwarebeschleunigte Softwarepakete, die es ROS-Entwicklern erleichtern, leistungsstarke KI-fähige Roboter auf der Jetson-Plattform zu bauen.

Echtzeiterkennung für medizinische Instrumente und Geräte
AGX Orin treibt Nvidia Clara Holoscan an, eine neue Computerplattform für das Gesundheitswesen, die es Entwicklern ermöglicht, softwaredefinierte medizinische Geräte zu entwickeln, die Streaming-Anwendungen mit geringer Latenz am Edge ausführen. Diese Rechenleistung wird für Geräte wie Roboterchirurgie, Endoskopie und diagnostische Bildgebungssysteme benötigt, um Physik, Bildgebung und Visualisierung zu verarbeiten und eine Echtzeit-KI-Entscheidungsunterstützung für Ärzte zu ermöglichen. Clara Holoscan bietet Entwicklern eine flexible Plattform zum Erstellen von KI-Mikroservices, die Streaming-Anwendungen mit geringer Latenz auf Geräten ausführen und gleichzeitig komplexere Aufgaben an das Rechenzentrum übergeben.

Transport-KI-Assistenten
Der DRIVE AGX Orin, der ebenfalls von der Ampere-Architektur wie Jetson AGX Orin angetrieben wird, ist eine Plattform für die Transportindustrie. Es ist der fortschrittliche Prozessor hinter dem neu angekündigten Nvidia DRIVE Concierge und DRIVE Chauffeur – zwei KI-Plattformen, die das Fahrerlebnis im Auto durch KI-Assistenten neu definieren bzw. sicheres, autonomes Fahren ermöglichen. Zahlreiche globale Automobil- und Lkw-Hersteller, New-Energy-Fahrzeug-Startups und Shuttle-Unternehmen nutzen seine leistungsstarke KI-Rechenleistung für ihre nächste Generation intelligenter, softwaredefinierter Mobilitätslösungen.

Das Jetson AGX Orin-Modul und das Entwicklerkit werden im ersten Quartal 2022 erhältlich sein.