NVIDIA GTC stellt Jetson AGX Orin vor: 200 TOPS im kleinsten Edge-AI-Supercomputer

Auf der Global Technology Conference (GTC) von NVIDIA hat das Unternehmen den Jetson AGX Orin vorgestellt, einen kompakten und dennoch leistungsstarken KI-Supercomputer, der für Robotik, autonome Systeme, medizinische Geräte und eine Vielzahl eingebetteter Edge-Anwendungen konzipiert ist.

Leistung und Architektur

Basierend auf der Ampere-Architektur liefert der Jetson AGX Orin 200 Billionen Operationen pro Sekunde – vergleichbar mit einer Server-GPU – und behält dabei denselben Formfaktor und die Pin-Kompatibilität wie sein Vorgänger, der Jetson AGX Xavier. Das Ergebnis ist eine sechsfache Steigerung der Rechenleistung in einem handflächengroßen Modul.

Mit dem vollständig beschleunigten NVIDIA-KI-Software-Stack können Entwickler die komplexesten Modelle für Edge-KI-Herausforderungen einsetzen, darunter natürliches Sprachverständnis, 3D-Wahrnehmung und Multisensor-Fusion.

„Robotik und eingebettetes Computing verändern Fertigung, Gesundheitswesen, Handel, Transport und Smart Cities und treiben die Nachfrage nach Hochleistungsverarbeitung an“, sagte Deepu Talla, Vice President und General Manager für Embedded und Edge Computing bei NVIDIA. „Der Jetson AGX Orin deckt diesen Bedarf und befähigt die 850.000 Jetson-Entwickler und über 6.000 Unternehmen, die kommerzielle Produkte entwickeln, autonome Maschinen und Edge-KI-Lösungen zu schaffen, die bisher unerreichbar waren.“

Das Modul integriert eine Ampere-GPU, Arm Cortex-A78AE-CPUs sowie Deep-Learning- und Vision-Beschleuniger der nächsten Generation. Hochgeschwindigkeits-Schnittstellen, erweiterte Speicherbandbreite und multimodale Sensorunterstützung ermöglichen mehrere parallele KI-Pipelines.

Software und Ökosystem

Kunden des Jetson AGX Orin erhalten Zugriff auf den CUDA-X-beschleunigten Computing-Stack, das JetPack SDK und NVIDIAs neueste Tools, einschließlich cloud-nativer Workflows. Vortrainierte Modelle aus dem NVIDIA NGC-Katalog sind für das Fine-Tuning mit dem TAO Toolkit vorkonfiguriert, was Zeit und Kosten für produktionsreife KI-Einführungen drastisch reduziert. Cloud-native Technologien vereinfachen zudem Updates über den gesamten Produktlebenszyklus.

Das Jetson-Partner-Ökosystem bietet Kameras, multimodale Sensoren, Carrier-Boards, Hardware-Design-Services, KI- und Systemsoftware, Entwicklertools und maßgeschneiderte Softwareentwicklung – eine umfassende Umgebung für schnelle Innovation.

Branchenimpact

„KI-Fortschritte beschleunigen den Robotik-Markt“, stellte Jim McGregor, Principal Analyst bei TIRIAS Research, fest. „NVIDIAs Führungsrolle in der KI, kombiniert mit einem robusten Ökosystem und End-to-End-Lösungen, ermöglicht beispiellose Fortschritte bei autonomen mobilen Robotern in Landwirtschaft, Fertigung, Gesundheitswesen und Smart Cities.“

Wichtige Software-Frameworks umfassen NVIDIA Isaac Sim auf Omniverse für Robotik, NVIDIA Clara Holoscan SDK für das Gesundheitswesen und NVIDIA DRIVE für autonomes Fahren. Das neueste Isaac-Release bietet verbesserten ROS-Support, während Omniverse Replicator und Isaac GEMs synthetische Datengenerierung und hardwarebeschleunigte Pakete für ROS-Entwickler bereitstellen.

Echtzeit-Sensing für medizinische Geräte

Der Jetson AGX Orin treibt Clara Holoscan an, eine Computing-Plattform, die Entwicklern den Bau softwaredefinierter medizinischer Geräte ermöglicht, die Low-Latency-Streaming und KI-gestützte Echtzeit-Entscheidungsunterstützung bieten. Diese Fähigkeit ist essenziell für robotergestützte Chirurgie, Endoskopie und diagnostische Bildgebung, da Geräte Physik-, Bild- und Visualisierungsdaten am Edge verarbeiten und komplexere Aufgaben an Rechenzentren delegieren können.

KI-Assistenten im Transportwesen

Der DRIVE AGX Orin, ebenfalls auf Ampere basierend, treibt NVIDIA DRIVE Concierge und DRIVE Chauffeur an – KI-Plattformen, die das In-Car-Passagiererlebnis neu definieren und sicheres autonomes Fahren ermöglichen. Globale Automobilhersteller, New-Energy-Vehicle-Startups und Shuttle-Betreiber nutzen seine Hochleistungs-KI-Rechenleistung für nächste Generationen intelligenter Mobilitätslösungen.

Das Jetson AGX Orin Modul und das Developer Kit werden im ersten Quartal 2022 ausgeliefert.