Edge AI: Warum die Verarbeitung auf die Geräteebene verlagert wird

Kernaussagen:

• Der rasante Anstieg vernetzter Geräte und Datenmengen macht verteiltes Rechnen für Geschwindigkeit, Leistung und Datensicherheit unverzichtbar.
• Strategische Schritte von NVIDIA und VMware ermöglichen es, datenintensive KI- und Machine-Learning-Workloads direkt am Edge auszuführen.
• Edge-Verarbeitung bietet greifbare Vorteile in einem breiten Spektrum von Branchen – von Industrial IoT bis hin zu Consumer-Anwendungen.

Mit Milliarden von Sensoren und Smart Devices weltweit stoßen traditionelle, zentralisierte Cloud-Architekturen an ihre Grenzen. Während Cloud Computing die Agilität von Startups und die Skalierbarkeit von Unternehmen revolutioniert hat, verlangen neue Workloads – wie High-Definition-Video, autonomes Fahren und Echtzeit-Logistik – nach Latenzen unter einer Sekunde und sicherer, lokaler Datenverarbeitung.

„Kunden erkennen, dass das Auslagern zu großer Verarbeitungsteile in die Cloud nicht mehr tragfähig ist“, sagt Markus Levy, Leiter KI-Technologien bei NXP Semiconductors, in einer aktuellen Diskussion zu Embedded AI. „Der Edge ist der Ort, an dem die eigentliche Chance liegt.“

Marktdaten von MarketsandMarkets prognostizieren, dass der Edge-Computing-Markt von 3,6 Milliarden Dollar (2020) auf 15,7 Milliarden Dollar (2025) wächst – eine mehr als vierfache Expansion, getrieben durch den Bedarf an Low-Latency- und High-Bandwidth-Verarbeitung.

Marktbewegungen beschleunigen Edge-Adoption: NVIDIA

NVIDIAs 40-Milliarden-Dollar-Übernahme von Arm im September 2020 ist ein Meilenstein auf dem Weg, GPU-beschleunigte KI näher an das Gerät zu bringen. Während NVIDIA lange den Data-Center-GPU-Markt dominierte, bietet Arms Dominanz bei mobilen Prozessoren – geliefert an Apple, Qualcomm, Broadcom und andere – eine leistungsstarke Plattform für Edge AI.

Zeus Kerravala, Analyst bei einem Branchenforschungsinstitut, bemerkt: „Wenn man KI als Zukunft sieht, angetrieben von GPUs und CPUs, hat NVIDIAs Fähigkeit, End-to-End-Systeme zu bauen, gerade einen massiven Schub erhalten – besonders im Edge-Computing-Bereich.“

Regulierungsbehörden beobachten den Deal wegen potenzieller kartellrechtlicher Implikationen genau, angesichts von Arms umfangreichem Lizenznetzwerk und NVIDIAs wachsendem Einfluss auf mobile CPU-Märkte.

SmartNICs: Intelligenz an den Edge verlagern

Auf der VMworld 2020 stellte VMware Project Monterey vor – eine Zusammenarbeit mit NVIDIA, die SmartNICs und NVIDIAs BlueField DPUs nutzt, um KI-Workloads am Edge zu beschleunigen. Durch das Auslagern von Hypervisor-, Netzwerk-, Sicherheits- und Speicherfunktionen von der Host-CPU auf die DPU befreit Monterey bis zu 30 % der CPU-Zyklen für Applikationslogik.

Alexander Harrowell, Senior Analyst bei Omdia, beobachtet: „Der Trend ist klar: Die Verlegung von Berechnung näher an die Daten verbessert Leistung und Ressourcennutzung. SmartNICs verlagern die Hypervisor-Verantwortung ins Netzwerk und ermöglichen ein Harvard-ähnliches Computing-Modell.“

Greg Lavender, VMware Senior VP und CTO, erklärt: „Das Auslagern von I/O und Compute auf den ARM-Kern in SmartNICs befreit CPU-Ressourcen und gibt Applikationen zusätzlichen Rechen- und Speicherplatz für schnelleren Betrieb.“

Für das Connected-Things-Ökosystem ermöglicht dieser Wandel Echtzeit-KI – und verwandelt passive IoT-Geräte in intelligente, responsive Systeme, wie Levy betont.

Für weitere Berichterstattung zu Industrial IoT nehmen Sie im Dezember an der Industrial IoT World teil.