Trends treiben die Verarbeitung weiter an den Rand für KI

Die wichtigsten Erkenntnisse aus diesem Artikel umfassen Folgendes:

• Die Verbreitung von Geräten und das Datenvolumen begünstigen jetzt verteilte Computermodelle aus Gründen der Geschwindigkeit, Leistung und Datensicherheit
• Die jüngsten Anbieterwechsel von NVIDIA und VMware bieten Unterstützung für datenintensive Verarbeitung wie KI und maschinelles Lernen am Edge.
• Viele Prozesse und Branchen werden davon profitieren, die Verarbeitung an den Rand zu drängen, darunter das industrielle IoT und das verbraucherbasierte IoT.

Mit der zunehmenden Verbreitung vernetzter Geräte sind neue Verarbeitungsmethoden in den Vordergrund gerückt, um die Geräte- und Datenexplosion zu bewältigen.

Seit Jahren bewegen sich Unternehmen zu einer zentralisierten, externen Verarbeitungsarchitektur in der Cloud und weg von lokalen Rechenzentren. Cloud Computing ermöglichte es Startups, ihr Geschäft zu erneuern und zu erweitern, ohne große Investitionen in die Rechenzentrumsinfrastruktur oder laufende Kosten für das IT-Management zu benötigen. Es ermöglichte großen Organisationen, schnell zu skalieren und agil zu bleiben, indem sie On-Demand-Ressourcen verwenden.

Da Unternehmen jedoch zu mehr Remote-Modellen, videointensiver Kommunikation und anderen Prozessen übergehen, benötigen sie eine Edge-Computing-Architektur, um datenintensive Aufgaben zu bewältigen.

Diese datenintensiven Prozesse müssen innerhalb von Sekundenbruchteilen ablaufen:Denken Sie an selbstfahrende Autos, Videostreaming oder das Verfolgen von Transportfahrzeugen in Echtzeit auf ihrer Route. Das Senden von Daten auf einem Roundtrip in die Cloud und zurück zum Gerät dauert zu lange. Es kann auch die Kosten erhöhen und Daten während der Übertragung gefährden.

„Kunden erkennen, dass sie nicht viel Verarbeitung in die Cloud verlagern möchten, und denken daher, dass der Edge das eigentliche Ziel ist“, sagt Markus Levy, Leiter KI-Technologien bei NXP Semiconductors, in einem Beitrag über die Aufstieg der eingebetteten KI.

In den letzten Jahren ist die Edge-Computing-Architektur in den Vordergrund gerückt, um der Verbreitung von Daten und Geräten sowie der Geschwindigkeit, mit der sich diese Daten bewegen, Rechnung zu tragen.

Laut MarketsandMarkets-Daten wird der Edge-Computing-Markt voraussichtlich von 3,6 Milliarden US-Dollar im Jahr 2020 auf 15,7 Milliarden US-Dollar bis 2025 wachsen.

Marktbewegungen treiben die Verarbeitung weiter an den Rand:NVIDIA

Die jüngsten Schritte von NVIDIA, einem Giganten auf dem Markt für grafische Verarbeitungseinheiten (GPU), und VMware, dem Virtualisierungsanbieter, unterstützen diese neuen verteilten Verarbeitungsarchitekturen und ebnen eindeutig den Weg für blitzschnelle Verarbeitung am Edge.

Zum Beispiel kündigte NVIDIA im September an, 40 Milliarden US-Dollar für Arm zahlen zu wollen – teilweise, um die KI weiter an den Rand zu bringen. Während NVIDIA mit seinen GPUs im Rechenzentrum dominiert hat, hat Arm eine starke Stellung auf dem Mobilfunkmarkt und liefert Chips an Apple, Qualcomm und andere.

„Wenn Sie glauben, dass die Zukunft KI ist und Sie glauben, dass diese von GPUs und CPUs angetrieben wird, dann hat NVIDIA die Fähigkeit, diese End-to-End-Systeme zu entwickeln, gerade enorm gesteigert“, sagte Zeus Kerravala in einem Videointerview auf der NVIDIA -Arm-Deal und Aussichten für KI am Rande. „Besonders im Edge-Computing-Markt – [NVIDIA] wird all das sein.“

Es gibt regulatorische Bedenken hinsichtlich des NVIDIA-Arm-Deals, einschließlich der Frage, ob er das erfolgreiche Lizenzgeschäft von Arm gefährden könnte. Arm hat Hunderte von Lizenzen bei seinen Partnern – zu denen neben den Konkurrenten AMD und Intel auch Giganten wie Apple, Qualcomm und Broadcom gehören. Es gibt auch ernsthafte kartellrechtliche Bedenken hinsichtlich der neu gewonnenen Kontrolle von NVIDIA auf dem Markt für mobile CPUs.

SmartNICs:Verarbeitung an den Rand verlagern

Zweitens kündigte VMware auf der virtuellen Konferenz VMworld 2020 Ende September Project Monterey an, um eine verbesserte KI-Leistung mit SmartNIC (oder Smart Network Interface Card)-Technologie und NVIDIAs Datenverarbeitungseinheiten (DPUs) bereitzustellen. Project Monterey umfasst eine Partnerschaft mit mehreren Unternehmen, darunter NVIDIA, um die Infrastruktur zur Unterstützung von KI-Anwendungen am Edge zu stärken.

Monterey verlagert Hypervisor-, Netzwerk-, Sicherheits- und Speicheraufgaben von einer Host-CPU auf NVIDIAs BlueField DPU. Die Verlagerung dieser Verarbeitung auf DPUs und SmartNics kann KI, maschinelles Lernen und andere datenzentrierte Anwendungen weiterleiten.

Eine SmartNIC führt nicht anwendungsbezogene Aufgaben von einer Server-CPU aus, sodass der Server mehr Anwendungen schneller ausführen kann.

„Das Interesse, die Berechnung näher an die Daten heranzuführen, ist allgemein gestiegen“, sagte Alexander Harrowell, Senior Analyst bei Omdia.

„Es verschiebt die Abstraktion des Hypervisors vom Host nach unten zum Netzwerk … und verlagert einen Teil der Arbeit, die der Hypervisor selbst leistet, auf diese Karte“, sagte Harrowell. „Es macht mehr von der Rechenleistung verfügbar, für die Sie bezahlt haben. Es gibt hier also die Geschichte einer Abkehr vom klassischen Intel x86-Modell zum sogenannten Harvard-Computing-Modell.“

Dieser Trend zum verteilten Computing, so Harrowell, wird sich schnell fortsetzen und eine komplexere Verarbeitung ermöglichen, wie etwa die KI-Verarbeitung.

„Indem Sie einen Großteil dieser I/O-Arbeit auf den Arm-Kern auslagern und die Vorteile der Hardware-Offloads in diesen SmartNICs nutzen“, sagte Greg Lavender, Senior Vice President und Chief Technology Officer bei VMware, „können Sie diese Verarbeitung auslagern und sogar mehr Zeit sparen bis zu 30 % der CPU … und geben diese an die Anwendung zurück, damit [sie]  von diesen zusätzlichen Rechen- und Speicherressourcen profitiert.

Für den Markt der vernetzten Dinge wird die Verlagerung der Verarbeitung über den Stack in diese verteilten Edge-Architekturen ein großer Segen für datenintensive Prozesse sein, die schnelle Reaktionszeiten erfordern.

„Jetzt, da Sie KI am Edge einsetzen können, können Sie das IoT in etwas mit echten Fähigkeiten verwandeln“, sagte Levy von NXP.

>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>

Wenn Sie mehr über Industrial IoT erfahren möchten, nehmen Sie diesen Dezember an der Industrial IoT World teil.