Erhöhung der Zugänglichkeit des maschinellen Lernens am Edge

"Edge Intelligence" wird mit der Verfügbarkeit neuer Hardware immer zugänglicher – selbst für Designer ohne formale Data-Science-Ausbildung.

In den letzten Jahren sind vernetzte Geräte und das Internet der Dinge (IoT) in unserem Alltag allgegenwärtig, sei es zu Hause, im Auto oder an unserem Arbeitsplatz. Viele dieser kleinen Geräte sind mit einem Cloud-Dienst verbunden – fast jeder mit einem Smartphone oder Laptop nutzt heute Cloud-basierte Dienste, sei es aktiv oder beispielsweise über einen automatisierten Backup-Dienst.

Ein neues Paradigma namens „Edge Intelligence“ gewinnt jedoch in der sich schnell ändernden Landschaft der Technologie schnell an Bedeutung. In diesem Artikel werden Cloud-basierte Intelligenz, Edge-Intelligenz und mögliche Anwendungsfälle für professionelle Benutzer vorgestellt, um maschinelles Lernen für alle zugänglich zu machen.

Abbildung 1. Der Wechsel von Cloud Computing zu Edge Computing eröffnet die Möglichkeit, Milliarden von Geräten zu bauen, die ML-fähige Software ausführen. Bild mit freundlicher Genehmigung von NXP.

Schlüsselbegriffe des maschinellen Lernens

Cloud-Computing

Cloud Computing ist einfach ausgedrückt die Verfügbarkeit von Remote-Rechenressourcen, wann immer ein Kunde sie benötigt.

Bei öffentlichen Cloud-Diensten ist der Cloud-Dienstleister dafür verantwortlich, die Hardware zu verwalten und sicherzustellen, dass die Verfügbarkeit des Dienstes einem bestimmten Standard und den Kundenerwartungen entspricht. Die Kunden von Cloud-Diensten zahlen für ihre Nutzung, und der Einsatz solcher Dienste ist in der Regel nur für Großbetriebe sinnvoll.

Edge-Computing

Auf der anderen Seite findet Edge Computing irgendwo zwischen der Cloud und dem Netzwerk des Kunden statt.

Während die Definition, wo genau sich Edge-Knoten befinden, von Anwendung zu Anwendung variieren kann, befinden sie sich im Allgemeinen in der Nähe des lokalen Netzwerks. Diese Rechenknoten stellen Dienste wie das Filtern und Puffern von Daten bereit und tragen dazu bei, den Datenschutz zu erhöhen, die Zuverlässigkeit zu erhöhen und die Kosten und Latenz für Cloud-Dienste zu reduzieren.

In letzter Zeit ist es üblicher geworden, dass KI und maschinelles Lernen Edge-Computing-Knoten ergänzen und bei der Entscheidung helfen, welche Daten relevant sind und zur tieferen Analyse in die Cloud hochgeladen werden sollten.

Maschinelles Lernen (ML)

Maschinelles Lernen (ML) ist ein breites wissenschaftliches Feld, aber in letzter Zeit haben neuronale Netze (oft als NN abgekürzt) die meiste Aufmerksamkeit bei der Diskussion von Algorithmen des maschinellen Lernens gewonnen.

Mehrklassen- oder komplexe ML-Anwendungen wie Objektverfolgung und -überwachung, automatische Spracherkennung und Mehrgesichtserkennung erfordern in der Regel NNs. Viele Wissenschaftler haben in den letzten zehn Jahren hart daran gearbeitet, NN-Algorithmen zu verbessern und zu optimieren, damit sie auf Geräten mit begrenzten Rechenressourcen laufen können, was dazu beigetragen hat, die Popularität und Praktikabilität des Edge-Computing-Paradigmas zu beschleunigen.

Ein solcher Algorithmus ist MobileNet, ein von Google entwickelter Bildklassifizierungsalgorithmus. Dieses Projekt zeigt, dass hochgenaue neuronale Netze tatsächlich auf Geräten mit deutlich eingeschränkter Rechenleistung laufen können.

Maschinelles Lernen für mehr als nur Experten

Bis vor kurzem war maschinelles Lernen in erster Linie für Data-Science-Experten mit tiefem Verständnis von ML und Deep-Learning-Anwendungen gedacht. Typischerweise waren die Entwicklungstools und Software-Suiten unausgereift und schwierig zu verwenden.

Machine Learning und Edge Computing nehmen rasant zu und das Interesse an diesen Bereichen wächst von Jahr zu Jahr. Laut aktueller Forschung werden bis 2025 98% der Edge-Geräte maschinelles Lernen verwenden. Dieser Prozentsatz entspricht etwa 18-25 Milliarden Geräten, von denen die Forscher erwarten, dass sie über maschinelle Lernfähigkeiten verfügen.

Generell öffnet Machine Learning am Edge Türen für ein breites Anwendungsspektrum, das von Computer Vision, Sprachanalyse und Videoverarbeitung bis hin zur Sequenzanalyse reicht.

Einige konkrete Beispiele für mögliche Anwendungen sind intelligente Türschlösser in Kombination mit einer Kamera. Diese Geräte könnten automatisch eine Person erkennen, die Zugang zu einem Raum wünscht, und der Person gegebenenfalls den Zutritt ermöglichen.

Moderne Hardwarelösungen ermöglichen ML-Verarbeitung am Edge

Aufgrund der zuvor besprochenen Optimierungen und Leistungsverbesserungen der neuronalen Netzwerkalgorithmen können viele ML-Anwendungen jetzt auf eingebetteten Geräten ausgeführt werden, die von Crossover-MCUs wie dem i.MX RT1170 angetrieben werden. Mit seinen zwei Prozessorkernen (ein 1 GHz Arm Cortex M7 und ein 400 MHz Arm Cortex-M4 Kern) können Entwickler wählen, ob sie kompatible NN-Implementierungen unter Berücksichtigung von Echtzeitbeschränkungen ausführen möchten.

Aufgrund seines Dual-Core-Designs ermöglicht der i.MX RT1170 auch die parallele Ausführung mehrerer ML-Modelle. Die zusätzlich integrierten Krypto-Engines, fortschrittliche Sicherheitsfunktionen sowie Grafik- und Multimediafunktionen machen den i.MX RT1170 für eine Vielzahl von Anwendungen geeignet. Einige Beispiele sind die Ablenkungserkennung des Fahrers, intelligente Lichtschalter, intelligente Schlösser, Flottenmanagement und vieles mehr.

Abbildung 2. Ein Blockschaltbild der i.MX RT1170 Crossover-MCU-Familie. Bild mit freundlicher Genehmigung von NXP. Zum Vergrößern anklicken.

Der i.MX 8M Plus ist eine Familie von Anwendungsprozessoren, die sich auf ML, Computer Vision, fortschrittliche Multimediaanwendungen und industrielle Automatisierung mit hoher Zuverlässigkeit konzentriert. Diese Geräte wurden mit Blick auf die Anforderungen von Smart Devices und Industrie 4.0-Anwendungen entwickelt und sind mit einer dedizierten NPU (Neural Processing Unit) ausgestattet, die mit bis zu 2,3 ​​TOPS und bis zu vier Arm Cortex A53-Prozessorkernen arbeitet.

Abbildung 3. Das i.MX 8M Plus-Blockdiagramm. Bild mit freundlicher Genehmigung von NXP. Zum Vergrößern anklicken.

Integrierte Bildsignalprozessoren ermöglichen es Entwicklern, entweder zwei HD-Kamerasensoren oder eine einzelne 4K-Kamera zu verwenden. Diese Funktionen machen die Gerätefamilie i.MX 8M Plus für Anwendungen wie Gesichtserkennung, Objekterkennung und andere ML-Aufgaben geeignet. Darüber hinaus verfügen die Geräte der i.MX 8M Plus-Familie über erweiterte 2D- und 3D-Grafikbeschleunigungsfunktionen, Multimedia-Funktionen wie Video-Encode- und -Decode-Unterstützung einschließlich H.265) und 8 PDM-Mikrofoneingänge.

Ein zusätzlicher stromsparender 800-MHz-Arm-Cortex-M7-Kern ergänzt das Paket. Dieser dedizierte Kern dient industriellen Echtzeitanwendungen, die robuste Netzwerkfunktionen wie CAN-FD-Unterstützung und Gigabit-Ethernet-Kommunikation mit TSN-Fähigkeiten erfordern.

Die eIQ Tools-Umgebung

Mit neuen Geräten wird ein benutzerfreundliches, effizientes und leistungsfähiges Entwicklungsökosystem benötigt, das es Entwicklern ermöglicht, moderne ML-Systeme zu erstellen. Die umfassende eIQ ML-Softwareentwicklungsumgebung von NXP wurde entwickelt, um Entwickler bei der Erstellung von ML-basierten Anwendungen zu unterstützen.

Die eIQ-Tools-Umgebung umfasst Inferenz-Engines, neuronale Netzwerk-Compiler und optimierte Bibliotheken, um die Arbeit mit ML-Algorithmen auf NXP-Mikrocontrollern, i.MX RT-Crossover-MCUs und der i.MX-Familie von SoCs zu ermöglichen. Die benötigten ML-Technologien stehen Entwicklern über die SDKs von NXP für die MCUXpresso IDE und Yocto BSP zur Verfügung.

Das kommende eIQ Toolkit fügt eine zugängliche GUI hinzu; eIQ-Portal und -Workflow, die es Entwicklern aller Erfahrungsstufen ermöglichen, ML-Anwendungen zu erstellen.

Abbildung 4. eIQ Toolkit und eIQ Portal mit BYOD- und BYOM-Workflows und Auswahl an eIQ-Inferenz-Engines. Das eIQ Toolkit unterstützt Entwickler aller Erfahrungsstufen bei der Bereitstellung von ML-Anwendungen auf NXP-Geräten. Bild mit freundlicher Genehmigung von NXP.

Entwickler können sich für einen Prozess namens BYOM (Bring Your Own Model) entscheiden, bei dem Entwickler ihre trainierten Modelle mit Cloud-basierten Tools erstellen und sie dann in die eIQ Toolkit-Softwareumgebung importieren. Dann müssen Sie nur noch die passende Inferenz-Engine in eIQ auswählen. Oder der Entwickler kann die GUI-basierten Tools oder die Befehlszeilenschnittstelle des eIQ Portals verwenden, um Datensätze zu importieren und zu kuratieren und den BYOD-Workflow (Bring Your Own Data) verwenden, um sein Modell innerhalb des eIQ-Toolkits zu trainieren.

Maschinelles Lernen am Edge für alle

Die meisten modernen Verbraucher sind mit Cloud Computing vertraut. In den letzten Jahren hat jedoch ein neues Paradigma, das als Edge Computing bekannt ist, ein wachsendes Interesse erfahren.

Bei diesem Paradigma werden nicht alle Daten in die Cloud hochgeladen. Stattdessen bieten Edge-Nodes, die sich irgendwo zwischen dem Endbenutzer und der Cloud befinden, zusätzliche Rechenleistung. Dieses Paradigma hat viele Vorteile, wie erhöhte Sicherheit und Datenschutz, reduzierte Datenübertragung in die Cloud und geringere Latenz.

In jüngerer Zeit erweitern Entwickler diese Edge-Knoten häufig mit maschinellen Lernfunktionen. Dies hilft, gesammelte Daten zu kategorisieren und unerwünschte Ergebnisse und irrelevante Informationen herauszufiltern. Das Hinzufügen von ML zum Edge ermöglicht viele Anwendungen wie die Erkennung von Fahrerablenkung, intelligente Lichtschalter, intelligente Schlösser, Flottenmanagement, Überwachung und Kategorisierung und vieles mehr.

ML-Anwendungen wurden traditionell ausschließlich von Data-Science-Experten mit einem tiefen Verständnis von ML- und Deep-Learning-Anwendungen entwickelt. NXP bietet eine Reihe kostengünstiger und dennoch leistungsstarker Geräte wie den i.MX RT1170 und den i.MX 8M Plus sowie die eIQ ML-Softwareentwicklungsumgebung, um ML für jeden Designer zugänglich zu machen. Diese Hard- und Software soll es Entwicklern ermöglichen, zukunftssichere ML-Anwendungen jeder Erfahrungsstufe zu erstellen, unabhängig davon, wie klein oder groß das Projekt sein wird.

Branchenartikel sind eine Inhaltsform, die es Branchenpartnern ermöglicht, nützliche Nachrichten, Nachrichten und Technologien mit All About Circuits-Lesern auf eine Weise zu teilen, für die redaktionelle Inhalte nicht gut geeignet sind. Alle Branchenartikel unterliegen strengen redaktionellen Richtlinien, um den Lesern nützliche Neuigkeiten, technisches Know-how oder Geschichten zu bieten. Die in Branchenartikeln zum Ausdruck gebrachten Standpunkte und Meinungen sind die des Partners und nicht unbedingt die von All About Circuits oder seinen Autoren.