Eingebettete KI beherrschen

Der Reiz, KI in eingebettete Anwendungen zu integrieren, liegt auf der Hand, beispielsweise durch die Verwendung von Face-ID, um den Zugriff auf Maschinensteuerungen in einer Fabrikhalle zu autorisieren. Gesichtserkennung, Sprachsteuerung, Anomalieerkennung, mit KI gibt es so viele Möglichkeiten. Ich werde Face-ID als Beispiel in diesem Blog verwenden. So viel einfacher zu bedienen, intelligenter und robuster als herkömmliche Mensch-Maschine-Schnittstellen und Passwörter. Ganz zu schweigen davon, dass alle anderen es tun. Wie KI funktioniert, mag magisch erscheinen, aber was sie tun kann, wird schnell zu einer Mindesterwartung. Niemand möchte Produkte auf Basis der Technologie von gestern transparent bewerten.

Die Herausforderung

Es gibt ein Problem für einen Produkthersteller. Die KI-basierte Entwicklung unterscheidet sich erheblich von der standardmäßigen Embedded-Entwicklung. Sie schreiben keine Software, zumindest für die Kernfunktion. Sie müssen ein neuronales Netz trainieren, um Muster (wie Bilder) zu erkennen, genau wie Sie ein Kind in der Schule trainieren würden. Dann müssen Sie dieses Netz auf den begrenzten Platzbedarf Ihres eingebetteten Geräts optimieren, um die Größen- und Leistungsziele zu erreichen. Neuronale Netze sind möglicherweise kein konventioneller Code, aber das Netz und seine Berechnungen verbrauchen immer noch Speicher und brennen Energie. Als Embedded-Entwickler wissen Sie, wie wichtig es ist, diese Metriken so weit wie möglich auszuschöpfen. Dazu komme ich in meinem nächsten Blog. Lassen Sie uns jetzt zumindest einen Teil der Funktionsweise dieser neuronalen Netze verstehen.

Die Grundlagen

Ich möchte Sie nicht durch eine lange Erklärung neuronaler Netze führen; was Sie tun müssen, damit Ihre Bewerbung funktioniert. Ein neuronales Netz ist konzeptionell eine Reihe von Schichten von „Neuronen“. Jedes Neuron liest zwei (oder mehr) Eingaben aus einer vorherigen Schicht oder die Eingabedaten, wendet eine Berechnung mit trainierten Gewichten an und leitet ein Ergebnis weiter. Basierend auf diesen Gewichtungen erkennt ein Layer Features, die immer komplexer werden, während Sie sich durch Layer bewegen, und erkennt schließlich ein komplexes Bild in der Ausgabe.

Der erste clevere Teil besteht dann darin, das Netz zu entwerfen – wie viele Schichten, Verbindungen zwischen den Schichten usw. – der Kernalgorithmus des neuronalen Netzes. Der zweite clevere Teil ist das Training. Dabei handelt es sich um einen Prozess, bei dem viele Bilder durch das Netz laufen, mit Kennzeichnungen, um zu erkennen, was erkannt werden soll. Diese Läufe bilden die für die Erkennung benötigten Gewichtswerte.

Wenn Sie sich ehrgeizig fühlen, können Sie für eines der Standardnetzwerke wie TensorFlow von Grund auf Ihr eigenes neuronales Netz aufbauen. Sie können auch mit einer Open-Source-Option wie dieser für Face-ID beginnen. Sie können all dies in eine App integrieren, die auf einem Laptop ausgeführt werden kann, was für Kunden praktisch ist, die neue zugelassene Gesichter registrieren möchten. Jetzt können Sie Ihr Netzwerk mit einem Testsatz zugelassener Gesichter in mehreren Posen trainieren.

Warum machst du das nicht einfach in der Cloud?

Es gibt Dienste, die Gesichtserkennung online durchführen – Sie müssen sich nicht mit unordentlicher KI auf Ihrem Gerät befassen. Einfach das Bild aufnehmen, in die Cloud hochladen, die App sendet ein OK zurück und Ihr Produkt gibt den nächsten Schritt frei.

Aber – alle Ihre genehmigten Mitarbeiter müssen ihre Fotos und andere Anmeldeinformationen in der Cloud haben. Vielleicht keine so gute Idee für Sicherheit und Datenschutz. Sie werden jedes Mal, wenn ein Mitarbeiter auf einen Computer zugreifen möchte, viel Energie verbrauchen, um das Image in die Cloud zu übertragen. Und wenn Ihre Internetverbindung ausfällt, kann niemand genehmigt werden, bis sie wiederhergestellt ist. Die Authentifizierung direkt auf dem Gerät gewährleistet Privatsphäre und Sicherheit, hält den Strombedarf niedrig und funktioniert auch dann weiter, wenn die Netzwerkverbindung unterbrochen ist.

Als nächstes – Einbetten Ihres geschulten Netzwerks

Jetzt haben Sie den harten Teil der KI erledigt, Sie müssen ihn auf Ihr Gerät herunterladen. Das ist an sich schon ein interessanter Schritt, bei dem Sie definitiv Hilfe von Ihrer KI-Plattform benötigen. Darüber werde ich in meinem nächsten Blog mehr sprechen. Weitere Informationen finden Sie unter „Deep Learning für die eingebettete Echtzeitwelt“.

Ariel Hershkovitz ist Senior Manager für Kundenlösungen für Softwareentwicklungstools bei CEVA. Ariel verfügt über mehr als 14 Jahre multidisziplinäre Erfahrung in den Bereichen Softwareentwicklung, Verifizierung, Integration und Bereitstellung von Softwarelieferungen, sowohl in technischen als auch in leitenden Funktionen. Seine Leidenschaft gilt Benutzererfahrungen, Benutzerfreundlichkeit und innovativer Technologie. Sehr gute Kenntnisse in der Analyse komplexer Probleme und deren Vereinfachung für eine schnelle Lösung. Ariel hat einen B.Sc. in Informatik von der Ben-Gurion University und einen MBA von der Bar-Ilan University.

Verwandte Inhalte:

• Maschinelles Lernen in eingebetteten Systemen anwenden
• Herausforderungen und Chancen für maschinelles Lernen im IoT
• Bekämpfung von Trainingsverzerrungen beim maschinellen Lernen
• Einsatz von FPGAs für Deep Learning
• Benchmark-Scores zeigen ein breites Spektrum an Inferenzleistungen beim maschinellen Lernen
• Transferlernen für das IoT
• Künstliche Intelligenzalgorithmen und Herausforderungen für autonome Fahrzeuge

Für mehr Embedded, abonnieren Sie den wöchentlichen E-Mail-Newsletter von Embedded.