KI in Mikrocontrollern einbetten: TinyMLs Potenzial freisetzen

Wenn künstliche Intelligenz auf das Internet der Dinge trifft, entsteht AIoT – eine expansive Frontier für Mikrocontroller, die Durchbrüche in neuronaler Netzwerkkompression und effizienter Inferenz nutzt. Moderne Smartphone-Applikationsprozessoren führen bereits anspruchsvolle KI-Aufgaben wie Bilderkennung und Empfehlungs-Engines aus; ähnliche Fähigkeiten auf winzigen, batteriebetriebenen Geräten zu bringen, eröffnet eine Welt neuer Möglichkeiten.

Stellen Sie sich ein Hörgerät vor, das Hintergrundgeräusche mit KI filtert, ein Smart-Home-Gerät, das das Gesicht eines Nutzers erkennt und personalisierte Einstellungen anwendet, oder Sensorknoten, die jahrelang auf einer Knopfzelle laufen – alles lokal betrieben. Edge Processing liefert geringere Latenz, stärkere Sicherheit und erhöhte Privatsphäre, die schwer zu überbietenden Vorteile sind.

Arms Cortex-M55 kombiniert mit Ethos-U55 Accelerator liefert genug Durchsatz für Gesten-, Biometrie- und Spracherkennungs-Workloads (Bild: Arm).

Doch das Deployen sinnvollen Machine Learning auf Mikrocontrollern ist nicht trivial. Begrenzter Speicher und Rechenressourcen erschweren das Ausführen großer Modelle, aber Data-Science-Teams schrumpfen Netzwerk-Footprints, während Vendor hardware-bewusste Toolchains und dedizierte IP-Blöcke bereitstellen, um den Constraints eingebetteter KI gerecht zu werden.

TinyML nimmt Fahrt auf

Das rasante Wachstum von TinyML zeigt sich im expandierenden TinyML Summit. Die Erstveranstaltung im Silicon Valley zog 11 Sponsoren an; der zweite Summit 27 und war Wochen im Voraus ausverkauft. Globale Meet-ups für Designer verzeichneten ebenfalls dramatische Teilnehmerzuwächse.

„Wir betreten eine Ära von Billionen intelligenter Geräte, angetrieben durch TinyML, die wahrnehmen, analysieren und autonom handeln, um gesündere, nachhaltigere Umgebungen zu schaffen“, sagte Qualcomm Senior Director Evgeni Gousev, Co-Chair des TinyML Committee, während einer jüngsten Konferenz. Gousev hob die Synergie aus energieeffizienter Hardware, gestrafften Algorithmen und ausgereiften Software-Ökosystemen als Motor hinter Corporate- und VC-Investitionen, Startup-Aktivität und M&A hervor.

Eta Computes ECM3532 nutzt Arm Cortex-M3 Kern zusammen mit NXP CoolFlux DSP Kern, erlaubt ML-Workload auf einem oder beiden Prozessoren (Bild: Eta Compute).

Laut TinyML Committee ist die Technologie nun validiert und produktreif; mikrocontrollerbasierte KI wird in zwei bis drei Jahren den Markt erreichen, „Killer“-Applikationen in drei bis fünf Jahren.

Ein Meilenstein war im vergangenen Frühjahr, als Google TensorFlow Lite for Microcontrollers veröffentlichte. Die leichte Runtime – nur 16 KB auf Arm Cortex-M3 – unterstützt Inferenz für Modelle wie Spracherkennung, mit gesamtem Footprint von 22 KB. Training wird nicht unterstützt.

Große Player reagieren

Führende Mikrocontroller-Vendor beschleunigen ihre eigene KI-Unterstützung. STMicroelectronics bietet STM32Cube.AI, ein Extension Pack, das neuronale Netze auf seine STM32 Cortex-M-Familie abbildet und ausführt. Renesas Electronics stellt eine e-AI-Entwicklungsumgebung bereit, die Modelle in nativen C/C++-Code für e2 studio übersetzt. NXP Semiconductors demonstriert Machine-Learning-Workloads auf seinen Low-End-Kinetis- und LPC-MCUs und erweitert sein KI-Ökosystem über Applikationsprozessoren und Crossover-Lösungen.

Arm-geführte Dominanz

Arms Cortex-M-Serie bleibt der Eckpfeiler des Mikrocontroller-Markts. Der neu angekündigte Cortex-M55 ist für KI-Workloads konzipiert und paart sich nahtlos mit dem Ethos-U55 Accelerator, beide für ultra-energiesparende Umgebungen designed. Konkurrierende Firmen fokussieren sich nun auf architektonische Differenzierung statt Arm-basierte SoCs zu bauen.

„Konkurrenz gegen die Giganten erfordert einen architektonischen Vorteil – Performance und Flexibilität jenseits des Standard-Cortex-M“, sagte XMOS CEO Mark Lippett. XMOS' Xcore.ai Crossover-Prozessor, der Sprachinterfaces zielt, illustriert, wie ein differenzierter Kern Nischenanwendungen erschließen kann, auch wenn er nicht direkt mit Mikrocontrollern konkurriert.

>> Weiterlesen Seite zwei dieses Artikels, ursprünglich auf unserer Schwesterseite EE Times Europe veröffentlicht.