Intelligente IoT-Lösungen mit TinyML und automatisiertem Machine Learning

IoT ermöglicht die kontinuierliche Überwachung von Umgebungen und Maschinen durch kompakte Sensoren. Rasante Fortschritte im Sensor-Design, bei Mikrocontrollern und Funkprotokollen haben IoT-Plattformen in erschwingliche, massenproduzierte Geräte mit vielfältigen Konnektivitätsoptionen verwandelt. Die niedrigen Kosten dieser Systeme treiben die breite Einführung in öffentlichen Räumen, Haushalten und Industrieanlagen voran.

Diese Sensoren erfassen rund um die Uhr physikalische Daten und generieren massive Datenströme. Beispielsweise zeichnen Beschleunigungs- und Gyroskopsensoren an rotierenden Maschinen Vibrationen und Winkelgeschwindigkeiten auf; Luftqualitätssensoren erfassen gasförmige Schadstoffe; Mikrofone in Babyphones lauschen ständig; Smartwatches messen Herzfrequenz und andere Vitalwerte. Magnetometer, Druck-, Temperatur-, Feuchtigkeits- und Umgebungslichtsensoren liefern ebenfalls Echtzeit-Umgebungsdaten, wo immer sie installiert sind.

Machine-Learning-Algorithmen decken Muster in diesen Daten auf, die manueller Analyse entgehen. In Kombination mit IoT treibt ML eine neue Welle intelligenter Anwendungen an – Wearables, Smart Homes, Industrie-4.0-Fabriken, Automobilsysteme, Machine Vision und Consumer Electronics – dank stromsparender, latenzarmer, leichter Inferenz, bekannt als TinyML.

TinyML mit automatisiertem Machine Learning

Die Bereitstellung von ML auf winzigen Mikrocontrollern (MCUs) bietet mehrere Schlüsselvorteile:

• Datenschutz und Sicherheit: Inferenz erfolgt lokal, Daten bleiben auf dem Gerät und on-premise.
• Stromeinsparung: Minimale oder keine Datenübertragung reduziert den Energieverbrauch drastisch.
• Geringe Latenz und hohe Verfügbarkeit: Lokale Inferenz liefert Millisekunden-Antwortzeiten, unabhängig von Netzwerkbedingungen.

Abbildung 1: TinyML fügt traditionellen IoT-Geräten erweiterte Funktionalitäten hinzu (Quelle: Qeexo)

Automatisiertes Machine Learning rationalisiert den gesamten Workflow – von der Sensorkonfiguration und Datenerfassung bis zum Modelltraining und Deployment – über Plattformen wie Qeexo AutoML. Das System erstellt leichte, leistungsstarke Modelle für ARM Cortex-M0-bis-M4-MCUs und andere ressourcenbeschränkte Umgebungen.

Abbildung 2: Qeexo AutoML Workflow (Quelle: Qeexo)

TinyML mit ARM® Cortex™ M0+ Architektur

Das IoT-Wachstum verlangt nach immer kleineren, energieeffizienteren MCUs. ARM Cortex-M0+-Chips, die mit 48 MHz takten, sind auf Sensor-Boards verbreitet, da sie nur 7 mA pro I/O-Pin verbrauchen – halb so viel wie der höherwertige Cortex-M4 mit 15 mA bei 64 MHz.

Die M0+-Architektur opfert jedoch Speicher und Rechenleistung. Sie unterstützt nur 32-Bit-Festkomma-Operationen, besitzt keine Sättigungsarithmetik und verzichtet auf DSP-Features. So bietet der Arduino Nano 33 IoT (Cortex-M0+) 256 KB Flash und 32 KB SRAM, während der Arduino Nano 33 BLE Sense (Cortex-M4) 32-Bit-Gleitkomma, DSP, Sättigungsarithmetik und das Vierfache an Flash sowie das Achtfache an SRAM bereitstellt.

Die Bereitstellung von ML auf dem M0+ stellt drei Kernherausforderungen dar:

• Festkomma-Rechnung: Sensorbasiertes ML stützt sich oft auf Signalverarbeitung, Merkmalsextraktion und Inferenz. Das Extrahieren statistischer und frequenzbasierter Merkmale (z. B. FFT) aus nicht-stationären Strömen ist essenziell für hochwertige Modelle, aber in Festkomma-Darstellung bei Erhalt der Präzision schwierig.
• Geringe Speicherkapazität: 256 KB Flash und 32 KB SRAM begrenzen Modellgröße und Laufzeitspeicher. Komplexe Entscheidungsgrenzen erfordern meist tiefe Bäume oder viele Booster, was den Speicherbedarf erhöht. Das Schrumpfen von Modelle beeinträchtigt oft die Leistung.
• Niedrige CPU-Geschwindigkeit: Millisekunden-Latenz ist für kommerzielle Deployments entscheidend. Der 48-MHz-Takt des M0+ ist deutlich langsamer als die 64 MHz des M4, was die Inferenzgeschwindigkeit beeinflusst.

AutoML M0+ Framework

Qeexo AutoML meistert diese Hürden mit einer vollständig festkommaoptimierten Pipeline für den Cortex-M0+. Der Workflow handhabt Sensordaten, Merkmalsberechnung und Inferenz für baumbasierte Ensembles – GBM, RF und XGBoost – mittels kompakter Datenstrukturen und effizienter Inferenzlogik. Abbildung 3 veranschaulicht diese Pipeline.

Abbildung 3: Qeexo AutoML M0+ Inferenz-Pipeline (Quelle: Qeexo)

Die Plattform wendet patentierte Modellkompression und -quantisierung an, um den Speicher-Footprint zu verringern, ohne die Genauigkeit zu opfern. Abbildung 4 zeigt die Trainingspipeline für Cortex-M0+-Ziele.

Abbildung 4: Qeexo AutoML M0+ Trainings-Pipeline (Quelle: Qeexo)

Intelligentes Pruning

Anstatt von Anfang an ein kleines Modell zu trainieren, trainiert Qeexo AutoML zunächst ein großes Ensemble und behält dann selektiv die leistungsstärksten Booster. Diese Strategie liefert höhere Performance und stärkere Kompression. Abbildung 5 zeigt, dass das komprimierte Modell etwa ein Zehntel der Größe des Vollmodells beträgt, während es eine überlegene Cross-Validation-Genauigkeit liefert.

Abbildung 5: Qeexo AutoML Intelligentes Modell-Pruning (Quelle: Qeexo)

Ensemble-Modell-Quantisierung

Qeexo AutoML erweitert Post-Training-Quantisierung – in neuronalen Netzen üblich – auf Ensemble-Algorithmen. Dieser patentierte Ansatz verkleinert das Modell weiter und beschleunigt die MCU-Latenz, während die Leistung erhalten bleibt. Die M0+-Pipeline erzeugt 32-Bit-Festkomma-Modelle; optionale 16-Bit- oder 8-Bit-Quantisierung halbiert oder viertelt die Größe jeweils und beschleunigt die Inferenz um das 2- bis 3-fache.

Beispiel-Anwendungsfälle für TinyML

1. Smarte Wandbeleuchtung: Durch Anbringen von Beschleunigungs- und Gyroskopsensoren an einer Wand können Nutzer „Klopf“- und „Wisch“-Gesten erlernen, um die Beleuchtung zu steuern. Qeexo AutoML erstellt in Minuten ein Echtzeit-Gestenerkennungsmodell für intuitive, berührungsfreie Interaktion.
2. Intelligenter Versand: KI-fähige Boxen erfassen, wie Sendungen vom Ursprung bis zum Ziel behandelt werden, gewährleisten Compliance mit Handhabungsrichtlinien und reduzieren Schäden.
3. Smarte Küchenarbeitsplatten: TinyML-Modelle erkennen Küchengeräte und -vorgänge und bieten kontextbewusste Automatisierung und Sicherheitsfunktionen.
4. Maschinenfehlererkennung: Sensoren an Industrieanlagen identifizieren Fehlermuster in Echtzeit, ermöglichen proaktive Wartung und minimieren Ausfallzeiten.
5. Anomalieerkennung: Durch Modellierung gesunder Betriebszustände identifiziert Qeexo AutoML Abweichungen – kritisch in Umgebungen, wo Fehlerdaten rar, aber Gesundheitsdaten reichlich vorhanden sind.
6. Wearable-Aktivitätserkennung: TinyML klassifiziert tägliche Aktivitäten mittels On-Device-Sensordaten und liefert sofortiges Feedback ohne Cloud-Abhängigkeit.