DSPs für Echtzeit-Audio-KI am Edge nutzen

DSPs für Echtzeit-Audio-KI am Edge nutzen

Einst auf Cloud-Server mit nahezu unbegrenzten Ressourcen beschränkt, migriert Machine Learning nun auf Edge-Geräte. Geringere Latenz, reduzierte Kosten, Energieeffizienz und verbesserte Privatsphäre treiben diesen Wandel. Ein selbstfahrendes Auto kann sich die Verzögerung nicht leisten, Daten für Fußgängererkennung in die Cloud zu senden, und Bandbreitenkosten können Cloud-basierte Spracherkennung unrentabel machen.

Warum Edge Processing wichtig ist

Energetische Trade-offs zwischen Datenübertragung und lokaler Inferenz sind kritisch. Komplexe ML-Workloads können den Akku eines Geräts entleeren, wenn sie nicht effizient ausgeführt werden. Edge-Inferenz hält sensible Daten – wie per Sprache diktierte E-Mails – auf dem Gerät und schützt so die Nutzerprivatsphäre.

Low-Power Always-On Voice Wake

Keyword Spotting (z. B. „Hey Siri“ oder „OK Google“) ist einer der frühesten Edge-ML-Anwendungsfälle. Die Ausführung auf einem generischen Application Processor kann über 100 mW verbrauchen und den Smartphone-Akku schnell leeren. Frühe Smartphones verlagerten den Algorithmus auf einen kleinen DSP mit <5 mW, und moderne Smart Microphones führen dieselbe Aufgabe auf einem spezialisierten Audio-ML-DSP mit <0,5 mW aus.

Jenseits von Sprache: Edge-Fähigkeiten erweitern

Sobald ein Gerät Always-On Audio ML unterstützt, kann es Kontextsignale erkennen: überfüllte Restaurants, belebte Straßen, Umgebungsmusik, ultraschallbasierte Raumsignaturen oder nahegelegenes Schreien und Lachen. Diese Features ermöglichen anspruchsvolle Use Cases, die sowohl Gerät als auch Nutzer nutzen.

Einen Edge AI DSP bauen

Top-Performance und Energieeffizienz für Edge-Inferenz erfordern maßgeschneiderte Hardware. Die wirkungsvollsten Techniken fasst die folgende Tabelle zusammen.

Tabelle: Wirkungsvolle Techniken für einen Edge AI DSP

Neuronale-Netz-Inferenz basiert stark auf Matrix-Vektor-Multiplikationen (MVMs). Eine gefundene Multiply-Accumulate (MAC)-Operation ist der Eckpfeiler effizienter MVM-Ausführung. Low-Precision-Arithmetik – oft 8-Bit – reicht für Inferenz aus und reduziert die Rechenkomplexität drastisch. Intel und Texas Instruments bieten beispielsweise Prozessoren mit dedizierten Low-Precision-MAC-Einheiten: der TI TMS320C6745 führt 8 MACs mit 8-Bit-Operand pro Zyklus aus, während Knowles' Audio-DSP 16 solche MACs pro Zyklus schafft.

Sowohl Training als auch Inferenz verlangen erhebliche Speicherbandbreite. Breite Datenpfade entlasten: Intels AVX-512 unterstützt 512-Bit-Transfers pro Zyklus in ein 64-Multiplier-Array; der TI 6745 nutzt einen 64-Bit-Bus; Knowles' Prozessoren setzen auf 128-Bit-Bus, als Balance aus Chip-Area und Bandbreite. Rekurrente Architekturen (RNN, LSTM) erfordern Feedback-Schleifen, die zusätzliche architektonische Constraints auferlegen und stark gepipelinte Designs ausbremsen können.

Audio-ML-Pipelines beginnen typischerweise mit Spektralanalyse und Feature-Extraktion. Die Beschleunigung klassischer DSP-Operationen – FFTs, Filter, trigonometrische und logarithmische Funktionen – ist essenziell für Energieeffizienz. Nicht-lineare Vektoroperationen (Sigmoid, ReLU etc.) profitieren ebenfalls von Single-Cycle-Instruktionen, was Zyklenzahl und Strom weiter reduziert.

Kurz gesagt: Prozessoren, die Machine-Learning- und Audio-Signal-Beschleunigung fusionieren, ermöglichen Echtzeit-Always-On-Inferenz bei niedrigen Kosten bei gewahrter Privatsphäre. Architektonische Entscheidungen – Multiple-Operation-Instruktionssätze, breite Busse und spezialisierte Low-Precision-Einheiten – erhalten hohe Performance ohne hohen Stromverbrauch. Mit der Weiterentwicklung spezialisierter Edge-Compute wird das Spektrum machbarer ML-Use-Cases expandieren.

Jim Steele, Vice President of Technology Strategy, Knowles Corp.

© Dieser Artikel wurde ursprünglich auf EE Times veröffentlicht: „Machine Learning on DSPs: Enabling Audio AI at the Edge.“