Arm stellt Cortex-M55 & Ethos-U55 vor: Neue IP-Kerne für TinyML auf energiesparenden Endpunkten

Arm hat heute zwei hochmoderne IP-Kerne vorgestellt, die fortschrittliche Machine-Learning-Fähigkeiten auf ressourcenbeschränkte Endpunkte bringen, einschließlich IoT- und Low-Power-Geräten. Der Cortex-M55-Mikrocontroller ist der erste, der Arms Helium-Vektorverarbeitungs-Engine integriert, während der Ethos-U55 eine kompakte Version von Arms Flaggschiff-Ethos-NPUs darstellt. Obwohl für gemeinsame Bereitstellung konzipiert, kann jeder Kern unabhängig betrieben werden.

Die Bereitstellung von KI auf Mikrocontrollern – allgemein als TinyML bezeichnet – wird zunehmend kritisch, da 5G-Netze Intelligenz an den Edge treiben. Experten prognostizieren, dass der TinyML-Markt Milliarden von Verbraucher- und Industriesystemen umfassen wird und Echtzeiteinblicke ohne Cloud-Abhängigkeit liefert.

„Wenn wir in fünf Jahren zurückblicken, werden wir vielleicht alle zustimmen, dass dieser Zeitpunkt einen echten Paradigmenwechsel in der Computertechnik markierte“, sagte Thomas Ensergueix, Senior Director für IoT und Embedded bei Arm. „Wir haben in wenigen Jahren gesehen, wie KI die Datenanalyse in der Cloud revolutioniert hat, die meisten von uns haben ein KI-erweitertes Smartphone in der Tasche, und jetzt ist der nächste Schritt: KI überall bereit zu machen.“

Smarthome-Geräte wie Smart Speaker werden zunehmend in der Lage sein, Machine-Learning-Inferenz selbst durchzuführen (Bild: Sebastian Scholz/Unsplash)

Spracherkennung, Computer Vision und andere ML-Workloads verlagern sich von der Cloud auf den Mikrocontroller selbst. Arms neue Kerne zielen auf ein wachsendes Ökosystem von Mikrocontrollerlösungen ab, die On-Device-Inferenz priorisieren.

„Wir wissen, dass all diese Daten auf Endpunktebene nicht zurück in die Cloud gehen können“, sagte Ensergueix. „Videokameras zu Hause oder in Smart Cities erzeugen buchstäblich Gigabytes pro Tag an Daten, und die Infrastruktur ist nicht für diesen Upstream-Datenfluss gebaut. Wir sind überzeugt, dass wir, um auf Milliarden oder Billionen von IoT-Endpunkten zu skalieren, KI-Inferenzfähigkeit direkt im IoT-Endpunkt benötigen. Und sie muss sicher sein.“

Cortex-M55

Der Cortex-M55 baut auf der vertrauenswürdigen Cortex-M-Familie auf und bietet die bisher höchste KI-Leistung. Durch Nutzung der Armv8.1-M-Architektur unterstützt er benutzerdefinierte Instruktionen, die es Entwicklern ermöglichen, den Kern für spezifische Workloads anzupassen und maximale Effizienz herauszuholen.

Helium-Vektorverarbeitungstechnologie liefert 5× schnellere DSP- und 15× schnellere ML-Leistung gegenüber vorherigen Cortex-M-Generationen.

Benutzerdefinierte Instruktionen für INT8-Operationen, einschließlich Skalarprodukt, beschleunigen neuronale Netzwerk-Inferenz.

„Eine erfolgreiche AIoT-Anwendung hängt nicht nur von guter Rechenleistung ab, sondern auch davon, die richtigen Daten, die richtigen Koeffizienten und die richtigen Machine-Learning-Gewichte zur richtigen Zeit zu erhalten, daher wurde die Speicherschnittstelle des Prozessors optimiert, um all die Daten ein- und auszugeben. Sie ist in diesem Aspekt weit leistungsfähiger als jeder andere Cortex-M-Kern“, sagte Ensergueix.

Die Kombination aus Cortex-M55 und Ethos-U55 hat genug Rechenleistung für Anwendungen wie Gestenerkennung, Biometrie und Spracherkennung (Bild: Arm)

Ethos-U55

Der Ethos-U55 ist Arms erster „Micro-NPU“ und liefert bis zu 0,5 TOPS Beschleunigung bei 1 GHz. Konfigurierbar von 32 bis 256 MACs, verfügt er über einen On-Chip-Gewichtsdecoder und DMA für Echtzeit-Gewichtsdekompression, was den Speicher-Footprint reduziert.

Im Vergleich zu seinen größeren Geschwistern – Ethos-N77 (4 TOPS), N57 (2 TOPS) und N37 (1 TOPS) – bietet der U55 eine dichte, energiesparende Lösung, die durch Stapeln mehrerer Kerne skaliert werden kann.

Cortex-M55 und Ethos-U55 sind für den gemeinsamen Einsatz konzipiert, können aber auch separat verwendet werden (Bild: Arm)

Die beiden neuen Kerne, M55 und U55, sind darauf ausgelegt, im Tandem zu arbeiten und liefern bis zu 480× Geschwindigkeitssteigerung gegenüber jedem vorherigen Cortex-M-Gerät allein. Für typische Sprachassistenten-Workloads berichtet Arm eine 50× Beschleunigung und eine 25× Verbesserung der Energieeffizienz im Vergleich zu einem Cortex-M7.

„Der Cortex-M führt den Anwendungssystemcode aus und dann, wenn eine neuronale Netzwerk-Workload erforderlich ist, wird der Befehlsstrom in SRAM platziert, ein Interrupt an den U55 gesendet, und dieser übernimmt. Der U55 läuft bis zur Fertigstellung, gibt Ergebnisse an SRAM zurück, und der Cortex-M setzt die Steuerung fort. In Streaming-Szenarien kann der U55 kontinuierliche Audio- oder Videodaten verarbeiten“, erklärte Steve Roddy, Vice President der Machine-Learning-Gruppe bei Arm.

Silizium basierend auf diesen neuen Kernen sollte Anfang 2021 auf den Markt kommen.