XMOS stellt Xcore.ai vor: Kostengünstiger Crossover-Prozessor für Edge-KI-Inferenz

BRISTOL, UK – XMOS hat seinen Xcore-Prozessorkern für maschinelles Lernen neu entwickelt und den Xcore.ai lanciert, einen Crossover-Prozessor für AIoT-Geräte. Ab nur 1 US-Dollar verspricht der Chip leistungsstarke Inferenz in einem kompakten, energiesparenden Paket.

Der Xcore.ai repräsentiert die dritte Generation von XMOS-Produkten, die auf der proprietären Xcore-Architektur basieren. Er ist für Echtzeit-KI-Inferenz und Entscheidungsfindung auf Edge-Geräten konzipiert, während er gleichzeitig Signalverarbeitung, Steuerung und Kommunikationsaufgaben übernimmt.

Im Gegensatz zu früheren Versionen integriert der Chip der dritten Generation eine Vektor-Pipeline, die Machine-Learning-Workloads unterstützt. Er ist der einzige Crossover-Prozessor seiner Art, der binarisierte (1-Bit) neuronale Netze nativ ausführt – eine aufstrebende Technologie, die bei moderatem Genauigkeitsverlust Größenordnungen bei Leistung und Speicherdichte für ultraniedrigenergetische Edge-KI bietet. Xcore.ai unterstützt zudem 32-Bit-, 16-Bit- und 8-Bit-Datentypen.

Der Xcore.ai gehört zu einer neuen Klasse KI-fähiger System-on-Chips für Endpunktanwendungen, den Crossover-Prozessoren (Bild: XMOS)

Xcore.ai ist Teil einer aufstrebenden Klasse von Endpunktprozessoren mit KI-Fähigkeit, bekannt als Crossover-Prozessoren. Der von NXP geprägte Begriff beschreibt Geräte, die die Leistung eines Applikationsprozessors mit dem energiesparenden, echtzeitfähigen Betrieb eines Mikrocontrollers verbinden.

„Kunden sehen Mikrocontroller oft als Cortex-M0, M3 oder M4 Chips, die unter 75 Cent kosten und etwa 100 MIPS liefern. SoCs hingegen können Quad-A53-Kerne mit Gigahertz-Takt haben. Es gibt eine erhebliche Lücke zwischen diesen Extremen – besonders für sprachzentrierte Workloads, die Tausende von MIPS verlangen. Diese mittlere Ebene verdient ihren eigenen Namen“, sagte Mark Lippett, XMOS CEO, in einem exklusiven Interview mit EETimes.

Sprachschnittstellen

XMOS' zweite Generation XVF3510, lanciert im Juli 2019, ist ein ASIC für Sprachschnittstellen basierend auf demselben Xcore-Design. Referenzlösungen basierend auf dem XVF3510 sind bereits für Amazons Alexa Voice Service qualifiziert.

Angesichts von XMOS' Erfolgsbilanz im Sprachbereich wird der Xcore.ai-Chip zunächst Sprachschnittstellenanwendungen ansprechen, die KI für Keyword-Spotting oder dynamische Wörterbuchfunktionen benötigen.

„Sprache bleibt die kritischste KI-Workload am Edge, und das wird wahrscheinlich noch Jahre so bleiben“, sagte Lippett. „Um Spracherlebnisse zu verbessern, werden Geräte zunehmend multimodal, indem sie zusätzliche Sensoren integrieren, um Kontext bereitzustellen – wie die Erkennung der Anwesenheit einer Person oder die Richtung ihrer Sprache.“

Mark Lippett (Bild: XMOS)

„Es gibt viele Möglichkeiten, das Nutzererlebnis zu verbessern, indem man über Audio hinaus hört und multimodale Daten nutzt“, fügte er hinzu.

Datenschutz-, Sicherheits- und Sicherheitsanforderungen erfordern oft, dass die Verarbeitung am Endpunkt erfolgt. Lippett illustrierte dies mit Geräten, die Sprache und Radar nutzen, um einen Ofen zu deaktivieren, wenn nur Kinder in der Küche sind.

Zur Unterstützung schneller Entwicklung wird Xcore.ai mit Bibliotheken für die Erstellung von Sprachschnittstellen ausgeliefert, bietet aber auch Flexibilität für kundenspezifische Lösungen. Ein MIPI-Interface steht auch für Kameraeingang zur Verfügung.

Xcore-Architektur

Der Xcore.ai-Chip liefert bis zu 3.200 MIPS, 51,2 GMACCs und 1.600 MFLOPS. Er umfasst 1 MB eingebettetes SRAM und ein Low-Power-DDR-Interface für Erweiterungen.

Im Vergleich zu einem vergleichbaren Cortex-M7-Gerät bei ähnlicher Frequenz behauptet XMOS, dass Xcore.ai die 32-fache KI-Leistung und die 15-fache DSP-Leistung liefert.

„Im Endpunktmarkt ist Preis-Leistung entscheidend“, betonte Lippett. „Wir haben Xcore.ai aggressiv bei 1 US-Dollar in Volumen positioniert. Etwa halb so teuer wie ein vergleichbarer Cortex-M7, bietet es einen dramatischen Leistungsvorteil.“

Der Xcore basiert auf logischen Kernen, die in Tiles mit Speicher, ALUs und Vektoreinheiten angeordnet sind (Bild: XMOS)

Xcore.ai basiert auf XMOS' proprietärer Xcore-Architektur. Der Kern besteht aus logischen Kernen, die I/O, DSP, Steuerung oder KI-Funktionen zugewiesen werden können. Jedes Tile enthält acht logische Kerne, zwei Tiles pro Chip, und geteilten Speicher, ALUs und eine Vektoreinheit.

„Was Xcore auszeichnet, ist die vorhersehbare Ressourcenteilung“, erklärte Lippett. „Die Architektur ist nicht nur Multi-Core, um Workloads zu beschleunigen, sondern um dedizierte Ressourcen für kritische Funktionen bereitzustellen und deterministisches Timing zu gewährleisten.“

Die Zuordnung verschiedener Funktionen zu logischen Kernen in Firmware ermöglicht ein „virtuelles SoC“, das vollständig softwaredefiniert ist. Zum Beispiel kann ein Kern I²S, I²C und LED-Treiber verwalten, während andere neuronale Netze verarbeiten und traditionelle Softwareaufgaben ausführen. Dieser softwarezentrierte Ansatz beschleunigt die Entwicklung, erfüllt die dynamischen Anforderungen des IoT und senkt Kosten – was wirtschaftliche Lösungen selbst in Nischenmärkten ermöglicht.

Ein Beispiel für eine auf Xcore.ai abgebildete Anwendung (Bild: XMOS)

„Der Markt verlangt ein breiteres Spektrum an Funktionen, und Unternehmen müssen schnell reagieren“, sagte Lippett. „Eine generische Plattform zu bauen, die in kein Segment passt, ist riskant. Mit Xcore.ai können Hersteller schnell Geräte mit niedrigeren CAPEX auf den Markt bringen und kleinere, gezieltere Wetten platzieren.“

Wie wird XMOS gegen große Mikrocontroller-Hersteller antreten, die in den Crossover-Prozessor-Bereich einsteigen?

„Wir werden keine ARM-basierten SoCs replizieren“, sagte Lippett. „Der einzige Weg zu konkurrieren ist durch architektonischen Vorteil – Leistung und Flexibilität, die dem Xcore innewohnen.“