Toolkette, Sensorplatine verbessern das KI-Chip-Ökosystem

Die Toolkette von Eta Compute wächst mit der Ankündigung eines Compilers für seinen ECM3532-Chip, der die Embedded-Entwicklung rationalisiert.

In Kombination mit einem Sensorboard-Evaluierungskit in Münzgröße und einer Partnerschaft mit Edge Impulse bringt dies das Startup auf die nächste Reifestufe. Eta Compute brachte im Februar seinen ECM3532-AI-Chip mit extrem geringem Stromverbrauch auf den Markt, unterstützte jedoch bisher Kundendesigns durch manuelle Optimierung des Codes für das Dual-Core-MCU- und DSP-Design.

Sensorknoten

Der ECM3532 ist ein Dual-Core-SoC, der Arm Cortex-M3- und NXP CoolFlux DSP-Kerne für die KI-Verarbeitung verwendet. Das Unternehmen verwendet eine patentierte Continuous Voltage Frequency Scaling (CVFS)-Technik, um die Spannung und Taktfrequenz beider Kerne anzupassen, um den variablen Anforderungen von IoT-Geräten gerecht zu werden. Es ist für Sensorfusionsanwendungen in batteriebetriebenen Designs vorgesehen; Always-on-Bildverarbeitungsanwendungen können mit einem Leistungsbudget von 100 µW realisiert werden.

Ein kürzlich auf den Markt gebrachtes winziges Evaluierungsboard soll die Entwicklung von intelligenten Sensoren, Einbettungsmikrofonen, Temperatur- und Drucksensoren, Beschleunigungsmessern, Gyroskopen und Bluetooth-Konnektivität erleichtern. Es misst 1,4 x 1,4 Zoll und kann nach Angaben des Unternehmens "Monate" mit einer Knopfzellenbatterie betrieben werden.

Tensai Sensor Board von Eta Compute ein kompletter KI-fähiger Sensorknoten (Bild:Eta Compute)

Eta Compute ist bereits im Mai eine Partnerschaft mit Edge Impulse eingegangen, wobei der Chip und das Evaluierungsboard von Eta Compute von der End-to-End-ML-Entwicklung und der MLOps-Plattform von Edge Impulse unterstützt werden. Ein Großteil der Tools von Edge Impulse übernimmt die Visualisierung und Verwaltung von Datensätzen für KI-fähige IoT-Knoten.

„Es kann wirklich schwierig sein, als Embedded-Entwickler [ein Eta Compute]-Teil zu verwenden … und ML zu machen, ist noch schwieriger“, sagte Zach Shelby, CEO von Edge Impulse, EE Times in einem früheren Interview. „Wir versuchen, diesen Schmerz zu nehmen. Wir haben eine nette Drag-and-Drop-Binärdatei, die auf [Eta Compute]-Boards verwendet wird. Es beginnt sofort mit der Erfassung von Sensordaten in unserem System. Und wenn es dann an der Zeit ist, den ML-Algorithmus bereitzustellen, haben wir eine Bereitstellungsoption, die eine Bibliothek für das Eta Compute-Ziel erstellt, die direkt auf dem Gerät ausgeführt wird.“

Compiler und Middleware

Laut Semir Haddad, Senior Director Product Marketing bei Eta Compute, sehen sich Edge-KI-Entwickler heute mehreren Problemen gegenüber, die die Tensai Flow-Toolkette von Eta Compute adressiert.

„Der erste ist, wie Sie mit echten Sensoren interagieren und diese Daten erfassen, um Ihr Netzwerk zu verbessern“, sagte Haddad. „Der zweite Punkt ist, wie man das Netzwerk für die Hardware optimiert. Heutzutage haben Sie neuronale Netzwerk-Frameworks oder -Tools, die Ihnen bei der Ausführung auf CPUs helfen, aber es ist nicht wirklich [für unsere Hardware] optimiert. Anschließend müssen Sie eine Firmware generieren, die in der realen Entwicklung eingebetteter Systeme verwendet werden kann. Das vierte Problem ist die komplette Edge-to-Cloud-Lösung inklusive Gerätebereitstellung und Anbindung an die Cloud. Dies sind die vier Schwachstellen, die wir mit Tensai Flow angehen.“

Die Tensai Flow-Toolkette von Eta Compute enthält jetzt einen Compiler, der den neuronalen Netzwerkcode für den Chip des Unternehmens optimiert (Bild:Eta Compute)

Tensai Flow enthält einen Compiler, der ein TensorFlow- oder ONNX-Modell nimmt und es in Code kompiliert, der auf dem ECM3532-Gerät ausgeführt werden kann. Middleware fügt die gesamte Software hinzu, die zum Ausführen einer vollständigen Anwendung erforderlich ist, einschließlich eines Echtzeitbetriebssystems (RTOS) und Sensortreibern.

Tensai Flow umfasst auch einen „Netzwerk-Zoo“ von vorab validierten Modellen für spezifische Anwendungsfälle, die in Kundendesigns integriert werden können. Edge Impulse übernimmt Datenoperationen – Sammlung und Verwaltung von Daten, Versionierung der Daten, gemeinsame Nutzung von Datensätzen zwischen Entwicklern usw.

„Das Einzigartige an dieser Lösung im Vergleich zu dem, was wir von anderen Anbietern finden können, ist, wie umfassend sie ist, um optimierten Code zu generieren, der in einer realen Anwendung verwendet werden kann“, sagte Haddad. „Zwischen dem Aspekt des neuronalen Netzwerks und dem Aspekt der Firmware-Entwicklung unterscheidet dies [Tensai Flow].“

Eta Compute wurde 2015 gegründet und hat mit einem relativ bescheidenen Budget und einer relativ bescheidenen Anzahl von Mitarbeitern die Produktion von Silizium erreicht. Das Unternehmen hat bisher 19 Millionen US-Dollar aufgebracht und beschäftigt 35 Mitarbeiter in den USA und Indien.

>> Dieser Artikel wurde ursprünglich veröffentlicht am unsere Schwesterseite EE Times.