SamurAI: Low-Power AI Chip setzt neuen Benchmark für Bilderkennung im IoT

Auf dem 2020 VLSI Symposium stellten französische Forschungsinstitute CEA-Leti und LIST SamurAI vor, einen kompakten AI Accelerator, der Energieeffizienz für Bilderkennungs-Workloads im Internet of Things neu definiert.

SamurAI integriert einen Low-Power IoT Knoten und einen dedizierten AI Accelerator, erreicht eine staggering 15.000-fache Reduktion der Peak-to-Idle Power Consumption, während er bis zu 1,3 Tera-Operations pro Sekunde pro Watt (TOPS/W) oder 36 GOPS für Machine-Learning-Aufgaben liefert.

In einem Real-World Occupancy-Detection Prototyp powerte der Chip ein System, das PIR Sensor, 224×224-Pixel Schwarzweiß-Kamera, FeRAM und Low-Power Radio umfasste. Das System durchschnitt 105 µW pro Tag, wovon SamurAI 26 % des Budgets verbrauchte.

SamurAI System Overview

SamurAI ist um zwei On-Chip Subsysteme gebaut:

• Ein clockless, event-driven Wake-Up Controller, der das System in 207 ns starten kann.
• Ein On-Demand Subsystem, das einen RISC-V CPU mit Deep-Sleep Mode, den PNeuro AI Accelerator und Kryptografie-Acceleratoren beherbergt.

Diese Dual-Subsystem-Architektur liefert ein Peak-to-Idle Power Ratio von 15.000×. Im Idle Mode verbraucht der Chip nur 6,4 µW; wenn CPU und AI Accelerator aktiv sind, steigt Leistung auf 96 mW.

Gefertigt in STMicros 28 nm Fully-Depleted Silicon-On-Insulator (FD-SOI) Prozess, enthält der 4,5 mm² Die sechs schaltbare Power Domains und operiert ohne Body Biasing.

PNeuro AI Accelerator

Der Accelerator, genannt PNeuro, ist ein Single-Instruction, Multiple-Data (SIMD) programmierbarer Engine. Er umfasst zwei Cluster von 32 × 8-Bit Processing Elements, backed by 264 kB Multi-Banked SRAM. Der Block kann 64 MACs pro Zyklus ausführen.

Kernperformance-Zahlen:

• 1,3 TOPS/W bei 2,8 GOPS auf 0,48 V Supply.
• 36 GOPS für 8-Bit Fully-Connected Neural-Network Layers auf 0,9 V Supply.

Deployment von PNeuro halbiert den System-Gesamtstromverbrauch relativ zu Ausführung von Machine-Learning-Workloads auf dem RISC-V Core.

Designed für IoT-Szenarien, die sporadische Compute-Bursts zwischen langen Sleep-Perioden erfordern, ermöglicht SamurAI On-Device AI Processing. Dieser Ansatz eliminiert Cloud-Abhängigkeit, reduziert Latenz und wahrt Privatsphäre, ideal für Applikationen wie Person Detection oder Scene Identification mittels Kameras oder anderen Sensoren.

>> Dieser Artikel wurde ursprünglich auf unserer Schwesterseite EE Times Europe veröffentlicht.