Imec & GlobalFoundries enthüllen 2900 TOPS/W Processor-in-Memory Chip für ultra-effiziente KI

Revolutionäres Analog Computing

Imec und GlobalFoundries haben einen Processor-in-Memory Chip demonstriert, der Energieeffizienz bis zu 2900 TOPS/W erreichen kann – roughly zwei Größenordnungen über heutigen kommerziellen Lösungen. Das Design nutzt Analog Computing inside SRAM, gebaut mit GlobalFoundries' 22 nm Fully-Depleted Silicon-On-Insulator (FD-SOI) Prozess.

Imecs Analog In-Memory Compute (AiMC) wird GlobalFoundries Kunden als Feature auf der 22FDX Plattform verfügbar sein.

Imecs AnIA Test Chip, montiert auf PCB für Messung, erreicht 2900 TOPS/W (Bild: Imec)

Analog Computing erklärt

Analog Computing, oder Processor-in-Memory, ist eine bewährte Technik, bereits adoptiert von kommerziellen KI-Acceleratoren von Mythic, Syntiant, Gyrfalcon und anderen. Es eliminiert das kostspielige Data Shuttling zwischen Memory und Processor, indem Multiply-Accumulate Operationen direkt innerhalb eines Memory Arrays durchgeführt werden.

Jede Memristor-Zelle wird auf einen analogen Leitwert programmiert, proportional zu einem Neural-Network Weight. Eine Spannung proportional zur Input Activation treibt die Zelle an, und der resultierende Strom repräsentiert das Produkt aus Activation und Weight. Die Stromsumme auf jedem Bit-Line liefert die Matrix-Vektor-Multiplikation, die von Neural Networks gefordert wird, welche dann via Analog-to-Digital Converter ausgelesen werden kann.

„In der Praxis können wir ReRAM, MRAM, Flash oder DRAM nutzen – unser Ziel ist, die beste Option für jede Applikation zu identifizieren und die Technologie feinzujustieren“, sagte Diederik Verkest, Program Director für Machine Learning bei Imec.

Imecs AnIA Test Chip

Auf GlobalFoundries' 22 nm FD-SOI gebaut, featured AnIA ein 512k-Zellen SRAM Array, 1024 DACs und 512 ADCs über 4 mm². Er kann ca. 500.000 Computationen pro Zyklus mit 6-Bit Activations (plus Sign Bit), ternären Weights und 6-Bit Outputs durchführen.

„Wir können Matrix-Vektor-Multiplikationsergebnisse bei mehreren Supply Voltages liefern – 0,8 V und 0,6 V – ohne Accuracy Kompromisse. Niedrigere Voltages reduzieren Stromverbrauch dramatisch, kritisch für Energy-Constrained Inference am Edge“, erklärte Ioannis Papistas von Imecs Machine-Learning Gruppe.

Auf CIFAR-10 Object-Recognition Task fiel AnIAs Accuracy nur um einen Prozentpunkt versus ähnlich quantisiertem Baseline. Bei 0,8 V erreichte der Chip 1.050–1.500 TOPS/W für 23,5 TOPS; bei 0,6 V erreichte er 5,8 TOPS und 1.800–2.900 TOPS/W.

Energieeffizienz Vergleich: Imecs AnIA vs. andere KI-Acceleratoren (Klick zum Vergrößern) (Bild: Imec)

Vom Labor zur Massenproduktion

„Diese Innovation ist für Mainstream-Adoption bestimmt“, sagte Hiren Majmudar, VP und GM von GlobalFoundries' Computing Business Unit. „Wir sehen Partner bereits in Post-Production Phase mit validiertem Silizium. Wir erwarten Analog-Compute Silizium bis Jahresende oder Anfang nächstes Jahr in Produktion, und im Mass Market spätestens 2022 – potenziell früher.“

GlobalFoundries integriert Imecs AiMC Technologie in seine 22FDX Plattform, enabling Ultra-Low-Power KI-Acceleratoren. Der FD-SOI Prozess unterstützt Betrieb bis 0,5 V mit 1 pA/µm Standby Leakage. Das 22FDX+AiMC Feature ist aktuell in Entwicklung auf GlobalFoundries' 300mm Line bei Fab 1 in Dresden, Deutschland.

Imecs Machine-Learning Programm wird auf 10.000 TOPS/W (10 TOPS unter 100 mW) für Always-On Smart Sensors und Wearables pushen. Zukünftige Arbeit fokussiert Schrumpfung Compute Cells und Erkundung Emerging Memory Devices als Next-Gen Platforms.

>> Dieser Artikel wurde ursprünglich auf unserer Schwesterseite EE Times veröffentlicht.