Magnetisches neuromorphes Computing steigert KI-Effizienz auf menschenähnliches Niveau

Magnete ermöglichen KI-Systemen menschenähnliche Effizienz bei der Objekterkennung

Forscher der Purdue University haben eine Methode entwickelt, die magnetische Eigenschaften mit gehirnähnlichen Netzwerken verbindet, um künstliche Intelligenz (KI) energieeffizienter zu gestalten. Der Ansatz nutzt die stochastische Schaltverhalten von magnetischen Tunnelkontakten, das der Sigmoid-Aktivierungsfunktion biologischer Neuronen ähnelt.

Neuer Algorithmus: ReStoCNet

Das Team setzte auf Spiking Neural Networks (SNNs), die Informationen durch spärliche Spike-Ereignisse kodieren und weniger Rechenressourcen benötigen als herkömmliche neuronale Netze. Mit einer modifizierten Spike-Timing-Dependent Plasticity (STDP)-Regel entwickelten sie den stochastischen Trainingsalgorithmus Stochastic-STDP.

Daraus entstand ReStoCNet – ein tiefes residuales convolutives SNN mit binären Kernen für speichereffizientes neuromorphes Computing. Die intrinsische Stochastik der Magnete wird genutzt, um die Magnetisierungsphase während des Trainings stochastisch zu schalten. Während der Inferenz werden die trainierten synaptischen Gewichte deterministisch in der Magnetisierungsphase von Nanomagneten kodiert.

Vorteile und Anwendungen

• Das Netzwerk repräsentiert sowohl Neuronen als auch Synapsen und reduziert Energie- und Speicherbedarf für gehirnähnliche Berechnungen.
• Es löst komplexe Optimierungsprobleme wie Graphenfärbung und das Problem des Handlungsreisenden.
• Die stochastischen Bauelemente fungieren als „natürliche Annealer“, die Algorithmen aus lokalen Minima herausführen.
• ReStoCNet eignet sich ideal für neuromorphe Hardware auf Basis von CMOS und neuartigen Speichertechnologien (PCM, ReRAM) – besonders für batteriebetriebene Geräte.

Validiert auf zwei öffentlichen Datensätzen zeigte sich, dass Residualverbindungen tiefen convolutiven Schichten ermöglichen, wertvolle Hochlevel-Features zu lernen und den Genauigkeitsverlust herkömmlicher SNNs ohne Residualverbindungen zu minimieren.

Quelle: Frontiers in Neuroscience | doi:10.3389/fnins.2019.00189 | Purdue University