Intel bietet den neuromorphen Loihi 2-Chip und das Software-Framework

Intel hat seinen neuromorphen Computing-Chip der zweiten Generation, Loihi 2, vorgestellt, den ersten Chip, der auf seiner Intel 4-Prozesstechnologie basiert. Loihi 2 wurde für die Erforschung modernster neuromorpher neuronaler Netze entwickelt und bietet eine Reihe von Verbesserungen. Sie umfassen einen neuen Befehlssatz für Neuronen, der mehr Programmierbarkeit bietet, es ermöglicht, dass Spikes ganzzahlige Werte jenseits von nur 1 und 0 haben, und die Möglichkeit, für größere Systeme in dreidimensionale Maschen von Chips zu skalieren.

Der Chiphersteller stellte außerdem Lava vor, ein Open-Source-Software-Framework für die Entwicklung neuroinspirierter Anwendungen. Intel hofft, neuromorphe Forscher in die Entwicklung von Lava einbeziehen zu können, die es Forschungsteams ermöglichen wird, auf der Arbeit des anderen aufzubauen, wenn es in Betrieb ist.

Loihi ist Intels Version dessen, wie neuromorphe Hardware, die für gehirninspirierte Spiking Neural Networks (SNNs) entwickelt wurde, aussehen sollte. SNNs werden beim ereignisbasierten Computing verwendet, bei dem das Timing von Eingabespitzen die Informationen codiert. Im Allgemeinen haben Spitzen, die früher eintreffen, einen größeren Recheneffekt als solche, die später eintreffen.

Der neuromorphe Prozessor Loihi 2 von Intel der zweiten Generation. (Quelle:Intel)

Einer der Hauptunterschiede zwischen neuromorpher Hardware und Standard-CPUs ist die feinkörnige Verteilung des Speichers, was bedeutet, dass der Speicher von Loihi in einzelne Kerne eingebettet ist. Da Loihis Spitzen vom Timing abhängig sind, ist die Architektur asynchron.

„Beim neuromorphic Computing entsteht die Berechnung durch die Interaktion zwischen diesen dynamischen Elementen“, erklärt Mike Davies, Direktor des Neuromorphic Computing Lab von Intel. „In diesem Fall sind es Neuronen, die diese dynamische Eigenschaft haben, sich online an die empfangenen Eingaben anzupassen, und der Programmierer kennt möglicherweise nicht die genaue Flugbahn der Schritte, die der Chip durchlaufen wird, um zu einer Antwort zu gelangen.

„Es durchläuft einen dynamischen Prozess der Selbstorganisation seiner Zustände und pendelt sich in einem neuen Zustand ein. Dieser letzte Fixpunkt, wie wir ihn nennen, oder Gleichgewichtszustand, ist das, was die Antwort auf das Problem codiert, das Sie lösen möchten“, fügte Davies hinzu. „Es unterscheidet sich also grundlegend davon, wie wir über Computer in anderen Architekturen denken.“

Loihi-Chips der ersten Generation wurden bisher in einer Vielzahl von Forschungsanwendungen demonstriert, einschließlich der adaptiven Roboterarmsteuerung, bei der sich die Bewegung an Änderungen im System anpasst, wodurch Reibung und Verschleiß des Arms reduziert werden. Loihi ist in der Lage, seinen Regelalgorithmus anzupassen, um Fehler oder unvorhersehbares Verhalten zu kompensieren, sodass Roboter mit der gewünschten Genauigkeit arbeiten können. Loihi wurde auch in einem System verwendet, das verschiedene Gerüche erkennt. In diesem Szenario kann es neue Gerüche viel effizienter lernen und erkennen als ein auf Deep Learning basierendes Äquivalent. Ein Projekt mit der Deutschen Bahn nutzte Loihi auch für die Zugplanung. Das System reagierte schnell auf Veränderungen wie Gleissperrungen oder blockierte Züge.

Funktionen der zweiten Generation

Loihi 2 basiert auf einer Vorserienversion des Intel-4-Prozesses und zielt darauf ab, die Programmierbarkeit und Leistung zu verbessern, ohne die Energieeffizienz zu beeinträchtigen. Wie sein Vorgänger verbraucht er typischerweise etwa 100 mW (bis zu 1 W).

Eine Erhöhung der Ressourcendichte ist eine der wichtigsten Veränderungen; während der Chip immer noch 128 Kerne enthält, springt die Neuronenzahl um den Faktor acht.

„Eine größere Menge an Speicher, Neuronen und Synapsen in einem einzigen Chip zu erreichen, ist für die kommerzielle Rentabilität von entscheidender Bedeutung … und deren Kommerzialisierung auf eine Weise, die für Kundenanwendungen sinnvoll ist“, sagte Davies.

Klick für Bild in voller Größe

Loihi 2-Funktionen. (Quelle:Intel)

Mit Loihi 1 würden Workloads oft auf nicht optimale Weise auf die Architektur abgebildet. Zum Beispiel wurde die Neuronenzahl oft maximiert, während noch freier Speicher verfügbar war. Die Speicherkapazität von Loihi 2 ist insgesamt ähnlich, wurde jedoch in flexiblere Speicherbänke aufgeteilt. Den Netzwerkparametern wurde eine zusätzliche Komprimierung hinzugefügt, um den Speicherbedarf für größere Modelle zu minimieren. Dadurch wird Speicher frei, der für Neuronen neu zugewiesen werden kann.

Das Ergebnis ist, dass Loihi 2 größere Probleme mit der gleichen Speichermenge lösen kann und eine etwa 15-fache Steigerung der neuronalen Netzwerkkapazität pro Millimeter liefert ² der Chipfläche – wobei zu berücksichtigen ist, dass die Chipfläche durch die neue Prozesstechnologie insgesamt halbiert wird.

Neuronenprogrammierbarkeit

Die Programmierbarkeit ist eine weitere wichtige Änderung der Architektur. Neuronen, die zuvor eine feste Funktion hatten, obwohl sie konfigurierbar waren, erhalten in Loihi 1 einen vollständigen Befehlssatz in Loihi 2. Der Befehlssatz umfasst allgemeine Rechen-, Vergleichs- und Programmsteuerungsflussbefehle. Dieses Maß an Programmierbarkeit würde eine effizientere Ausführung verschiedener SNN-Typen ermöglichen.

„Dies ist eine Art Mikrocode, mit dem wir fast beliebige Neuronenmodelle programmieren können“, sagt Davies. „Dies deckt die Grenzen von Loihi [1] ab, und wo wir im Allgemeinen einen höheren Anwendungswert finden, könnte mit noch komplexeren und reichhaltigeren Neuronenmodellen erschlossen werden, was wir zu Beginn von Loihi nicht erwartet hatten. Aber jetzt können wir tatsächlich das volle Ausmaß an Neuronenmodellen abdecken, das unsere Partner zu untersuchen versuchen, und was die Domäne der Computational Neuroscience vorschlägt und charakterisiert.“

Der Loihi 2-Die ist der erste, der auf einer Vorserienversion der Intel 4-Prozesstechnologie hergestellt wird. (Quelle:Intel)

Für Loihi 2 wurde die Idee der Spikes ebenfalls verallgemeinert. Loihi 1 verwendete strenge binäre Spitzen, um das zu spiegeln, was in der Biologie zu sehen ist, wo Spitzen keine Größe haben. Alle Informationen werden durch Spike-Timing dargestellt, und frühere Spikes hätten einen größeren Recheneffekt als spätere Spikes. In Loihi 2 tragen Spikes eine konfigurierbare ganzzahlige Nutzlast, die dem programmierbaren Neuronenmodell zur Verfügung steht. Während biologische Gehirne dies nicht tun, sagte Davies, dass es für Intel relativ einfach war, die Siliziumarchitektur zu erweitern, ohne die Leistung zu beeinträchtigen.

„Dies ist ein Fall, in dem wir von der strengen biologischen Treue abweichen, insbesondere weil wir die Bedeutung und den Aspekt der Zeitcodierung verstehen“, sagte er. „Aber [wir haben erkannt], dass wir es besser machen können und die gleichen Probleme mit weniger Ressourcen lösen können, wenn wir diese zusätzliche Größenordnung haben, die mit diesem Anstieg einhergehen kann.“

Generalisiertes ereignisbasiertes Messaging ist der Schlüssel zur Unterstützung von Loihi 2 für ein tiefes neuronales Netzwerk namens Sigma-Delta-Neuralnetzwerk (SDNN), das viel schneller ist als der auf Loihi 1 verwendete Timing-Ansatz. SDNNs berechnen abgestufte Aktivierungswerte auf die gleiche Weise. dies bei herkömmlichen DNNs der Fall ist, kommunizieren jedoch nur auf spärliche, ereignisgesteuerte Weise signifikante Änderungen, wenn sie auftreten.

3D-Skalierung

Loihi 2 wird als bis zu 10-mal schneller als sein Vorgänger auf Schaltungsebene in Rechnung gestellt. In Kombination mit funktionalen Verbesserungen kann das Design bis zu 10-fache Geschwindigkeitsgewinne liefern, behauptete Davies. Loihi 2 unterstützt minimale chipweite Zeitschritte unter 200 ns; es kann auch neuromorphe Netzwerke bis zu 5.000 Mal schneller verarbeiten als biologische Neuronen.

Der neue Chip verfügt auch über Skalierbarkeitsports, die es Intel ermöglichen, neuronale Netzwerke in die dritte Dimension zu skalieren. Ohne externen Speicher, auf dem größere neuronale Netze ausgeführt werden konnten, benötigte Loihi 1 mehrere Geräte (wie in Intels 768-Loihi-Chipsystem Pohoiki Springs). Planare Netze von Loihi 1-Chips werden in Loihi 2 zu 3D-Netzen. Inzwischen wurde die Chip-zu-Chip-Bandbreite um den Faktor vier verbessert, wobei Komprimierung und neue Protokolle ein Zehntel des redundanten Spitzenverkehrs zwischen den Chips bereitstellen. Davies sagte, dass die kombinierte Kapazitätssteigerung für die meisten Workloads etwa das 60-Fache beträgt, wodurch Engpässe durch Verbindungen zwischen den Chips vermieden werden.

Unterstützt wird auch das Drei-Faktor-Lernen, das in der neuesten Forschung zu neuromorphen Algorithmen beliebt ist. Die gleiche Modifikation, die dritte Faktoren bestimmten Synapsen zuordnet, kann verwendet werden, um die Backpropagation, die beim Deep Learning verwendete Trainingsmethode, anzunähern. Das schafft neue Wege des Lernens über Loihi.

Loihi 2 wird Forschern als Single-Chip-Board für die Entwicklung von Edge-Anwendungen (Oheo Gulch) zur Verfügung stehen. Es wird auch als Acht-Chip-Platine angeboten, die für anspruchsvollere Anwendungen skaliert werden soll. (Quelle:Intel)

Lava

Das Lava-Software-Framework rundet die Loihi-Erweiterungen ab. Das Open-Source-Projekt steht der neuromorphen Forschungsgemeinschaft zur Verfügung.

„Software hält das Feld weiterhin zurück“, sagte Davies. „In den letzten Jahren gab es nicht viele Fortschritte, nicht im gleichen Tempo wie bei der Hardware. Und es ist kein einziges Software-Framework entstanden, wie wir es in der Welt des Deep Learning gesehen haben, in der TensorFlow und PyTorch eine enorme Dynamik und eine Benutzerbasis gewinnen.“

Während Intel über ein Portfolio von Anwendungen verfügt, die für Loihi demonstriert wurden, war der Codeaustausch zwischen den Entwicklungsteams begrenzt. Das macht es für Entwickler schwieriger, auf den Fortschritten aufzubauen, die an anderer Stelle gemacht wurden.

Als neues Projekt und nicht als Produkt beworben, sagte Davies, Lava sei als eine Möglichkeit gedacht, ein Framework aufzubauen, das Loihi-Forscher bei der Arbeit an einer Reihe von Algorithmen unterstützt. Lava zielt zwar auf die ereignisbasierte asynchrone Nachrichtenweitergabe ab, unterstützt jedoch auch die heterogene Ausführung. Damit können Forscher Anwendungen entwickeln, die zunächst auf CPUs laufen. Mit Zugriff auf Loihi-Hardware können Forscher dann Teile der Arbeitslast auf den neuromorphen Chip abbilden. Die Hoffnung ist, dass dieser Ansatz dazu beitragen würde, die Eintrittsbarriere zu senken.

„Wir sehen hier einen Bedarf an Konvergenz und einer gemeinsamen Entwicklung in Richtung dieses größeren Ziels, das für die Kommerzialisierung der neuromorphen Technologie erforderlich sein wird“, sagte Davies.

Loihi 2 wird von Forschern verwendet, die fortschrittliche neuromorphe Algorithmen entwickeln. Oheo Gulch, ein Ein-Chip-System für Labortests, wird zunächst Forschern zur Verfügung stehen, gefolgt von Kapoho Point, einer Acht-Chip-Loihi-2-Version von Kapoho Bay. Kapoho Point enthält eine Ethernet-Schnittstelle, die das Stapeln von Boards für Anwendungen wie Robotik ermöglicht, die mehr Rechenleistung erfordern.

Lava steht auf GitHub zum Download bereit.

>> Dieser Artikel wurde ursprünglich auf unserer Schwesterseite EE . veröffentlicht Zeiten.

---

Verwandte Inhalte:

• Plädoyer für neuromorphe Chips für KI-Computing
• Spiking neuronales Netzwerk zielt auf Arm-Chips ab
• Erweiterte KI-Chips, um auf neuen Speichertechnologien aufzubauen
• Neuromorphe KI-Chips für das Spiking neuronaler Netze debütieren
• Das Benchmarking-Rätsel des neuromorphen Computing

Für mehr Embedded, abonnieren Sie den wöchentlichen E-Mail-Newsletter von Embedded.