Revolutionärer KI-Chip überwindet Transistor-Limits: Massive Rechenleistung bei minimalem Energieverbrauch

Electronics & Sensors INSIDER

Princeton-Forscher haben die Physik des Computierens völlig neu gedacht, um einen Chip für moderne KI-Workloads zu bauen. Und mit neuer US-Regierungsunterstützung werden sie testen, wie schnell, kompakt und energieeffizient dieser Chip werden kann. Ein früher Prototyp ist oben abgebildet. (Bild: Hongyang Jia/Princeton University)

DARPA fördert Princeton-geführtes Projekt mit 18,6 Mio. $

Die größte Forschungsorganisation des Verteidigungsministeriums hat sich mit einem von der Princeton University geführten Vorhaben zusammengetan, um fortschrittliche Mikrochips für künstliche Intelligenz zu entwickeln.

Die neue Hardware reimaginiert Chips für moderne Workloads, die leistungsstarke KI-Systeme mit viel weniger Energie als heutige fortschrittlichste Halbleiter betreiben können, so Naveen Verma, Professor für Elektrotechnik und Informatik. Verma, der das Projekt leiten wird, sagte, die Durchbrüche durchbrechen Schlüsselbarrieren, die Chips für KI behindert haben, einschließlich Größe, Effizienz und Skalierbarkeit.

Chips, die weniger Energie benötigen, können eingesetzt werden, um KI in dynamischeren Umgebungen zu betreiben – von Laptops und Handys bis zu Krankenhäusern und Autobahnen bis hin zu niedrigen Erdorbits und darüber hinaus. Die Chips, die heute die fortschrittlichsten Modelle antreiben, sind zu sperrig und ineffizient, um auf kleinen Geräten zu laufen, daher sind sie primär auf Server-Racks und große Rechenzentren beschränkt.

Nun hat die Defense Advanced Research Projects Agency (DARPA) angekündigt, Vermas Arbeit, basierend auf einer Suite von Schlüsselerfindungen aus seinem Labor, mit einem 18,6-Millionen-Dollar-Grant zu unterstützen. Die DARPA-Finanzierung wird eine Erkundung antreiben, wie schnell, kompakt und energieeffizient der neue Chip werden kann.

„Es gibt eine ziemlich wichtige Limitation, dass die beste KI nur im Rechenzentrum verfügbar ist“, sagte Verma. „Man löst sie davon, und die Wege, wie wir Wert aus KI ziehen können, explodieren.“

Hintergrund: Exponentieller Rechenbedarf

Die Ankündigung kam als Teil eines breiteren DARPA-Vorhabens, „revolutionäre Fortschritte in Wissenschaft, Geräten und Systemen“ für die nächste Generation von KI-Computing zu finanzieren. Das Programm, OPTIMA genannt, umfasst Projekte an mehreren Universitäten und Unternehmen. Der Programmausschreibung wurde die Gesamtförderung auf 78 Millionen Dollar geschätzt, obwohl DARPA die vollständige Liste der Institutionen oder den Gesamtbetrag der bislang vergebenen Mittel nicht offengelegt hat.

Im Princeton-geführten Projekt werden Forscher mit Vermas Startup EnCharge AI zusammenarbeiten. EnCharge AI mit Sitz in Santa Clara, CA, kommerzialisiert Technologien basierend auf Entdeckungen aus Vermas Labor, einschließlich mehrerer Schlüsselpapiere, die er mit Elektrotechnik-Graduierten bis zurück ins Jahr 2016 mitverfasste.

Verma gründete EnCharge AI 2022 mit Kailash Gopalakrishnan, einem ehemaligen IBM Fellow, und Echere Iroaga, einem Leiter im Halbleiter-Systemdesign.

Gopalakrishnan sagte, dass Innovation innerhalb bestehender Computerarchitekturen sowie Verbesserungen in der Siliziumtechnologie genau dann zu verlangsamen begannen, als KI massive neue Anforderungen an Rechenleistung und Effizienz schuf. Nicht einmal die beste Grafikprozessor-Einheit (GPU), die zum Betreiben heutiger KI-Systeme verwendet wird, kann die Engpässe in Speicher und Rechenenergie abmildern, mit denen die Industrie konfrontiert ist. „Während GPUs heute das beste verfügbare Werkzeug sind“, sagte er, „haben wir geschlossen, dass ein neuer Chiptyp nötig sein wird, um das Potenzial von KI freizusetzen.“

Zwischen 2012 und 2022 wuchs die von KI-Modellen benötigte Rechenleistung um etwa eine Million Prozent, laut Verma, der auch Direktor des Keller Center for Innovation in Engineering Education an der Princeton University ist. Um die Nachfrage zu decken, packen die neuesten Chips Zehner Milliarden Transistoren, jeder getrennt durch die Breite eines kleinen Virus. Und doch sind die Chips immer noch nicht dicht genug in ihrer Rechenleistung für moderne Bedürfnisse.

Heutige führende Modelle, die große Sprachmodelle mit Computer Vision und anderen Ansätzen des maschinellen Lernens kombinieren, wurden mit mehr als einer Billion Variablen jeweils entwickelt. Die von Nvidia entworfenen GPUs, die den KI-Boom angetrieben haben, sind so wertvoll geworden, dass große Unternehmen sie Berichten zufolge per Panzerwagen transportieren. Die Wartelisten zum Kauf oder Leasen dieser Chips reichen bis zum Verschwinden.

Als Nvidia erst das dritte Unternehmen wurde, das eine 2-Billionen-Dollar-Bewertung erreichte, berichtete das Wall Street Journal, dass ein schnell wachsender Anteil des steigenden Umsatzes nicht durch die Entwicklung der Modelle (Training) stammte, sondern durch Chips, die die Nutzung von KI-Systemen ermöglichen, sobald sie bereits trainiert sind. Technologen bezeichnen diese Bereitstellungsphase als Inferenz. Und Inferenz ist der Bereich, in dem Verma sagt, dass seine Forschung in der nahen bis mittelfristigen Zukunft die größte Wirkung haben wird.

„Das alles dreht sich um die Dezentralisierung von KI, sie vom Rechenzentrum zu befreien“, sagte er. „Sie muss aus dem Rechenzentrum heraus in Orte, wo wir und die Prozesse, die uns wichtig sind, am meisten auf Computing zugreifen können – und das sind Handys, Laptops, Fabriken, solche Dinge.“

Drei Schlüsselteile des neuen Ansatzes

Um Chips zu schaffen, die moderne KI-Workloads in kompakten oder energiebeschränkten Umgebungen bewältigen können, mussten die Forscher die Physik des Computierens komplett neu denken, während sie Hardware entwarfen und verpackten, die mit bestehenden Fertigungstechniken hergestellt werden kann und gut mit bestehenden Computertechnologien wie einer CPU zusammenarbeitet.

„KI-Modelle sind in ihrer Größe explodiert“, sagte Verma, „und das bedeutet zwei Dinge.“ KI-Chips müssen viel effizienter bei Mathematik werden und viel effizienter beim Verwalten und Bewegen von Daten.

Ihr Ansatz hat drei Kernbestandteile.

1. In-Memory Computing: Rechnung dort, wo Daten liegen

Die Kernarchitektur praktisch jedes digitalen Computers folgt einem trügerisch einfachen Muster, erstmals in den 1940ern entwickelt: Daten an einem Ort speichern, Berechnung an einem anderen. Das bedeutet, Informationen zwischen Speicherzellen und Prozessor hin- und herzuschieben. Über das vergangene Jahrzehnt hat Verra Forschung in einen aktualisierten Ansatz pioniert, bei dem die Berechnung direkt in Speicherzellen erfolgt – In-Memory Computing. Das ist Teil eins. Das Versprechen: In-Memory Computing wird die Zeit und Energie reduzieren, die es kostet, große Datenmengen zu bewegen und zu verarbeiten.

2. Analoge Berechnung: Physik der Geräte nutzen

Bisher waren digitale Ansätze zum In-Memory Computing stark limitiert. Verma und sein Team wandten sich einem alternativen Ansatz zu: analoger Berechnung. Das ist Teil zwei.

„Im speziellen Fall von In-Memory Computing müssen Sie nicht nur effizient rechnen“, sagte Verma, „Sie müssen es auch mit sehr hoher Dichte tun, weil es jetzt in diese winzigen Speicherzellen passen muss.“ Anstatt Informationen in einer Reihe von 0en und 1en zu kodieren und diese mit traditionellen Logikschaltungen zu verarbeiten, nutzen analoge Computer die reichere Physik der Geräte. Die Krümmung eines Zahnrads. Die Fähigkeit eines Drahts, elektrische Ladung zu halten.

Digitale Signale begannen in den 1940ern, analoge Signale zu ersetzen, primär weil Binärcode besser mit dem exponentiellen Wachstum des Computierens skalierte. Aber digitale Signale greifen nicht tief in die Physik der Geräte ein und können als Ergebnis mehr Datenspeicher und -verwaltung erfordern. Sie sind in dieser Hinsicht weniger effizient. Analog bezieht seine Effizienz daraus, feinere Signale mit der intrinsischen Physik der Geräte zu verarbeiten. Aber das kann mit einem Kompromiss bei der Präzision einhergehen.

„Der Schlüssel liegt darin, die richtige Physik für den Job in einem Gerät zu finden, das exzellent kontrollierbar und in großem Maßstab herstellbar ist“, sagte Verma.

3. Präzise Kondensatoren: Geometrie statt variabler Physik

Sein Team fand einen Weg, hochgenaue Berechnung mit dem analogen Signal zu nutzen, das von speziell entworfenen Kondensatoren erzeugt wird, die mit exakter Präzision ein- und ausschalten. Das ist Teil drei. Im Gegensatz zu Halbleiterbauelementen wie Transistoren hängt die elektrische Energie, die durch Kondensatoren fließt, nicht von variablen Bedingungen wie Temperatur und Elektronenbeweglichkeit in einem Material ab. „Sie hängen nur von Geometrie ab“, sagte Verma. „Sie hängen vom Abstand zwischen einem Metalldraht und dem anderen Metalldraht ab.“ Und Geometrie ist eine Sache, die heutige fortschrittlichste Halbleiterfertigungstechniken extrem gut kontrollieren können.

Quelle