KI-Chiparchitektur zielt auf die Grafikverarbeitung ab

TOKYO – Der KI-Prozessordesigner Blaize, früher bekannt als ThinCI (ausgesprochen „Think-Eye“), gab bekannt, dass sein vollständig programmierbarer Graph Streaming Processor (GSP) im zweiten Quartal 2020 in Serie gehen wird.

Während das sechs Jahre alte Startup bei seinen Produktspezifikationen – wie Leistungsniveau und Benchmarking-Ergebnissen – keine Angaben macht, war sein Testchip, der Mitte 2018 herausgebracht und in einer Linux-basierten Box untergebracht ist, an 16 Pilotprogrammen weltweit beteiligt für ein Jahr, behauptete Blaize Mitbegründer und CEO Dinakar Munagala.

Blaize beschreibt sein GSP als in der Lage, „direkte Graphverarbeitung, On-Chip-Task-Graph-Management und -Ausführung sowie Task-Parallelität“ durchzuführen. Kurz gesagt, Blaize hat das GSP entwickelt, um KI-Verarbeitungsanforderungen zu erfüllen, die bisher von GPU, CPU oder DSP nicht erfüllt wurden.

Für viele Branchenanalysten, die sich mit KI-Prozessoren befassen, ist dies ein Thema, das sie schon einmal gehört haben.

Kevin Krewell, leitender Analyst bei Tirias Research, sagte:„Ich weiß ein bisschen über ThinCI, habe aber nie den Architektur-Pitch bekommen. Ich bin froh, dass sie den Namen geändert haben.“

Der Mangel an technischen Details zur GSP-Architektur in der Folienpräsentation schürt Frustration und Skepsis in der Tech-Analysten-Community. Munagala verspricht jedoch eine Informationsfreigabe im ersten Quartal 2020.

Blockdiagramm der GSP-Architektur auf hoher Ebene

Die GSP-Architektur besteht aus einer Reihe von Graph-Streaming-Prozessoren, dedizierten mathematischen Prozessoren, Hardwaresteuerung und verschiedenen Arten von Datencache. Das Unternehmen behauptet, dass das GSP Folgendes bieten kann:„Echte Parallelität auf Aufgabenebene, minimale Verwendung von Off-Chip-Speicher, Tiefenplanung von Hardware-Graphen, vollständig programmierbare Architektur.“ Klicken Sie hier für ein größeres Bild (Quelle:Blaize)

Aufnahme in eine Liste qualifizierter Anbieter

Die gute Nachricht für Blaize in den Köpfen von Munagala ist, dass eine Menge früher Kunden bereits sein APS verwenden. Blaize liefert seit einem Jahr ein Desktop-Gerät mit GSP aus. Es kann einfach in eine Steckdose gesteckt und mit Ethernet verbunden werden. Datenwissenschaftler, Software- und Hardwareentwickler evaluieren bereits Funktionen auf Systemebene, die durch GSP ermöglicht werden, sagte Munagala.

Blaize, mit 87 Millionen US-Dollar an Finanzierung, wird von frühen Investoren und Partnern unterstützt, darunter Denso, Japans führendes Unternehmen, Daimler und Magna. „Seit einigen Jahren machen wir auch Umsätze aus dem Automobilsegment“, sagte Munagala.

Mit einem abgeklebten Chip in der Hand stehen viele Startups vor einem „Was machen wir jetzt?“ Dilemma. Richard Terrill, Vice President und Strategic Business Development bei Blaize, sagte gegenüber der EE Times:„Diese Phase haben wir bereits vor einem Jahr hinter uns.“

Blaize hat seinen Fokus auf den Ausbau seiner Infrastruktur gerichtet, indem es ein Engineering-Team (jetzt mit 325 Mitarbeitern) verstärkt, das sich nach Kalifornien, Indien und Großbritannien erstreckt. Es zieht in neue Einrichtungen um und beginnt, Anwendungstechniker in Japan und EMEA einzustellen . „Wir halten unseren Schwung aufrecht“, sagte Munagala.

Für Blaize geht es im APS-Geschäft nicht mehr darum, mit konkurrierenden Startups bei den Spezifikationen in Power-Point-Präsentationen zu konkurrieren. Es geht darum herauszufinden, wie Kunden das GSP für welche Anwendungen nutzen werden – und wie viel Strom es „auf Systemebene“ in bestimmten Anwendungen verbraucht.

Blaize war damit beschäftigt, seine Logistik festzunageln, seine Produkte für die Automobilindustrie zu qualifizieren und sicherzustellen, dass der interne Prozess und die Dokumentation zertifiziert sind. „Wir haben bereits einen Auditierungsprozess durchlaufen und stehen auf einer zugelassenen und qualifizierten Lieferantenliste“ eines Automobilkunden, sagte Munagala. Dies war ein dringend benötigter Prozess, der von Automobilherstellern und Tier-Ones durchgesetzt wurde, die es vorziehen, Startups zu vermeiden, die möglicherweise nicht lange genug halten, um Produkte zu liefern.

Blaize stellte in Großbritannien (in Kings Langley und Leeds) etwa 30 Ingenieure ein, die mit der Entwicklung von Automobilprodukten beauftragt wurden. Sie sind ein engmaschiges Team von Ingenieuren, die losgelassen wurden, als Imagination MIPS veräußerte. „Dies sind eine Reihe hochqualifizierter Personen, die bei MIPS zusammengearbeitet haben, um MIPS-basierte ASICs für die Automobilindustrie für Mobileye zu qualifizieren“, erklärte Munagala.

Grafik-Computing

Obwohl KI in vielen verschiedenen Arten von neuronalen Netzen vorkommt, „sind alle neuronalen Netze graphenbasiert“, erklärte Munagala. Theoretisch ermöglicht dies Entwicklern, die graph-native Struktur zu nutzen, um mehrere neuronale Netze und ganze Workflows auf einer einzigen Architektur zu erstellen. Daher lautet der neue Marketing-Pitch des Unternehmens für sein APS „100 Prozent Graph-nativ“.

Blaize ist jedoch nicht gerade ein Einhorn im Graph-Computing-Universum. Graphcore, Mythic und jetzt das versagende Wave Computing haben alle über „Optimierung und Kompilierung von Datenflussdiagrammen“ in der KI-Verarbeitung gesprochen.

Terrill sagte:„Natürlich hat Graph Computing eine mehr als 60-jährige Geschichte.“

Blaize GSP unterscheidet sich in drei Bereichen von anderen graphbasierten Datenflussprozessoren, sagte Munagala. Erstens:„Unser GSP ist vollständig programmierbar“ und kann „eine breite Palette von Aufgaben“ ausführen, sagte er.

Zweitens ist es „dynamisch umprogrammierbar… in einem einzigen Taktzyklus“.

Drittens:„Wir bieten die Integration von Streaming an“, wodurch die Latenz minimiert werden kann. Der massive Effizienzmultiplikator wird über einen „Datenstreaming-Mechanismus“ bereitgestellt, bei dem die nicht-rechentechnische Datenbewegung minimiert oder eliminiert wird, erklärte er.

Sequentielle Ausführungsverarbeitung

Klicken Sie hier für ein größeres Bild (Quelle:Blaize)

Die graphennative Natur der GSP-Architektur kann die Datenbewegung hin und her zum externen DRAM minimieren. Nur der erste Eingang und der letzte Ausgang werden extern benötigt, während alles andere in der Mitte nur temporäre Zwischendaten sind. Dies führt zu einer massiven Reduzierung der Speicherbandbreite und des Stromverbrauchs.

Klicken Sie hier für ein größeres Bild (Quelle:Blaize)

Die erklärten Ziele für Blaize-Systeme sind „geringstmögliche Latenz, Reduzierung des Speicherbedarfs und des Energiebedarfs auf Chip-, Board- und Systemebene.“

Auf die Frage, ob Blaizes Graph-Computing-Design patentrechtlich geschützt sein wird, sagte Mungala:„Wir sind von unserem Patentportfolio überzeugt. Wir haben mehrere Patente – einige wurden bereits erteilt und andere angemeldet, aber wir tun dies seit mehreren Jahren.“