Blaize stellt Graph Streaming Processor (GSP) für KI-Workloads vor

TOKIO – Das KI-Beschleuniger-Unternehmen Blaize, ehemals ThinCI, gab bekannt, dass sein vollständig programmierbarer Graph Streaming Processor (GSP) in Q2 2020 in die Volumenproduktion geht.

Das sechs Jahre alte Startup hat keine detaillierten Spezifikationen, einschließlich Stromverbrauch und Benchmark-Daten, offengelegt. Allerdings wurde der Testchip – Mitte 2018 getaped und in einer Linux-basierten Umgebung betrieben – im vergangenen Jahr in 16 Pilotprojekten weltweit eingesetzt, sagte CEO und Mitgründer Dinakar Munagala.

Blaize charakterisiert den GSP als Ausführung direkter Graphenverarbeitung, Verwaltung und Ausführung von Task-Graphen auf dem Chip und Ermöglichung von Task-Level-Parallelismus. Im Wesentlichen adressiert der GSP KI-Workloads, die GPUs, CPUs und DSPs nicht effizient bedienen konnten.

Branchenanalysten merkten an, dass dieses Versprechen bekannte Behauptungen anderer KI-Prozessor-Anbieter widerspiegelt.

Kevin Krewell, Principal Analyst bei Tirias Research, sagte: „Ich kenne ThinCI etwas, aber nie den Architektur-Pitch bekommen. Froh, dass sie den Namen geändert haben.“

Das Fehlen technischer Details zur GSP-Architektur im Slide-Deck hat Frustration und Skepsis unter Analysten geschürt. Munagala versprach jedoch eine umfassende Informationsveröffentlichung in Q1 2020.

Auf die Qualified Vendor List kommen

Die gute Nachricht für Blaize, so Munagala, ist, dass eine wachsende Liste früher Anwender bereits den GSP nutzt. Im vergangenen Jahr hat Blaize ein Desktop-Gerät mit dem GSP ausgeliefert. Das Gerät kann in eine Steckdose gesteckt und per Ethernet verbunden werden. Data Scientists, Software- und Hardware-Entwickler evaluieren bereits systemweite Funktionen, die durch den GSP ermöglicht werden.

Blaize, mit 87 Millionen Dollar Finanzierung, wird von frühen Investoren und Partnern wie Denso, Daimler und Magna unterstützt. „Wir generieren seit einigen Jahren auch Umsatz aus dem Automobilsegment“, sagte Munagala.

Mit einem getapten Chip in der Hand stehen viele Startups vor dem „Was tun wir jetzt?“-Dilemma. Richard Terrill, VP und Strategic Business Development bei Blaize, sagte EE Times: „Wir haben diese Phase vor einem Jahr bereits hinter uns gelassen.“

Blaize konzentrierte sich auf den Ausbau seiner Infrastruktur durch Verstärkung des Engineering-Teams, das nun 325 Mitglieder in Kalifornien, Indien und UK umfasst. Es zieht in neue Einrichtungen um und stellt Field-Application-Engineers in Japan und EMEA ein. „Wir halten unseren Schwung“, sagte Munagala.

Für Blaize geht es beim GSP-Geschäft nicht mehr um Konkurrenz auf Spezifikationsblättern. Es geht darum zu verstehen, wie Kunden den GSP in echten Anwendungen nutzen werden und systemweiten Stromverbrauch in diesen Kontexten zu messen.

Blaize war damit beschäftigt, Logistik zu finalisieren, automobilen Qualifizierung zu erlangen und sicherzustellen, dass interne Prozesse und Dokumentation Zertifizierungsstandards entsprechen. „Wir haben bereits einen Audit-Prozess abgeschlossen und stehen auf der genehmigten und qualifizierten Vendor-Liste eines Automobilkunden“, sagte Munagala. Dieser Meilenstein ist kritisch für Automobilhersteller und Tier-1-Zulieferer, die Partner mit bewährter Langlebigkeit bevorzugen.

Blaize stellte 30 Ingenieure in UK (Kings Langley und Leeds) ein, um sich auf automobilen Produktentwicklung zu fokussieren. Das Team, bestehend aus hochqualifizierten Personen, die zuvor bei MIPS an MIPS-basierten ASICs für Mobileye arbeiteten, bringt tiefe Domänenexpertise mit.

Graph Computing

Während KI viele Neural-Network-Typen umfasst, „sind alle neuronalen Netze graphenbasiert“, erklärte Munagala. Theoretisch ermöglicht dies Entwicklern, mehrere neuronale Netze und gesamte Workflows auf einer einzigen Architektur aufzubauen. Daher der GSP-Marketing-Slogan: „100 Prozent graphen-nativ.“

Blaize ist nicht allein im Graph-Computing-Bereich. Wettbewerber wie Graphcore, Mythic und das kürzlich geschlossene Wave Computing haben ebenfalls diskutiert, Datenflussgraphen für KI-Verarbeitung zu optimieren und zu kompilieren.

Terrill bemerkte: „Graph Computing hat eine Geschichte von über 60 Jahren.“

Der Blaize GSP unterscheidet sich von anderen graphenbasierten Datenflussprozessoren in drei Punkten, laut Munagala. Erstens ist der GSP vollständig programmierbar und bewältigt eine breite Aufgabenspanne. Zweitens ist er dynamisch neu programmierbar „in einem einzelnen Taktzyklus“. Drittens integriert er Streaming, um Latenz zu minimieren. Der Datenstreaming-Mechanismus reduziert oder eliminiert nicht-komputationelle Datenbewegung und liefert einen signifikanten Effizienz-Multiplikator.

Das graphen-native Design der GSP-Architektur minimiert Datenbewegung zu externem DRAM. Nur der initiale Input und der finale Output benötigen externen Speicher; intermediäre Daten bleiben auf dem Chip, was Speicherbandbreite und Stromverbrauch drastisch reduziert.

Die erklärten Ziele für Blaize-Systeme sind „möglichst niedrigste Latenz, Reduktion der Speicheranforderungen und Energiebedarf auf Chip-, Board- und Systemebene.“

Auf die Frage, ob Blaizes Graph-Computing-Design patentrechtlich verteidigbar sei, antwortete Munagala: „Wir sind zuversichtlich in unser Patentportfolio. Wir halten mehrere erteilte Patente und haben zusätzliche Anmeldungen ausstehend, was Jahre fokussierter Forschung widerspiegelt.“