Mipsologys Zebra wandelt GPU KI-Code in FPGA-Beschleuniger mit einem Kommando

Mipsology, ein zukunftsorientiertes KI-Software-Startup, hat sich mit Xilinx zusammengetan, um das volle Potenzial von FPGAs für KI-Workloads freizusetzen. Ihre „Zero-Effort“-Lösung Zebra übersetzt bestehenden GPU-Code, sodass er auf Mipsologys custom KI-Compute-Engine auf einem FPGA läuft – keine Code-Änderungen oder Retraining erforderlich.

Heute hat Xilinx Zebra mit dem neuesten Build seiner Alveo U50 Data-Center-Accelerator-Karte ausgeliefert, was nahtlose GPU-zu-FPGA-Konvertierung out-of-the-box zum Gerät hinzufügt. Zebra beschleunigt Inferenz bereits auf anderen Xilinx Boards, einschließlich Alveo U200 und Alveo U250.

Der neueste Build von Xilinx' Alveo U50 Data-Center-Accelerator-Karte wird nun mit Mipsologys Zebra Software ausgeliefert, was GPU KI-Code auf FPGAs ausführbar macht (Bild: Xilinx)

„Die Beschleunigung, die Zebra auf unseren Alveo Karten liefert, übertrifft CPUs und GPUs“, sagte Ramine Roane, Xilinx' Vice President of Marketing. „Mit Zebra erfüllt der Alveo U50 die Flexibilitäts-, Performance-, High-Throughput- und Low-Latency-Anforderungen von KI-Workloads und macht ihn zu einer überzeugenden Wahl für jedes Deployment.“

Plug-and-Play FPGAs

Historisch wurden FPGAs als komplex zu programmieren wahrgenommen, besonders für Nicht-Spezialisten. Mipsologys Vision ist es, FPGAs zu einer Plug-and-Play-Plattform zu machen – genauso einfach zu nutzen wie CPU oder GPU. Das Ziel ist es, Nutzern zu ermöglichen, mit einer einzigen Codezeile von traditionellen Acceleratoren zu FPGA zu wechseln.

„Mipsology ist im Wesentlichen das CUDA der FPGAs“, sagte CEO Ludovic Larzul in einem Interview mit EE Times. „Wir bieten Software, die das FPGA abstrahiert, damit KI-Nutzer sich auf das Modell konzentrieren können, nicht die Hardware.“

Kritisch ist, dass dieser Übergang von Nicht-Experten erreichbar ist. Keine tiefen KI-Expertise oder FPGA-Wissen nötig, und das Modell muss nicht retrainiert werden.

„Benutzerfreundlichkeit ist paramount. Viele KI-Projekte werden von Teams gemanagt, die keinen In-House KI- oder FPGA-Spezialisten haben“, erklärte Larzul. „Sie entwickeln vielleicht Neural Networks anderswo, und sobald ein Modell trainiert ist, wollen sie es deployen, ohne es neu zu designen.“

Zebras Stack. Die Technologie spannt Data-Center, Edge und Embedded Use Cases (Bild: Mipsology)

Warum nicht Vitis?

Xilinx bietet bereits Vitis, einen umfassenden Toolchain für das Bringen von FPGAs zu Data Scientists und Entwicklern. Warum also mit einem Drittanbieter partner? Larzul sagt, die Antwort ist simpel: Performance und Simplicität.

„Wir machen es besser“, sagte er. „Und wir machen es richtig.“

Mipsologys Zebra ist vollständig unabhängig von Vitis, XDNN oder Xilinx' Neural-Network-Accelerator-Engine. Stattdessen läuft es auf einer dedizierten Compute-Engine, die nativ Kundenbestehende Convolutional Neural Network (CNN) Modelle unterstützt. Im Gegensatz dazu ist XDNN, obwohl fähig, weniger geeignet für Custom Networks und kann mühsam zu integrieren sein.

„Wir positionieren FPGAs, um GPUs head-on anzugehen, sie in Performance, Cost und Usability zu matchen“, fügte Larzul hinzu.

Zebras Stack im Detail. Wir verstecken Hardware-Komplexität, um FPGAs zu einem nahtlosen Switch von GPUs oder CPUs zu machen (Bild: Mipsology)

Kosten sind ein primärer Treiber für viele Kunden. „Sie wollen niedrigere Hardware-Kosten ohne Netzwerk-Redesign“, sagte Larzul. „Durch Eliminierung von Retraining und Netzwerk-Modifikation reduzieren wir die Non-Recurring Engineering Costs.“

FPGAs bieten auch überlegene Zuverlässigkeit. Da sie weniger Silicon Real Estate verbrauchen und bei niedrigeren Temperaturen operieren als GPUs, verursachen sie niedrigere langfristige Wartungskosten – eine wichtige Überlegung für Data-Center-Betreiber.

„Total Cost of Ownership umfasst mehr als nur den Board-Preis“, betonte Larzul. „Es deckt auch ab, das System operational zu halten.“

Zebra ist engineered, die Performance-Lücke zu schließen. Während FPGAs typischerweise weniger Tera-Operations per Second (TOPS) liefern als andere Acceleratoren, maximiert Zebras Compute-Engine Effizienz. „Unser FPGA kann mehr Bilder pro Sekunde verarbeiten als ein GPU mit sechsmal den TOPS“, behauptete Larzul.

Wie wird dies erreicht? Obwohl spezifische Details proprietär sind, merkte Larzul an, dass Zebra Pruning vermeidet (was Accuracy ohne Retraining degradieren würde) und extreme Quantisierung unter 8-bit vermeidet, was Model Fidelity bewahrt.

Jenseits von CNNs – dominant in Bild- und Video-Aufgaben – unterstützt Zebra auch BERT, Googles NLP-Modell, das zugrundeliegende mathematische Strukturen teilt. Zukünftige Releases könnten LSTM und RNN Architekturen targeten, obwohl diese zusätzliche Herausforderungen präsentieren.

Das Team hinter Zebra

2015 gegründet, beschäftigt Mipsology rund 30 R&D Engineers in Frankreich, mit einem lean Business Development Squad in Kalifornien. Das Unternehmen hat 7 Mio. $ aufgebracht, einschließlich 2 Mio. $ Award aus einem französischen Regierungs-Innovationswettbewerb 2019.

Mipsologys Kern-Talent kommt von EVE, einer ASIC-Emulator-Firma, die 2012 für 1,2 Mrd. $ von Synopsys für ihre ZeBu Verifikationsprodukte akquiriert wurde. EVEs Technologie – Leveraging tausender interconnected FPGAs zur Replikation von ASIC-Verhalten – wurde von großen ASIC-Vendors weltweit genutzt.

Mit 12 anhängigen Patents arbeitet Mipsology eng mit Xilinx zusammen und bleibt kompatibel mit Third-Party Accelerator Cards, wie Western Digitals Small-Form-Factor (SFF U.2) und Advantechs Vega-4001.

>> Dieser Artikel wurde ursprünglich auf unserer Schwesterseite EE Times veröffentlicht.