KI-Tool sagt Chip-Ausführungsgeschwindigkeiten präziser voraus als Intels eigenes Modell

Kernpunkte

• Neues Machine-Learning-Tool prognostiziert, wie lange ein Prozessor für bestimmte Codeblöcke benötigt.
• Es ist genauer als Intels hauseigenes Vorhersagemodell.

Warum Ausführungszeit-Vorhersage wichtig ist

Die Bestimmung der Taktschritte, die ein Prozessor für einen Block von Assembler-Instruktionen im stationären Zustand benötigt, ist entscheidend für Performance-Ingenieure und Compiler-Entwickler.

Die Entwicklung analytischer Modelle dafür ist extrem komplex – besonders bei modernen Prozessorarchitekturen, wo die Aufgabe fehleranfällig ist und für jede Prozessorgeneration neu durchgeführt werden muss.

MIT-Forscher automatisieren den Prozess

MIT-Forscher haben ein Machine-Learning-Tool entwickelt, das diesen Prozess automatisiert: schneller, einfacher und genauer als die aktuell in statischen Code-Analysatoren und Compiler-Backends verwendeten händisch erstellten Tools.

Die neuartige ML-Pipeline wurde in drei Konferenzpublikationen vorgestellt:

1. Ithemal: Ein neuronales Netz wird mit gelabelten Basic Blocks (Blöcke von Recheninstruktionen) trainiert. Es sagt dann voraus, wie lange ein Mikroprozessor für unbehandelte Basic Blocks benötigt.
2. BHive: Zur Validierung von Ithemal erstellten die Forscher einen Benchmark-Satz von Basic Blocks aus verschiedenen Bereichen (Kryptografie, Compiler, Machine Learning, Grafik). Über 300.000 Blöcke wurden in BHive, einem Open-Source-Datensatz, zusammengefasst. Tests zeigten: Ithemal sagt Ausführungsgeschwindigkeiten auf Intel-Prozessoren genauer voraus als Intels eigenes Performance-Modell.
3. Vemal: Eine Methode zur automatischen Erstellung eines Algorithmus, der Code in Vektoren transformiert für paralleles Computing. Vemal übertrifft händisch erstellte Vektorisierungs-Algorithmen in industriellen Compilern wie LLVM.

Daten statt Dokumentation

Intel stellt detaillierte Dokumentationen zur Chip-Architektur bereit. Doch nur wenige Experten erstellen daraus Performance-Modelle. Und da die Chips proprietär sind, lässt Intel bestimmte Informationen weg.

Die Forscher gingen einen anderen Weg: Sie takteten die durchschnittliche Zyklenzahl für Basic-Block-Instruktionen (Befehl ausführen, Herunterfahren, Neustart) mithilfe eines neuronalen Netzes.

Das neuronale Netz profiliert automatisch Millionen von Blöcken und lernt schrittweise, wie verschiedene Prozessorarchitekturen Code ausführen. Kurz: Eine KI analysiert Daten, statt sich auf Chip-Dokumentation zu verlassen.

Ithemal nimmt ungesehene Basic Blocks als Eingabe und liefert eine einzelne Zahl: die vorhergesagte Ausführungszeit auf einem gegebenen Prozessor.

Ergebnisse

In der zweiten Publikation zeigten die Forscher, dass Ithemal konventionelle handgefertigte Modelle übertrifft. Während Intels Vorhersagemodell eine Fehlerrate von 20 % aufwies, lag Ithemal bei nur 10 % – über verschiedene Basic Blocks und Domänen hinweg.

Das Modell lässt sich leicht auf neue Architekturen trainieren: Daten vom neuen Chip sammeln, durch den Profiler laufen lassen, Ithemal damit trainieren. Fertig. Es kann Performance-Geschwindigkeiten für jede Prozessorarchitektur lernen – auch für Googles Tensor Processing Unit.

Ein Wermutstropfen: Wie das Modell zu seinen Vorhersagen kommt, ist unklar (Black Box). In Folgestudien wollen die Forscher Interpretierbarkeitstechniken erforschen.

Quelle: MIT