KI sagt voraus, wie schnell Computerchips Code ausführen werden

• Das neue Tool für maschinelles Lernen sagt voraus, wie lange ein bestimmter Computerchip braucht, um einen bestimmten Code auszuführen.
• Es ist genauer als Intels eigenes Vorhersagemodell.

Die Bestimmung der Anzahl von Taktzyklen, die ein Prozessor benötigt, um einen Block von Assembleranweisungen im stationären Zustand auszuführen, ist sowohl für Leistungsingenieure als auch für Compiler-Designer von entscheidender Bedeutung.

Dafür ein analytisches Modell zu entwickeln ist eine äußerst komplizierte Aufgabe, insbesondere in modernen Prozessorarchitekturen, wo die Aufgabe fehleranfälliger wird und für jede Prozessorgeneration von Grund auf neu durchgeführt werden muss.

Jetzt haben MIT-Forscher ein Werkzeug für maschinelles Lernen entwickelt, das diesen Prozess automatisiert und ihn schneller, einfacher und genauer macht als die hochmodernen handgeschriebenen Werkzeuge, die derzeit in statischen Maschinencode-Analysatoren und Compiler-Backends verwendet werden.

Sie beschrieben diese neuartige Pipeline für maschinelles Lernen in drei Konferenzbeiträgen:

1. Itemal:Ein neuronales Netzmodell wird auf Basisblöcken gekennzeichneter Daten (Blöcke von Rechenanweisungen) trainiert. Es sagt dann voraus, wie lange ein bestimmter Mikroprozessor braucht, um unverarbeitete Basisblöcke auszuführen.

2. BHive:Um Ithemal zu validieren, erstellten die Forscher eine Benchmark-Suite von Basisblöcken aus verschiedenen Bereichen wie Kryptographie, Compiler, maschinelles Lernen und Grafik. Sie sammelten über 300.000 Blöcke und steckten sie in BHive, einen Open-Source-Datensatz.

Die Tests zeigten, dass Itemal genauer vorhersagen konnte, wie schnell Intel-Prozessoren Code ausführen würden als das von Intel selbst entwickelte Leistungsmodell.

3. Vemal:Forscher haben eine neue Methode entwickelt, um automatisch einen Algorithmus namens Vemal zu erstellen, der spezifischen Code in Vektoren umwandelt, damit er für paralleles Rechnen verwendet werden kann.

Vemal schneidet besser ab als handgefertigte Vektorisierungsalgorithmen, die in industriellen Compilern verwendet werden, einschließlich des LLVM-Compilers.

Daten anstelle der Chipdokumentation verwenden

Intel stellt eine detaillierte Dokumentation zur Verfügung, um die Architektur seines Chips zu erklären. Aber nur bestimmte erfahrene Entwickler erstellen Leistungsmodelle, um die Codeausführung auf diesen Architekturen zu simulieren. Und da diese Chips proprietär sind, lässt Intel bestimmte Informationen in Dokumentationen weg.

Die Forscher haben die durchschnittliche Anzahl von Zyklen getaktet, die ein Chip benötigt, um grundlegende Blockbefehle (wie das Ausführen eines bestimmten Befehls, Herunterfahren und Neustarten) mithilfe eines neuronalen Netzwerks auszuführen.

Quelle:MIT 

Das neuronale Netz profiliert automatisch Millionen von Blöcken und lernt nach und nach, wie verschiedene Prozessorarchitekturen Code ausführen. Einfach ausgedrückt, verwendeten die Forscher ein Modell der künstlichen Intelligenz, um Daten zu analysieren, ohne sich auf die Dokumentation des Chips zu konzentrieren.

Itemal nimmt ungesehene Basisblöcke als Eingabe und generiert eine einzelne Zahl, die vorschlägt, wie lange ein bestimmter Prozessor braucht, um diesen Code auszuführen.

In der zweiten Veröffentlichung zeigten die Forscher, dass Ithemal besser abschneidet als herkömmliche handgefertigte Modelle. Während die Fehlerquote des Vorhersagemodells von Intel 20 % betrug, betrug die Fehlerquote von Itemal 10 % bei verschiedenen Basisblöcken in verschiedenen Domänen.

Das Modell kann leicht auf neuen Architekturen trainiert werden:Sammeln Sie einfach mehr Daten von diesem Chip, führen Sie es durch den Profiler und verwenden Sie diese Informationen, um Ithemal zu trainieren. Das ist es; Das Modell ist nun bereit, die Leistung zu schätzen. Es kann Leistungsgeschwindigkeiten für jede Prozessorarchitektur lernen, einschließlich der neuen Tensor Processing Unit von Google.

Lesen Sie: Facebook entwickelt "SapFix":Ein KI-Tool zum Debuggen von Code

Die Forscher wissen jedoch immer noch nicht, wie dieses Modell Vorhersagen macht, da ein Großteil des maschinellen Lernens eine Blackbox ist. In der nächsten Studie werden sie versuchen, Techniken zu erforschen, die diese Modelle interpretieren könnten.