Erstellung eines LiteRT Python Wheels für den AXC F2152

Letzten Monat hat Google eine Umbenennung von TensorFlow Lite zu LiteRT angekündigt (Link zum Artikel). Es wird nun Teil ihres überarbeiteten Versuchs, im Edge-Computing-Paradigma mit Google AI Edge relevant zu bleiben.

Ich hatte TensorFlow Lite (zusammen mit NumPy und OpenCV) bereits über eine App für Bildungszwecke im PLCnext Store verfügbar gemacht (Link zur App). Allerdings beschränkt die App die Nutzer auf die vorgepackte Lösung, selbst wenn sie etwas völlig anderes ausprobieren oder andere Bibliotheken einbinden möchten.

Da ich die App kürzlich aktualisiert habe und mein Gedächtnis auffrischen musste, wie man das macht, habe ich beschlossen, diesen Beitrag zu erstellen und zu erklären, wie man TensorFlow Lite Runtime für den AXC F 2152 cross-kompiliert.

Der Prozess im letzten Schritt mag recht kompliziert erscheinen, da die öffentlich verfügbaren Bibliotheken keine direkte Unterstützung für die Prozessorarchitektur des AXC F 2152 bieten und daher Cross-Kompilierung notwendig ist.

HINWEIS: Diese Prozedur wurde getestet auf:

• Einem virtualisierten UBUNTU 22.04 Terminal.
• Die virtuelle Maschine verfügt über 27 GB RAM und eine weitere Swap-Datei von 16 GB RAM [Hochrelevant für den Cross-Kompilierungsprozess] und läuft mit 24 Kernen.
• Einem Host-Rechner mit 32 GB RAM und einem Core i7-12850HX Prozessor.

HINWEIS 2: Die RAM-Menge ermöglicht es, die Cross-Kompilierung stabil und so schnell wie möglich laufen zu lassen. Ein Setup mit weniger RAM kann den Cross-Kompilierungsprozess möglicherweise nicht ausführen oder er dauert zu lange (in meiner Erfahrung bis zu einigen Stunden).

1. Laden Sie den Quellcode von TensorFlow von der Version herunter, die Sie kompilieren möchten. https://github.com/tensorflow/tensorflow/releases/
2. Entpacken Sie den Inhalt in einen Ordner Ihrer Wahl. Ich werde „myfolder“ in den nächsten Einträgen verwenden.
3. Navigieren Sie zu „Makefile“ in „/myfolder/tensorflow-2.XX.0/tensorflow/lite/tools/pip_package/Makefile“ und ändern Sie das Basis-Image, die Python-Version und die NumPy-Version so, dass sie denen Ihres Systems entsprechen. Z. B.:

4. Navigieren Sie zu „downloadtoolchains.sh“ in „/myfolder/tensorflow-2.XX.0/tensorflow/lite/tools/cmake/download_toolchains.sh“ und ändern Sie die Standard-Flags für armhf wie hier gezeigt:

5. Führen Sie innerhalb des TensorFlow-Ordners (/myfolder/tensorflow-2.XX.0) den Befehl aus: „make -C tensorflow/lite/tools/pip_package docker-build \ TENSORFLOW_TARGET=armhf PYTHON_VERSION=3.10“

6. WARNUNG: Der Prozess des vorherigen Schritts kann viel Zeit in Anspruch nehmen, haben Sie Geduld.

7. Nachdem der Prozess abgeschlossen ist, nehmen Sie das Python Wheel aus „tensorflow-2.XX.0/tensorflow/lite/tools/pip_package/gen/tflite_pip/python3.10/dist“ und installieren Sie es auf Ihrem Controller mit pip.

HINWEIS: Meiner Erfahrung nach funktioniert der Prozess für Python 3.9, 3.10 und 3.11 und für Releases 2.14 bis 2.16.2. Allerdings haben Releases ab Version 2.17 einen Bug. Ich habe ein offenes Issue im TensorFlow GitHub Repository, das hier verfolgt werden kann. Ich hoffe, es wird in zukünftigen Releases behoben.

Hinweis:

Der Makers Blog zeigt Anwendungen und Benutzerberichte von Community-Mitgliedern, die nicht von Phoenix Contact getestet oder überprüft wurden. Verwendung auf eigenes Risiko.