Neue KI-Beschleunigungsmodule verbessern die Edge-Leistung

Hailo, der Chiphersteller für künstliche Intelligenz (KI), hat seine M.2- und Mini-PCIe-Hochleistungs-KI-Beschleunigungsmodule zur Stärkung von Edge-Geräten auf den Markt gebracht. Basierend auf dem Hailo-8-Prozessor können die Module an eine Vielzahl von Edge-Geräten angeschlossen werden, sodass KI-Funktionen in Smart Cities, Smart Retail, Industrie 4.0 und Smart Home eingesetzt werden können.

Die Module ermöglichen es Kunden, leistungsstarke KI-Funktionen in Edge-Geräte zu integrieren und bieten eine optimierte Lösung für die Beschleunigung einer Reihe von Deep-Learning-basierten Anwendungen mit hoher Effizienz – Optimierung der Markteinführungszeit mit einem Standardformfaktor.

Die KI-Beschleunigungsmodule von Hailo integrieren sich nahtlos in Standard-Frameworks wie TensorFlow und ONNX, die beide von Hailos Dataflow-Compiler unterstützt werden. Kunden können ihre neuronalen Netze (NNs) schnell in den Hailo-8-Prozessor portieren.

Die Plug-in-Lösungen kommen zu einer Zeit, in der die Industrie zunehmend leistungsstarke und kostengünstige Edge-Geräte verwendet. Lüfterlose KI-Edgeboxen sind beispielsweise sehr gefragt, da sie es ermöglichen, viele Kameras oder Sensoren im Außeneinsatz an ein einziges intelligentes Verarbeitungsgerät anzuschließen. Die Module von Hailo – mit ihrem Hailo-8 AI-Prozessor mit 26 Tera-Operations Per Second (TOPS) und einer Energieeffizienz von 3 TOPS/W – können in jedes vorhandene Edge-Gerät mit den entsprechenden M.2- oder Mini-PCIe-Sockeln eingesteckt werden und liefern Leistung bei gleichzeitiger Reduzierung der Latenz und Verbesserung der Privatsphäre.

Ein Vergleich zwischen den durchschnittlichen Bildern pro Sekunde (FPS) von Hailo-8 mit Wettbewerbern über mehrere Standard-NN-Benchmarks (basierend auf den neuesten veröffentlichten Zahlen) zeigt, dass die KI-Module von Hailo eine 26-mal höhere FPS-Rate erreichen als Intels Myriad-X-Module und 13-mal höher als Edge-TPU-Module von Google.

Orr Danon, CEO von Hailo:„Hersteller aus allen Branchen wissen, wie wichtig es ist, KI-Funktionen in ihre Edge-Geräte zu integrieren. Einfach ausgedrückt:Lösungen ohne KI können nicht mehr mithalten. Unsere neuen Hailo-8 M.2- und Mini-PCIe-Module werden Unternehmen weltweit in die Lage versetzen, neue leistungsstarke, kosteneffiziente, innovative KI-basierte Produkte mit kurzer Markteinführungszeit zu entwickeln – und dabei die thermischen Beschränkungen der Systeme einzuhalten. Die hohe Effizienz und Spitzenleistung der Module von Hailo sind ein echter Gamechanger für den Edge-Markt.“

Das Hailo-8 M.2-Modul ist bereits in der nächsten Generation von Foxconns BOXiedge integriert – einem 24-Kern-Miniserver, der zum Betrieb nur 30 Watt Leistung benötigt – ohne dass die Platine neu gestaltet werden muss. Die Lösung bietet eine gute Energieeffizienz für eigenständige KI-Inferenzknoten, was Anwendungen wie Smart Cities, Smart Retail, Industrie 4.0 und Smart Medical zugute kommt.

„Die Integration des M.2-KI-Moduls von Hailo in unser BOXiedge revolutioniert unsere Edge-Computing-Geräte der nächsten Generation und wird es uns ermöglichen, unsere Mission, innovative, effiziente und wettbewerbsfähige Produkte für die Elektronikindustrie zu entwickeln, weiterhin zu unterstützen“, sagte Gene Liu, VP der Halbleiter-Untergruppe der Foxconn Technology Group. „Die M.2- und Mini-PCIe-Module von Hailo werden zusammen mit dem leistungsstarken Hailo-8-KI-Chip es vielen sich schnell entwickelnden Branchen ermöglichen, in kürzester Zeit fortschrittliche Technologien einzuführen und eine neue Generation von Hochleistungs-, Niedrigenergie-, und intelligentere KI-basierte Lösungen.“