KI am Edge immer noch hauptsächlich Verbraucher, nicht Unternehmen, Markt

Datengesteuerte Erlebnisse sind reichhaltig, immersiv und sofort. Aber sie sind auch verzögerungsintolerante Datenfresser.

Denken Sie an die Pizzalieferung per Drohne, Videokameras, die Verkehrsunfälle an einer Kreuzung aufzeichnen können, oder Lastwagen, die einen potenziellen Systemausfall erkennen können.

Für diese Art von schnell wirkenden Aktivitäten werden viele Daten benötigt – und das schnell. Sie können also keine Latenzzeiten aufrechterhalten, wenn Daten in die und aus der Cloud übertragen werden. Das Hin und Her dauert zu lange. Stattdessen müssen viele dieser datenintensiven Prozesse lokalisiert und am Edge und auf oder in der Nähe eines Hardwaregeräts verarbeitet werden.

„Ein autonomes Fahrzeug kann nicht einmal eine Zehntelsekunde warten, um eine Notbremsung zu aktivieren, wenn der KI-Algorithmus [künstliche Intelligenz] eine bevorstehende Kollision vorhersagt“, schrieb Professor Mohanbir Sawhney von der Northwestern University in „Why Apple and Microsoft Are Moving to the Edge“. „In diesen Situationen muss sich KI am Edge befinden, wo Entscheidungen schneller getroffen werden können, ohne auf die Netzwerkkonnektivität angewiesen zu sein und ohne riesige Datenmengen über ein Netzwerk hin und her zu verschieben.“

„Mit KI-Edge-Prozessoren können Sie die Verarbeitung auf dem [Gerät] selbst durchführen oder in einen Server im Hinterzimmer einspeisen, anstatt die Verarbeitung in der Cloud zu erledigen“, sagte Aditya Kaul, Forschungsdirektorin bei Omdia, einem Forschungsunternehmen .

KI am Edge:Enterprise vs. Consumer Adoption

Die Fähigkeit von KI-Chips, Aufgaben wie Inferencing durch maschinelles Lernen auszuführen, hat sich in den letzten Jahren dramatisch erweitert. Betrachten Sie die Grafikprozessoreinheit (GPU), die mehr als 10 Teraflops Leistung bietet, was 10 Billionen Gleitkommaberechnungen pro Sekunde entspricht. Moderne Smartphones verfügen über GPUs, die Milliarden Gleitkommaoperationen pro Sekunde verarbeiten können. Noch vor ein paar Jahren war diese Art der Verarbeitung auf dem Gerät nicht verfügbar. Aber heute können Geräte am Edge – Smartphones, Kameras, Drohnen – KI-Workloads bewältigen.

Erst mit dem Aufkommen von Deep-Learning-Chipsätzen – oder von künstlicher Intelligenz ermöglichtem Silizium, das unter anderem GPUs umfasst – war dies möglich. Und der Markt für KI-Chipsätze ist wie eine Rakete abgehoben.

„Von im Wesentlichen Null vor einigen Jahren werden [Edge-KI-Chips] im Jahr 2020 mehr als 2,5 Milliarden US-Dollar an ‚neuen‘ Einnahmen erwirtschaften, mit einer Wachstumsrate von 20 Prozent für die nächsten Jahre“, schrieb der Deloitte-Bericht „Bringing AI to das Gerät." [Siehe die Abbildung „The Edge AI Industry is Poised for Growth“ aus dem oben genannten Deloitte-Bericht.]

Laut dem Tractica-Bericht „Deep Learning Chipsets“ wird der Markt für KI-Chipsätze bis 2025 voraussichtlich 72,6 Milliarden US-Dollar erreichen.

Experten zufolge hat der Verbrauchermarkt den Weg geebnet. Heute, im Jahr 2020, macht der Markt für Consumer-Geräte in Bezug auf die verkauften Stückzahlen und den Dollarwert wahrscheinlich 90 % des Marktes für Edge-KI-Chips aus.

„Der Smartphone-Markt ist dabei an der Spitze“, sagte Aditya Kaul, Senior Director bei Tractica, einem Analystenhaus, das kürzlich den Bericht „Deep Learning Chipsets“ veröffentlicht hat. Smartphones machen immer noch etwa 40-50 % des Marktes für KI-Chipsätze aus.

Aber, so Kaul, kommt die KI-fähige Verarbeitung am Edge in die Unternehmen, in Bereichen wie dem industriellen IoT und dem Einzelhandel sowie dem Gesundheitswesen und der Fertigung. „Man kann es ‚Enterprise-Grade-KI-Edge‘ nennen“, sagte Kaul.

Der Anstoß für die Einführung von KI in Unternehmen am Edge, sagte Kaul, sei „Klarheit bei Anwendungsfällen“. Machine Vision zum Beispiel, die die Produktinspektion und Prozesskontrolle automatisiert, kann die Qualität und Effizienz von ehemals manuellen Prozessen in Bereichen wie einer Industriehalle verbessern.

„Die Leute beginnen, Deep Learning [in industriellen Umgebungen] zu nutzen, um beispielsweise Fehler in der Autoindustrie zu erkennen:Sie können während der Montage Defekte an Türen, Griffen oder Glas erkennen. In der Lebensmittel- und Getränkeindustrie erkennen sie abgestandene Tomaten oder eine Keksfabrik kann Kekse identifizieren, die nicht die richtige Form haben“, sagte Kaul.

Neben der Qualitätskontrolle nutzen die Industrien jedoch die maschinelle Bildverarbeitung, um neue Erfahrungen zu fördern. „Der Einzelhandel ist ein riesiger Sektor, in dem einiges davon passiert“, sagte Kaul. Es ist ein Vorteil der Enterprise-Klasse und der Einsatz von Kameras in Supermärkten für die Käuferanalyse. Wo sind sie im Leerlauf und schauen sich bestimmte Produkte an?

KI am Edge funktioniert mit Cloud Computing

KI an der Peripherie hat das Interesse an Hardware wiederbelebt, nach mehreren Jahren, in denen Software König war.

Aber bei der KI am Edge geht es vor allem darum, eine niedrige Latenz zu erzielen, und verteilte Hardware kann die Verarbeitung ohne Hilfe aus der Cloud ermöglichen.

„Mit dem Wachstum der KI ist Hardware wieder in Mode, nach Jahren, in denen Software das größte Interesse von Unternehmen und Investoren auf sich gezogen hat“, heißt es in dem McKinsey-Bericht „Künstliche Intelligenz:Die Zeit zum Handeln ist jetzt.“

Hardware hat auch dezentralisierte Computerarchitekturen wieder in Mode gebracht, wobei zentralisierte Architekturen mit Latenz- und Datensicherheitsproblemen verbunden sind.

„Sie möchten, dass die Entscheidungen sofort getroffen werden, anstatt sich auf die Latenz der Cloud zu verlassen“, sagte Kaul. „Außerdem möchten Sie keine Daten in einer Drittanbieter-Cloud. Aus Sicherheitsgründen sollten die Daten lokal bleiben.“

Letztendlich schlagen Experten vor, dass KI am Edge eine ergänzende Architektur zur bestehenden Cloud-Computing-Architektur sein wird.

„KI in der Cloud kann synergetisch mit KI am Edge arbeiten“, schrieb Sawhney. „Stellen Sie sich ein KI-betriebenes Fahrzeug wie Tesla vor. KI an der Kante ermöglicht unzählige Entscheidungen in Echtzeit wie Bremsen, Lenken und Spurwechsel. Nachts, wenn das Auto geparkt und mit einem Wi-Fi-Netzwerk verbunden ist, werden Daten in die Cloud hochgeladen, um den Algorithmus weiter zu trainieren.“

Erwartungen eines anhaltenden Wachstums der KI am Edge

Ein Großteil des Wachstums auf dem Markt für KI-Edge-Chips ist auf die gesteigerte Leistungsfähigkeit der Hardware selbst zurückzuführen. Aber es beinhaltet auch operative Veränderungen in der Art und Weise, wie Branchen mit KI umgehen.

Während traditionelle Branchen wie die industrielle Fertigung früher zurückhaltend waren, künstliche Intelligenz in Prozesse zu integrieren, betrachten sie KI am Rande heute als vorteilhaft – in der Tat einen Schlüssel zum ROI. Als Ergebnis führen sie Big-Data-Analysen in ihre Prozesse ein, trainieren Algorithmen, um die Genauigkeit dieser Prozesse zu verbessern, und sehen die Ergebnisse in der Qualitätskontrolle.

„Der einzige Weg, wie diese Modelle genau sein können, besteht darin, sie mit den richtigen Daten zu trainieren“, sagte Kaul. „Vor zwei Jahren hätte man nicht viele Leute in diesen Sektoren gefunden, bei denen man, wenn man sie nach Trainingsdaten fragt, einen seltsam ansieht. Aber jetzt verstehen mehr Menschen, wie KI funktioniert“, sagte er.

Tractica prognostiziert, dass dieses Wachstum anhalten wird, und es wird einen „Wendepunkt in den Jahren 2021-2022“ geben, sagte Kaul mit einer „schnellen Bewegung in Richtung KI-Beschleuniger, ASIC-Chips“.

Erwarte jedoch, dass das Wachstum gemessen wird, betonte Kaul.

„Viele dieser Anbieter und Märkte – in Bezug auf Innovationen – stagnierten“, sagte Kaul. „In den letzten 20, 30 Jahren gab es nicht viel Innovation. Daher bewegen sie sich im Allgemeinen langsam. Aber in einigen Bereichen nimmt die Sache Fahrt auf – in der industriellen Vision, in der medizinischen Vision und im Einzelhandel. Es ist noch früh. Aber die Dinge nehmen langsam Fahrt auf“, sagte er.