Warum Edge-KI ein Kinderspiel ist

Im Jahr 2020 prognostiziert Deloitte, dass mehr als 750 Millionen Edge-KI-Chips – vollständige Chips oder Teile von Chips, die maschinelle Lernaufgaben auf dem Gerät ausführen oder beschleunigen, und nicht in einem entfernten Rechenzentrum – verkauft werden, was einem Umsatz von 2,6 Milliarden US-Dollar entspricht. Darüber hinaus wird der Markt für Edge-KI-Chips viel schneller wachsen als der gesamte Chipmarkt. Bis 2024 erwarten wir, dass der Absatz von Edge-KI-Chips 1,5 Milliarden übersteigen wird, möglicherweise sogar deutlich. Dies entspricht einem durchschnittlichen jährlichen Absatzwachstum von mindestens 20 %, mehr als das Doppelte der längerfristigen Prognose von 9 % CAGR für die gesamte Halbleiterindustrie.

Abbildung 1:Orte, an denen Intelligenz eingebettet werden kann (Bild:Deloitte Insights)

Diese Edge-KI-Chips werden wahrscheinlich in immer mehr Verbrauchergeräten wie High-End-Smartphones, Tablets, Smart Speakers und Wearables Einzug halten. Sie werden auch in mehreren Unternehmensmärkten eingesetzt:Roboter, Kameras, Sensoren und andere Geräte für das Internet der Dinge. Der Verbrauchermarkt für Edge-KI-Chips ist viel größer als der Enterprise-Markt, wird jedoch wahrscheinlich langsamer wachsen, wobei zwischen 2020 und 2024 eine CAGR von 18 % erwartet wird CAGR von 50 % im gleichen Zeitraum.

Abbildung 2:Der Edge-KI-Chipmarkt (Bild:Deloitte Insights)

Dennoch wird der Markt für Consumer-Geräte in diesem Jahr wahrscheinlich mehr als 90 % des Marktes für Edge-KI-Chips ausmachen, sowohl in Bezug auf die verkauften Stückzahlen als auch auf den Dollarwert. Die überwiegende Mehrheit dieser Edge-KI-Chips wird in High-End-Smartphones eingesetzt, die mehr als 70 % aller derzeit verwendeten Consumer-Edge-KI-Chips ausmachen. Tatsächlich wird das Wachstum der KI-Chips nicht nur im Jahr 2020, sondern in den nächsten Jahren hauptsächlich von Smartphones angetrieben. Wir glauben, dass mehr als ein Drittel des Smartphone-Marktes mit 1,56 Milliarden Einheiten in diesem Jahr Edge-KI-Chips enthalten könnte.

Aufgrund der extrem prozessorintensiven Anforderungen wurden KI-Berechnungen fast alle remote in Rechenzentren, auf Enterprise-Core-Appliances oder auf Telekommunikations-Edge-Prozessoren durchgeführt – nicht lokal auf Geräten. Edge-KI-Chips ändern das alles. Sie sind physikalisch kleiner, relativ kostengünstig, verbrauchen viel weniger Strom und erzeugen viel weniger Wärme, wodurch sie sowohl in Handheld-Geräte als auch in Nicht-Verbraucher-Geräte wie Roboter integriert werden können. Indem diese Geräte prozessorintensive KI-Berechnungen lokal durchführen, reduzieren oder eliminieren Edge-KI-Chips die Notwendigkeit, große Datenmengen an einen entfernten Standort zu senden, und bieten so Vorteile in Bezug auf Benutzerfreundlichkeit, Geschwindigkeit sowie Datensicherheit und Datenschutz.

Die Verarbeitung auf dem Gerät zu behalten ist in Bezug auf Datenschutz und Sicherheit besser; persönliche Informationen, die niemals ein Telefon verlassen, können nicht abgefangen oder missbraucht werden. Und wenn der Edge-KI-Chip auf dem Telefon ist, kann er all diese Dinge tun, auch wenn er nicht mit einem Netzwerk verbunden ist.

Natürlich müssen nicht alle KI-Berechnungen lokal stattfinden. Für einige Anwendungen – zum Beispiel, wenn einfach zu viele Daten für den Edge-KI-Chip eines Geräts vorhanden sind – kann das Senden von Daten zur Verarbeitung durch ein entferntes KI-Array angemessen oder sogar bevorzugt sein. Tatsächlich wird KI die meiste Zeit auf hybride Weise durchgeführt:ein Teil auf dem Gerät und ein anderer in der Cloud. Die bevorzugte Mischung in einer bestimmten Situation hängt davon ab, welche Art von KI-Verarbeitung genau durchgeführt werden muss.

Die Wirtschaftlichkeit von Edge-KI in Smartphones

Smartphones sind nicht die einzigen Geräte, die Edge-KI-Chips verwenden; andere Gerätekategorien – Tablets, Wearables, Smart Speaker – enthalten sie ebenfalls. Kurzfristig werden diese Nicht-Smartphone-Geräte wahrscheinlich einen viel geringeren Einfluss auf den Verkauf von Edge-KI-Chips haben als Smartphones, entweder weil der Markt nicht wächst (wie bei Tablets) oder weil er zu klein ist, um einen wesentlichen Unterschied zu machen ( Smart Speaker und Wearables werden beispielsweise im Jahr 2020 voraussichtlich nur 125 Millionen Einheiten verkaufen). Viele Wearables und intelligente Lautsprecher sind jedoch auf Edge-KI-Chips angewiesen, sodass die Durchdringung bereits hoch ist.

Derzeit werden wahrscheinlich nur die teuersten Smartphones – die im oberen Drittel der Preisverteilung – Edge-KI-Chips verwenden. Aber der Einbau eines KI-Chips in ein Smartphone muss für den Verbraucher nicht unerschwinglich sein.

Es ist möglich, eine ziemlich solide Schätzung des Edge-KI-Chipinhalts eines Smartphones zu erhalten. Bis heute zeigen Bilder von Telefonprozessoren von Samsung, Apple und Huawei den nackten Siliziumchip mit all seinen Merkmalen sichtbar, sodass erkennbar ist, welche Teile der Chips für welche Funktionen verwendet werden. Ein Die-Shot des Chips für Samsungs Exynos 9820 zeigt, dass etwa 5% der gesamten Chipfläche für KI-Prozessoren reserviert sind. Samsungs Kosten für den gesamten SoC-Anwendungsprozessor werden auf 70,50 US-Dollar geschätzt, was die zweitteuerste Komponente des Telefons (nach dem Display) ist und etwa 17 % der Gesamtstückliste des Geräts ausmacht. Unter der Annahme, dass der KI-Anteil auf Chipflächenbasis genauso viel kostet wie der Rest der Komponenten, macht die neuronale
Edge-KI-Verarbeitungseinheit (NPU) des Exynos etwa 5 % der Gesamtkosten des Chips aus. Das entspricht etwa 3,50 US-Dollar pro Person.

Abbildung 3:Ein Die-Shot des Chips für Samsungs Exynos 9820 zeigt, dass etwa 5 % der gesamten Chipfläche für KI-Prozessoren reserviert sind. (Bild:ChipRebel; Anmerkung:AnandTech)

In ähnlicher Weise widmet der A12 Bionic-Chip von Apple etwa 7% der Chipfläche dem maschinellen Lernen. Bei geschätzten 72 US-Dollar für den gesamten Prozessor deutet dieser Prozentsatz auf Kosten von 5,10 US-Dollar für den Edge-KI-Anteil hin. Der Huawei Kirin 970 Chip, der den Hersteller schätzungsweise 52,50 US-Dollar kostet, widmet 2,1% des Chips der NPU, was auf Kosten von 1,10 US-Dollar hinweist. (Die Fläche ist jedoch nicht der einzige Weg, um zu messen, wie viel Prozent der Gesamtkosten eines Chips für KI aufgewendet werden. Laut Huawei verfügt die NPU des Kirin 970 über 150 Millionen Transistoren, was 2,7 % der insgesamt 5,5 Milliarden Transistoren des Chips entspricht schlagen etwas höhere NPU-Kosten von 1,42 € vor.

Abbildung 4:Apples A12 Bionic Chip widmet etwa 7 % der Chipfläche dem maschinellen Lernen. (Bild:TechInsights/AnandTech)

Obwohl die genannte Kostenspanne breit gefächert ist, kann man davon ausgehen, dass NPUs durchschnittlich 3,50 US-Dollar pro Chip kosten. Multipliziert mit einer halben Milliarde Smartphones (ganz zu schweigen von Tablets, Lautsprechern und Wearables) ergibt das trotz des geringen Preises pro Chip einen großen Markt. Bei durchschnittlichen Kosten von 3,50 US-Dollar für den Hersteller und einem wahrscheinlichen Minimum von 1 US-Dollar sieht das Hinzufügen einer dedizierten Edge-KI-NPU zu Smartphone-Verarbeitungschips wie ein Kinderspiel aus. Unter der Annahme eines normalen Aufschlags bedeutet ein Zuschlag von 1 US-Dollar zu den Herstellungskosten nur 2 US-Dollar mehr für den Endkunden. Das bedeutet, dass NPUs und die damit verbundenen Vorteile – eine bessere Kamera, Offline-Sprachunterstützung usw. – sogar in ein Smartphone von 250 US-Dollar für weniger als 1 % Preiserhöhung integriert werden können.

Beschaffung von KI-Chips:intern oder von Drittanbietern?

Unternehmen, die Smartphones und andere Geräte herstellen, unterscheiden sich in ihren Ansätzen, um Edge-KI-Chips zu erhalten, wobei die Entscheidung von Faktoren wie dem Telefonmodell und in einigen Fällen der geografischen Lage bestimmt wird. Einige kaufen Anwendungsprozessor-/Modemchips von Drittanbietern wie Qualcomm und MediaTek, die 2018 zusammen etwa 60 % des Smartphone-SoC-Marktes eroberten.

Sowohl Qualcomm als auch MediaTek bieten eine Reihe von SoCs zu unterschiedlichen Preisen an; Obwohl nicht alle einen Edge-KI-Chip enthalten, tun dies die High-End-Angebote (einschließlich Qualcomms Snapdragon 845 und 855 und MediaTeks Helio P60) normalerweise. Am anderen Ende der Skala verwendet Apple überhaupt keine externen AP-Chips:Es entwickelt und verwendet seine eigenen SoC-Prozessoren wie die A11-, A12- und A13-Bionic-Chips, die alle über Edge-KI verfügen.

Andere Gerätehersteller wie Samsung und Huawei verwenden eine Hybridstrategie, kaufen einige SoCs von Siliziumlieferanten auf dem Handelsmarkt und verwenden für den Rest ihre eigenen Chips (wie Samsungs Exynos 9820 und Huaweis Kirin 970/980).

>> Lesen Sie Seite zwei weiter Artikel, der ursprünglich auf unserer Schwesterseite EE Times Europe veröffentlicht wurde.