Wo Edge- und Endpoint-KI die Cloud treffen

Die COVID-19-Pandemie hat neue Gesundheits- und Sicherheitsanforderungen geschaffen, die die Art und Weise verändert haben, wie Menschen miteinander und in ihrer direkten Umgebung interagieren. Die explodierende Nachfrage nach berührungslosen Erlebnissen hat wiederum den Übergang zu KI-gestützten Systemen und sprachbasierter Steuerung und anderen kontaktlosen Benutzeroberflächen beschleunigt – und die Intelligenz immer näher an den Endpunkt gebracht.

Einer der wichtigsten Trends in der Elektronikindustrie ist heute die Integration von KI in eingebettete Geräte, insbesondere die KI, die Sensordaten wie Bilder und maschinelles Lernen für alternative Benutzeroberflächen wie Sprache interpretiert.

Eingebettete künstliche Intelligenz der Dinge (AIoT) ist der Schlüssel zur Erschließung der nahtlosen, freihändigen Erfahrung, die dazu beiträgt, die Sicherheit der Benutzer in einer Umgebung nach Covid zu gewährleisten. Betrachten Sie die Möglichkeiten:Smarte Einkaufswagen, mit denen Sie Ihre Waren beim Einlegen in den Warenkorb scannen und mit mobilem Bezahlen die Kasse umgehen, oder intelligente Videokonferenzsysteme, die während Besprechungen automatisch verschiedene Sprecher erkennen und den Fokus auf diese umschalten, um eine mehr persönliche Erfahrung für Remote-Teams.

Warum ist jetzt die Zeit für einen Durchbruch im Bereich Embedded AIoT?

AIoT zieht aus

Anfangs war KI in der Cloud stationiert, wo sie Rechenleistung, Arbeitsspeicher und Skalierbarkeitsstufen nutzte, die Edge und Endpunkt einfach nicht erreichen konnten. Wir sehen jedoch immer mehr, dass sich nicht nur die Trainingsalgorithmen für maschinelles Lernen an den Rand des Netzwerks verlagern, sondern auch eine Verschiebung vom Deep-Learning-Training zu Deep-Learning-Inferenz.

Wo „Training“ normalerweise im Netzwerkkern sitzt, lebt „Inferenz“ jetzt am Endpunkt, wo Entwickler in Echtzeit auf KI-Analysen zugreifen und dann die Geräteleistung optimieren können, anstatt die Geräte-zu-Cloud-zu-Gerät-Schleife zu durchsuchen.

Heutzutage läuft der Großteil des Inferenzprozesses auf CPU-Ebene. Dies verlagert sich jedoch zu einer Chiparchitektur, die mehr KI-Beschleunigung auf dem Chip integriert. Effiziente KI-Inferenz erfordert effiziente Endpunkte, die Daten in Echtzeit ableiten, vorverarbeiten und filtern können. Die Einbettung von KI auf Chipebene, die Integration von neuronalen Verarbeitungs- und Hardwarebeschleunigern und die Kombination von Embedded-KI-Chips mit Spezialprozessoren, die speziell für Deep Learning entwickelt wurden, bieten Entwicklern ein Dreifaches der Leistung, Bandbreite und Echtzeitreaktion, die für die nächste Generation vernetzter Systeme.

Abbildung 1 (Quelle:Renesas Electronics)

Eine AIoT-Zukunft:Zuhause und am Arbeitsplatz

Darüber hinaus eröffnet eine Konvergenz von Fortschritten bei KI-Beschleunigern, adaptiver und prädiktiver Steuerung sowie Hardware und Software für Sprache und Bild neue Benutzeroberflächenfunktionen für eine Vielzahl von intelligenten Geräten.

Beispielsweise wird die Sprachaktivierung schnell zur bevorzugten Benutzeroberfläche für immer verfügbare verbundene Systeme sowohl für den Industrie- als auch für den Verbrauchermarkt. Wir haben die Zugänglichkeitsvorteile gesehen, die sprachsteuerungsbasierte Systeme für Benutzer mit Sehbehinderungen oder anderen körperlichen Behinderungen bieten, die gesprochene Befehle verwenden, um Aufgaben zu aktivieren und zu erledigen. Angesichts der steigenden Nachfrage nach berührungsloser Steuerung als Gesundheits- und Sicherheitsmaßnahme in Gemeinschaftsräumen wie Küchen, Arbeitsbereichen und Fabrikhallen wird die Spracherkennung – kombiniert mit einer Vielzahl von drahtlosen Konnektivitätsoptionen – nahtlose, berührungslose Erlebnisse in das Zuhause und den Arbeitsplatz bringen .

Multimodale Architekturen bieten einen weiteren Weg für AIoT. Die Verwendung mehrerer Eingangsinformationsströme verbessert die Sicherheit und Benutzerfreundlichkeit für KI-basierte Systeme. So eignet sich beispielsweise eine Kombination aus Sprach- und Bildverarbeitung besonders gut für freihändige KI-basierte Bildverarbeitungssysteme. Die Spracherkennung aktiviert die Objekt- und Gesichtserkennung für kritische visuelle Aufgaben für Anwendungen wie intelligente Überwachung oder freihändige Videokonferenzsysteme. Die Vision-KI-Erkennung springt dann ein, um das Verhalten des Bedieners zu verfolgen, den Betrieb zu steuern oder die Fehler- oder Risikoerkennung zu verwalten.

In Fabrik- und Lagerhallen treibt multimodale KI kollaborative Roboter – oder CoBots – als Teil der Technologiegruppe an, die als die fünf Sinne dient, die es CoBots ermöglichen, Aufgaben sicher Seite an Seite mit ihren menschlichen Gegenstücken auszuführen. Die Sprach- und Gestenerkennung ermöglicht es den beiden Gruppen, in ihrem gemeinsamen Arbeitsbereich zu kommunizieren.

Was ist am Horizont?

Laut IDC Research wird es bis 2025 weltweit 55 Milliarden vernetzte Geräte geben, die 73 Zettabyte an Daten erzeugen, und Edge-KI-Chips werden Cloud-KI-Chips übertreffen, da sich Deep-Learning-Inferenz weiter an die Edge- und Geräte-Endpunkte verlagert. Diese integrierte KI wird die Grundlage sein, die eine komplexe Kombination von „Sinn“-Technologien antreibt, um intelligente Anwendungen mit natürlicherer, „menschlicherer“ Kommunikation und Interaktion zu erstellen.

Dr. Sailesh Chittipeddi ist Executive Vice President und General Manager der IoT and Infrastructure Business Unit bei Renesas.