Was ist Deep Learning?

Der Film von Arnold Schwarzenegger von 1990 Total Recall zeigt eine Geschichte im Jahr 2084, fast ein Jahrhundert in der Zukunft. Die Zukunft wird laut dem Film selbstfahrende Autos haben. Das war 1990 noch Science-Fiction, aber heute Realität. Apple, Alphabet, Nissan, Uber und viele weitere Unternehmen arbeiten an autonomen Autos. Tesla verkauft funktionstüchtige selbstfahrende Autos an Endverbraucher, die gut zu funktionieren scheinen.

Was hat Science-Fiction in nur drei Jahrzehnten Wirklichkeit werden lassen? Die Antwort ist Deep Learning.

Von künstlicher Intelligenz zu Deep Learning

Hephaistos, der griechische Gott des Feuers und der Metallbearbeitung, schuf goldene Roboter und Maschinen. Schon der mechanische Türke in den 1770er Jahren hat Apparate entwickelt, die die menschliche Intelligenz nachahmen. Obwohl mechanische Türken Täuschungen waren, wurden im späten 20. Jahrhundert später Computer entwickelt, die Menschen besiegen konnten. All dies diente dem Versuch, Systeme zu entwickeln, die das menschliche Gehirn nachahmen können.

Abbildung 1. Ein Querschnitt des Türken. Bild mit freundlicher Genehmigung von Universitätsbibliothek Humboldt

Künstliche Intelligenz (KI) bezeichnet jedes Computersystem, das versucht, das menschliche Gehirn zu imitieren. Die Turing-Maschine von Alan Turing war ein primitives KI-System, das Logik nutzte, um Lösungen zu finden.

Machine Learning (ML) ist eine Teilmenge der KI, die Modelle verwendet, um Aufgaben auszuführen. Diese Modelle werden mit einer großen Datenmenge trainiert. Deep Blue, der Computer, der 1997 den Schachweltmeister Garry Kasparov besiegte, ist ein Beispiel für ML.

Deep Learning ist wiederum eine Teilmenge von ML, bei der Modelle ohne menschliche Aufsicht aus Daten lernen. Deep-Learning-Systeme sind daher in der Lage, unstrukturierte Daten unüberwacht zu lernen.

Deep Learning:Wie funktioniert es?

Deep Learning ist inspiriert von der Struktur des menschlichen Gehirns, das Neuronen bildet, die Informationen weiterleiten und verarbeiten. Die beim Deep Learning verwendeten Strukturen werden als künstliche neuronale Netze (ANN) bezeichnet. KNNs können Informationen ohne menschliche Aufsicht identifizieren und klassifizieren und sollen zu unüberwachtem Lernen fähig sein. Dies erfordert eine viel größere Datenmenge im Vergleich zu herkömmlichem ML, das überwachtes Lernen verwendet.

KNNs bestehen aus mehreren Schichten von der Eingabeschicht bis zur Ausgabeschicht, durch die die Daten laufen. Die übrigen Ebenen außer den Eingabe- und Ausgabeebenen werden als versteckte Ebenen bezeichnet. Die erste Schicht von KNN oder die Eingabeschicht besteht aus Neuronen. Neuronen eines KNN sind mathematische Funktionen, die ein menschliches Neuron genau repräsentieren.

Abbildung 2. KNN-Input- und Output-Layer-Konzept.

Die Informationsübertragung durch verschiedene Schichten erfolgt durch Verbindungskanäle. Jeder Knoten in Schichten von KNN ist mit diesen Kanälen mit jedem Knoten in der nächsten Schicht verbunden. Jedem Kanal ist ein Wert zugeordnet, der als Gewicht bezeichnet wird. daher werden die Kanäle gewichtete Kanäle genannt.

Allen Neuronen in den verborgenen Schichten ist eine eindeutige Nummer zugeordnet, die als Bias bezeichnet wird. Informationen werden von einer Schicht zum nächsten Kanal weitergeleitet, wobei die den Kanälen zugeordneten Gewichtungen verwendet werden. Wenn es das Neuron in der nächsten Schicht erreicht, wird der Bias zur gewichteten Summe der Eingaben hinzugefügt.

Das Ergebnis dieser mathematischen Operation wird der Aktivierungsfunktion zugeführt. Die Aktivierungsfunktion entscheidet, ob das Neuron aktiv sein soll oder nicht. Dies erfolgt durch Anwenden der nichtlinearen Aktivierungsfunktion auf das Ergebnis, das durch Hinzufügen von Bias zu den gewichteten Summen von Kanälen erhalten wird. Aktivierungsfunktionen fügen der Ausgabe eines Neurons Nichtlinearität hinzu.

Nur die Neuronen, die nach Anwendung der Aktivierungsfunktion aktiv sind, können Informationen an die nächste Schicht senden. Dies geht bis zur letzten Schicht, der Ausgabeschicht. Die Gewichtung der Kanäle der Neuronen und die Verzerrungen in versteckten Schichten werden ständig angepasst, um ein gut trainiertes Modell zu erhalten.

Einige der beliebtesten Deep-Learning-Frameworks sind:

• Tensorflow von Google
• PyTorch von Facebook
• Caffe von UC Berkeley
• Microsoft Cognitive Toolset
• OpenAI

Daten für Deep Learning

Daten sind das Rohmaterial für Deep Learning. Theoretisch verbessert jede Datenmenge die Modelle. Angesichts des Datenerfassungsaufwands, der erforderlichen Trainingszeit und der zum Trainieren von Modellen erforderlichen Rechenleistung kann die Datenmenge für Deep Learning jedoch nicht unendlich groß sein. Umgekehrt führen zu wenige Daten nicht zu einem zuverlässigen Deep-Learning-Modell.

Es gibt keine allgemeingültige Regel für die Datenmenge, die zum Trainieren eines erfolgreichen Modells erforderlich ist. Sie hängt in erster Linie vom Ergebnis trainierter Modelle ab. Wenn die Modelle nicht ausreichend zuverlässig sind, werden mehr Daten benötigt. Es gibt einige Faustregeln für die Mindestdaten, die zum Trainieren von Deep-Learning-Modellen erforderlich sind.

• Mindestens 20 Datenpunkte für Vorhersagen mit Regressionsanalyse
• Mindestens 1.000 Bilder für die Klassifizierung mit Computer Vision

Dies sind zwei Heuristiken für diese häufigeren Anwendungen mit Deep Learning. Dateningenieure befürworten ähnliche Regeln für verschiedene Anwendungen. Wie alle Faustregeln sind diese nicht perfekt und müssten entsprechend der spezifischen Anwendung geändert werden.

Industrielle Anwendungen von Deep Learning

Es gibt viele industrielle Anwendungen für Deep Learning. Lassen Sie uns einige davon durchgehen.

Autonome Fahrzeuge

Selbstfahrende Autos werden heute an Verbraucher verkauft, haben aber auch viele industrielle Anwendungen. Autonomes Fahren kann in Transportvorrichtungen integriert werden, die in Fabriken verwendet werden; Beispielsweise können autonome Transportfahrzeuge (AGVs) vollständig autonom fahren. Dies macht manuelle Arbeit bei solchen Aufgaben überflüssig und verbessert gleichzeitig die Sicherheit und Effizienz.

Abbildung 3. Ein AGV, das in einem Logistiklager verwendet wird.

Computer Vision

Computer klassifizieren und erkennen Objekte aus Bildern. Manchmal ist Computer Vision Teil von autonomen Fahrzeugen, aber es hat viel mehr Anwendungen in industriellen Anwendungen. Computer Vision kann das Sortieren von Objekten automatisieren. Computer Vision-gestützte Systeme können Qualitätsprüfungen durchführen. Es kann auch die Überwachung von Werksgeländen und industriellen Prozessen automatisieren.

Supply Chain Management

Die Lieferkette eines Unternehmens ist ein komplexes System, das mehrere Anbieter, Lieferanten, Regionen und Vorschriften umfasst. Die manuelle Verwaltung eines riesigen Warenverkehrsaufkommens ist eine unmögliche Aufgabe. Deep Learning kann eingesetzt werden, um eine gesunde Lieferkette aufrechtzuerhalten, indem große Datenmengen analysiert werden, die mit Hilfe von IoT-Geräten (Internet of Things) in der Lieferkette generiert werden.

Medizinische Anwendungen

Deep Learning hat auch viele medizinische Anwendungen. Es kann verwendet werden, um Anomalien aus Ergebnissen medizinischer Bildgebung wie Röntgenstrahlen, MRTs usw. zu identifizieren. Es kann auch die Gesundheit des Patienten mit angeschlossenen Überwachungsgeräten rund um die Uhr überwachen. Deep Learning kann die Wirkstoffforschung unterstützen, indem es die wahrscheinlichste Kombination von Molekülen liefert.

Deep Learning hat viele weitere industrielle Anwendungen in der Luft- und Raumfahrt, Weltraumforschung, Bergbau, Navigation, Verteidigungssystemen, Cybersicherheit und die Liste geht weiter. Deep Learning wird in allen Branchen schnell eingeführt und wird bald ein kritischer und unvermeidlicher Bestandteil von Industrie 4.0 sein.