Ein Warnsystem für selbstfahrende Autos lernt aus Fehlern

Ein neues Modell für selbstfahrende Autos lernt aus Fehlern der Vergangenheit, indem es sie im Voraus erkennt, manchmal bis zu 7 Sekunden.

Bei autonomen Fahrzeugen kann eine unbekannte oder komplexe Fahrsituation (wie eine überfüllte Kreuzung) dazu führen, dass das Selbstfahrsystem entweder durch automatische Sicherheitsmaßnahmen oder durch menschliches Eingreifen deaktiviert wird.

Ein Modell der künstlichen Intelligenz der Technischen Universität München (TUM) verwendet Tausende von realen Verkehrssituationen – insbesondere aufgezeichnete Ausrücksequenzen von Testfahrten – als Trainingsdaten, um zukünftige Ausfälle vorherzusagen.

Um Ausfälle so früh wie möglich vorherzusagen, klassifiziert der Machine-Learning-Ansatz Sequenzen von Sensordaten entweder als Ausfall oder Erfolg.

Erkennt das System zum Beispiel eine neue Fahrsituation, die das Regelsystem bisher nicht bewältigen konnte, wird der Fahrer frühzeitig vor einer möglichen kritischen Situation gewarnt.

Die an der TUM entwickelte Sicherheitstechnologie erfasst mit Sensoren und Kameras Umgebungsbedingungen wie Lenkradwinkel, Straßenzustand, Wetter, Sichtverhältnisse und Geschwindigkeit. Die KI System, das auf einem rekurrenten neuronalen Netzwerk (RNN) und Tausenden von realen Verkehrssituationen basiert, lernt anhand der Daten Muster zu erkennen.

Das Auto selbst wird als Black Box behandelt, die sich nur auf die Dateneingabe und Datenausgabe konzentriert. Das System lernt introspektiv aus seinen eigenen früheren Fehlern, so das Münchner Team.

„Der große Vorteil unserer Technologie:Wir ignorieren komplett, was das Auto denkt. Stattdessen beschränken wir uns auf die Daten des tatsächlichen Geschehens und suchen nach Mustern“, sagt der leitende Forscher Prof. Eckehard Steinbach , der auch Vorstandsmitglied der Munich School of Robotics and Machine Intelligence (MSRM) ist an der TUM,. „Auf diese Weise kann die A.I. entdeckt potenziell kritische Situationen, die Modelle möglicherweise nicht erkennen können oder noch entdecken müssen."

Das System biete eine Sicherheitsfunktion, die weiß, wann und wo die Autos Schwachstellen haben, sagt Steinbach.

Die Methode von Steinbach und seinem Team kombiniert zwei Arten von Sensoren. Ein bildbasiertes Modell lernt, allgemein herausfordernde Situationen zu erkennen, wie z. B. eine belebte Straße in der Stadt. Ein zusätzliches datenbasiertes Modell erkennt schnelle Änderungen unmittelbar vor einem Ausfall, wie z. B. plötzliches Bremsen oder Ausbrechen. Das Ergebnis der einzelnen Modelle wird durch Mittelung der einzelnen Ausfallwahrscheinlichkeiten fusioniert.

Die BMW Group hat den „Introspective Failure Prediction Approach“ durch 14 Stunden autonomes Fahren auf öffentlichen Straßen evaluiert und rund 2.500 Situationen analysiert, in denen der Fahrer eingreifen musste.

Laut einer im Dezember 2020 veröffentlichten Studie ermöglicht der Late-Fusion-Ansatz die Vorhersage von Ausfällen mit einer Genauigkeit von über 85 % – bis zu sieben Sekunden vor ihrem Auftreten und mit einer Falsch-Positiv-Rate von 20 %.

In einem kurzen Interview mit Tech Briefs Unten spricht Steinbach über die Stärken eines Black-Box-Ansatzes sowie die Grenzen heutiger Fahrzeugsicherheitsmaßnahmen.

Technische Informationen :Ich finde das eine interessante Idee:„Wir ignorieren komplett, was das Auto denkt. Stattdessen beschränken wir uns auf die Daten, die auf dem beruhen, was tatsächlich passiert, und suchen nach Mustern.“ Was sind einige Beispiele für Muster, die ein Modell möglicherweise nicht erkennt?

Prof. Eckehard Steinbach :In unserer Arbeit betrachten wir den Zustand des Autos, wie Bremsen und Lenken, sowie die Kamerabilder, die das Auto erhält, um Muster zu erkennen, die zu Ausrückungen führen. Dadurch kann unser Modell zwar einen großen Prozentsatz der Situationen erkennen, in denen ein Mensch übernehmen muss, aber nicht alle Informationen über eine Fahrszene werden in diesen Daten erfasst.