Selbstfahrende Fahrzeuge können dunkelhäutige Fußgänger nur schwer erkennen

• Selbstfahrende Autos erkennen dunkelhäutige Personen um 5 % weniger genau.
• Dies geschieht, weil die meisten Objekterkennungsalgorithmen hauptsächlich auf Datensätzen trainiert wurden, die Bilder von Weißen enthalten.

Die Modelle des maschinellen Lernens haben begonnen, in unserem Alltag Einzug zu halten. Insbesondere der Bereich des autonomen Fahrens hat sich in den letzten zehn Jahren von „vielleicht möglich“ zu „jetzt kommerziell verfügbar“ entwickelt.

Diese Fortschritte bei automatisierten Systemen haben jedoch in den letzten Jahren viele Bedenken hinsichtlich selbstfahrender Autos geweckt, und es scheint, dass die Liste der Bedenken gerade länger geworden ist. Neben der Sorge um ihre Sicherheit und ihre Fähigkeit, Hindernisse auf Straßen zu überwinden, muss man sich auch Gedanken darüber machen, ob selbstfahrende Fahrzeuge farbigen Menschen schaden können.

Nun haben Forscher des Georgia Institute of Technology eine Studie durchgeführt, in der sie zu dem Schluss kamen, dass Algorithmen, die in autonomen Fahrsystemen verwendet werden, 5 % weniger genau sind, um dunkelhäutige Fußgänger zu erkennen.

Höhere Fehlerraten bei bestimmten demografischen Gruppen als bei anderen

Das Team begann mit der Untersuchung der Genauigkeit moderner Objekterkennungsmodelle, die hauptsächlich in autonomen Fahrzeugen verwendet werden. Sie wollten herausfinden, wie genau diese Modelle Menschen aus verschiedenen demografischen Gruppen erkennen.

Sie analysierten einen riesigen Datensatz mit Bildern von Fußgängern und teilten die Personen anhand ihrer Hauttöne auf. Dann untersuchten sie, wie oft solche Modelle die Anwesenheit von Menschen in der Gruppe mit dunkler Haut sowie Menschen in der Gruppe mit heller Haut genau identifizierten.

Referenz:arXiv:1902.11097 | Georgia Institute of Technology

Die Forscher fanden heraus, dass diese Modelle im Durchschnitt 5 % weniger genau bei der Erkennung von dunkelhäutigen Gruppen waren. Diese Inkonsistenz blieb auch nach Anpassung einiger entscheidender Parameter wie der häufig verstellten Sicht von Fußgängern und der Tageszeit in Bildern gleich.

Die Studie berücksichtigt nur Modelle für Forschungszwecke, die auf öffentlich verfügbaren Datensätzen trainiert werden. Es wurde kein Modell analysiert, das tatsächlich von kommerziellen autonomen Fahrzeugen verwendet wird. Dies bedeutet jedoch nicht, dass die Ergebnisse von unschätzbarem Wert sind:Studien wie diese bieten fundierte Einblicke in echte Mängel und Risiken.

Gründe für voreingenommene/rassistische Algorithmen

Dies ist nicht das erste Mal, dass jemand einen Bericht über verzerrte Algorithmen veröffentlicht. Letztes Jahr ergab eine Studie, dass drei von Technologiegiganten (Microsoft, IBM und Megvii) entwickelte Gesichtserkennungssysteme das Geschlecht dunkelhäutiger Menschen wahrscheinlich häufiger falsch identifizieren als hellhäutige.

Bildnachweis:Iyad Rahwan

Da Modelle der künstlichen Intelligenz – insbesondere Algorithmen für maschinelles Lernen und Deep Learning – aus den Trainingsdatensätzen lernen, die ihnen zugeführt werden, funktionieren diese Modelle bei der Bereitstellung im nicht genau, wenn Sie nicht genügend Datenvielfalt bereitstellen reale Welt.

Dasselbe gilt für selbstfahrende Autos:Die Objekterkennungsalgorithmen wurden hauptsächlich an Datensätzen mit Bildern weißer Menschen trainiert. Außerdem haben diese Algorithmen dem Lernen aus begrenzten Datensätzen (Menschen mit dunkler Hautfarbe) nicht viel Bedeutung beigemessen.

Lesen Sie:Neue KI für selbstfahrende Fahrzeuge kann Fußgängerbewegungen vorhersagen

Forscher glauben, dass diese Modelle verbessert werden können, indem man rassisch unterschiedliche Beispiele einbezieht und während des Trainings mehr Wert auf begrenzte Beispiele legt.