Selbstfahrende Autos erkennen dunkelhäutige Fußgänger schlechter – Warum Bias in Trainingsdaten wichtig ist

Selbstfahrende Autos sind 5 % weniger genau bei der Erkennung dunkelhäutiger Menschen. Das liegt daran, dass die meisten Objekterkennungsalgorithmen vorwiegend auf Datensätzen mit Bildern weißer Menschen trainiert wurden.

Höhere Fehlerraten für bestimmte demografische Gruppen

ML-Modelle halten zunehmend Einzug in unseren Alltag. Autonomes Fahren ging im letzten Jahrzehnt von «vielleicht möglich» zu «jetzt kommerziell verfügbar».

Doch diese Fortschritte warfen viele Bedenken auf, und die Liste wird länger. Neben Sicherheit und Hindernisbewältigung muss man sich fragen, ob selbstfahrende Fahrzeuge People of Color gefährden können.

Forscher des Georgia Institute of Technology führten eine Studie durch, in der sie schlussfolgerten: Algorithmen in autonomen Fahrsystemen sind 5 % weniger genau bei der Erkennung dunkelhäutiger Fußgänger.

Untersuchung der Genauigkeit

Das Team untersuchte die Genauigkeit modernster Objekterkennungsmodelle, die meist in autonomen Fahrzeugen genutzt werden. Sie wollten herausfinden, wie genau diese Modelle Menschen verschiedener demografischer Gruppen erkennen.

Sie analysierten einen massiven Datensatz mit Fußgängerbildern und teilten Menschen nach Hauttönen auf. Dann prüften sie, wie oft Modelle die Präsenz von Menschen in der dunkelhäutigen Gruppe im Vergleich zur hellhäutigen Gruppe präzise identifizierten.

Referenz: arXiv:1902.11097 | Georgia Institute of Technology

Forscher stellten fest: Modelle waren durchschnittlich 5 % weniger genau bei der Erkennung der dunkelhäutigen Gruppe. Diese Inkonsistenz blieb auch nach Anpassung entscheidender Parameter wie häufig verdeckter Fußgängersicht und Tageszeit in Bildern bestehen.

Die Studie betrachtet nur Forschungsmodelle, trainiert auf öffentlich verfügbaren Datensätzen. Kein kommerzielles autonomes Fahrzeugmodell wurde analysiert. Doch die Ergebnisse sind nicht wertlos: Solche Studien geben starke Einblicke in reale Mängel und Risiken.

Gründe für voreingenommene/rassistische Algorithmen

Nicht der erste Bericht zu voreingenommenen Algorithmen. 2018 deckte eine Studie auf, dass 3 Gesichtserkennungssysteme von Tech-Giganten (Microsoft, IBM, Megvii) das Geschlecht dunkelhäutiger Menschen häufiger falsch identifizierten als hellhäutiger.

Bildquelle: Iyad Rahwan

Da KI-Modelle – besonders ML und Deep Learning – aus Trainingsdatensätzen lernen, funktionieren sie in der realen Welt nicht präzise, wenn man nicht genug Datenvielfalt bereitstellt.

Gleiches gilt für selbstfahrende Autos: Objekterkennungsalgorithmen wurden vorwiegend auf Datensätzen mit Bildern weißer Menschen trainiert. Auch legten diese Algorithmen wenig Gewicht auf das Lernen aus begrenzten Datensätzen (Menschen mit dunkler Haut).

Forscher glauben, diese Modelle lassen sich verbessern, indem man rassisch diverse Beispiele einbezieht und begrenzten Beispielen während des Trainings mehr Gewicht gibt.