Trainingsbias in KI adressieren: IBMs AI Fairness 360 Toolkit

Trainingsbias in KI adressieren: IBMs AI Fairness 360 Toolkit

Fairness ist ein Eckpfeiler verantwortungsvoller künstlicher Intelligenz. Doch ihre Definition und Durchsetzung bleibt eine komplexe Herausforderung – besonders wenn die Technologie in hohen-Stakes-Domänen wie Gesundheitswesen, Einstellung und autonomen Fahrzeugen eingesetzt wird.

IBMs neuer Ansatz

IBM Research startet AI Fairness 360, einen cloud-basierten Bias-Detection- und Mitigation-Service, der Organisationen ermöglicht, die Fairness ihrer KI-Systeme zu testen und zu verifizieren. Das Toolkit basiert auf Open-Source-Metriken und Algorithmen, die Bias über Datensätze und Modelle messen.

Die Fairness-Lücke in aktuellen KI-Praktiken

Laut Saska Mojsilovic, Fellow bei IBM Research, hat die Industrie traditionell Genauigkeit über Fairness priorisiert. Sie stellt fest, dass die erste Frage, die die meisten über KI stellen, lautet: „Können Maschinen Menschen schlagen?“ Stattdessen argumentiert Mojsilovic: „Was ist mit Fairness?“ und warnt, dass unkontrollierter Bias in kritischen Sektoren zu katastrophalen Ergebnissen führen kann.

Fairness zerlegen

Um das Konzept handhabbar zu machen, begann IBMs Team damit, Fairness in messbare Komponenten zu zerlegen. Kush Varshney, Research Scientist bei IBM, erklärte, dass sie Fairness sowohl auf individueller als auch auf Gruppenebene untersuchten, Attribute wie Geschlecht und Rasse sowie rechtliche und regulatorische Implikationen berücksichtigend. Das Ergebnis war ein Satz von 30 distincten Metriken, die Bias in Daten, Modellen und Entscheidungsprozessen bewerten.

Bias messen und mindern

Das AI Fairness 360 Toolkit incorporiert diese Metriken und bietet Algorithmen nicht nur zur Bias-Erkennung, sondern auch zum Debiasing von Modellen. Das Ziel ist, Entwicklern actionable Insights zu liefern, die über den gesamten KI-Lebenszyklus angewendet werden können.

Bias-Minderung über den KI-Lebenszyklus (Quelle: IBM)

Interdisziplinäre Kollaboration

Erkennend, dass Fairness über Informatik hinausgeht, hat IBM Wissenschaftler aus Ethik, Recht und Sozialwissenschaften eingebunden. Varshney hat auf der Uehiro-Carnegie-Oxford Ethics Conference präsentiert, während Mojsilovic an einem UC Berkeley Law School KI-Workshop teilnahm. Ihre Kollaboration stellt sicher, dass das Toolkit sowohl technische Rigorosität als auch gesellschaftliche Werte widerspiegelt.

Ist ein Algorithmus neutral?

Sozialwissenschaftler wie Young Mie Kim von der University of Wisconsin–Madison weisen darauf hin, dass KI-Bias in jedem Stadium entstehen kann – vom Datensampling bis zum Modelltraining. In ihrer Studie „Algorithmic Opportunity: Digital Advertising and Inequality of Political Involvement“ demonstriert Kim, wie algorithmische Entscheidungen bestehende Ungleichheiten verstärken können. Sie warnt davor, dass die Behauptung, ein Algorithmus sei „neutral“, die eingebetteten Biases ignoriert, die während Entwicklung und Deployment auftreten.

Durch Bereitstellung transparenter Metriken und Mitigationsstrategien befähigt AI Fairness 360 Organisationen, KI-Systeme zu bauen, die nicht nur genau, sondern auch gerecht sind.