Wie diverse Daten und ethische Praktiken verantwortungsvolle KI-Entwicklung vorantreiben

Karen Panettas Ingenieursweg führte sie zu kritischen Bias in Gesichtserkennungssystemen und zu transparenten Technologien, die das menschliche Wohlergehen schützen.

Von

• Esther Shittu, News Writer
• Shaun Sutner, Senior News Director

Veröffentlicht: 1. Juli 2025

Der Weg zu Karen Panettas Ingenieurstudium begann mit dem Rat ihres Vaters, dass ihre Shopping-Gewohnheiten durch eine solide finanzielle Karriere finanziert werden müssten.

Nach einiger Zeit im Computerbau und CPU-Design strebte die IEEE-Fellow und Dekanin für Graduiertenausbildung an der Tufts University eine akademische Laufbahn an. Doch sie erkannte, dass es ein großes Problem im Ingenieurwesen gab.

„Sie sagten: ‚Wir stellen Sie ein, um Mentorin für Frauen zu sein‘, und als ich zu meiner ersten Vorlesung kam, waren dort keine Frauen“, erinnerte sich Panett in der neuesten Episode des Targeting AI Podcasts von Informa TechTarget. „So wurde ich zur zufälligen Mentorin, Befürworterin und Championin, um inklusive Zielgruppen in die Ingenieurwissenschaften zu bringen.“

Diese Leidenschaft übertrug sich später auf KI-Technologie, als sie begann, an der Rettung von Kindern vor Menschenhandel zu arbeiten.

„Ich bemerkte, dass all die Datensätze, die für Gesichtserkennung trainiert wurden, frontal aufgenommen waren, beide Ohren sichtbar. Die Datenbank stammtemostly von People of Color und kriminellen Datenbanken. Da war also Bias“, sagte Panetta.

Als Reaktion erstellten Panetta und ihr Team eine diverse Datenbank mit Menschen aus aller Welt, im Alter von 3 bis 78 Jahren. Die Bilder zeigen Menschen in verschiedenen Szenarien – mit Sonnenbrillen, Masken oder unterschiedlichen Kopfrotationen.

„KI, die mit sehr sauberen Daten trainiert wurde, wird in der realen Welt nicht funktionieren“, sagte Panetta. „Die reale Welt lässt sich nicht automatisch in KI übersetzen.“

Panetta fügte hinzu, dass KI-Technologie auch ethisch sein muss, was bedeutet, Menschen oder ihren Lebensunterhalt nicht zu schädigen.

„Wenn wir über ethische KI sprechen, reden wir darüber, wie wir sie sammeln, die Rechte der Menschen und wie wir sie nutzen werden“, sagte sie.

Unterdessen sei verantwortungsvolle KI (Responsible AI) die Fähigkeit, zu erklären, warum das KI-System die Entscheidung getroffen hat, die es getroffen hat.

Esther Shittu ist News Writer und Podcast-Host bei Informa TechTarget und deckt KI-Software und -Systeme ab. Shaun Sutner ist Senior News Director für das Information Management Team von Informa TechTarget und verantwortet die Berichterstattung zu KI, Analytics, Data Management, Big Tech und Bundesregulierung. Er ist ein erfahrener Journalist mit über 30 Jahren Nachrichtenerfahrung. Gemeinsam decken sie den Targeting AI Podcast ab.

Weiterführende Artikel zu KI-Technologien

• 11 reale Agentic-AI-Beispiele und Use Cases

  Von: Mary Pratt

• IBMs Enterprise-KI-Vision für Customization und Collaboration

  Von: Esther Shittu

• Black Girls Code CEO: Vielfalt in KI umfasst alle

  Von: Esther Shittu

• Wie Cerebras gegen Nvidia antritt

  Von: Esther Shittu