Aufbau einer verantwortungsvollen und vertrauenswürdigen KI

Scott Zoldi von FICO

Da der Einsatz von KI noch allgegenwärtiger wird, wird es für Datenwissenschaftler und Unternehmen nicht mehr ausreichen, einfach nur „ihr Bestes zu geben“. Scott Zoldi, KI-Experte bei FICO erklärt, dass mit dem Aufkommen von KI-Befürwortern eine verantwortungsvolle KI die Erwartung und der Standard sein wird.

In den letzten Jahren sind Daten und KI in einer Vielzahl von Branchen weit verbreitet, um Strategien und Dienstleistungen zu informieren und zu gestalten, vom Gesundheitswesen und Einzelhandel bis hin zu Banken und Versicherungen. Und in jüngster Zeit ist KI bei der Rückverfolgung im Kampf gegen das Coronavirus in den Vordergrund gerückt.

Die zunehmenden Mengen digital generierter Daten in Verbindung mit dem Bedarf an automatisierten Entscheidungen, die durch KI ermöglicht werden, stellen Unternehmen und Regierungen jedoch vor neue Herausforderungen, mit einem wachsenden Fokus auf die Argumentation hinter KI-Entscheidungsalgorithmen.

Da die KI die Entscheidungsfindung weiter von den Personen entfernt, die von der Entscheidung betroffen sind, können die Entscheidungen gefühlloser, vielleicht sogar nachlässiger werden. Es ist nicht ungewöhnlich, dass Unternehmen Daten und Algorithmen als Rechtfertigung für unpopuläre Entscheidungen anführen, und dies kann Anlass zur Sorge geben, wenn respektierte Führungskräfte Fehler machen.

Einige Beispiele sind:Microsofts rassistischer und beleidigender Online-Chatbot im Jahr 2016, das KI-Rekrutierungssystem von Amazon, das 2018 weibliche Bewerber ignorierte, und das Tesla-Auto, das im Autopiloten abstürzte, nachdem es 2019 einen Lastwagen mit einem hängenden Straßenschild verwechselt hatte.

Neben dem Potenzial für Fehlentscheidungen stellt sich auch das Thema KI-Bias. Infolgedessen wurden neue Vorschriften eingeführt, um die Verbraucherrechte zu schützen und die KI-Entwicklungen genau im Auge zu behalten.

Die Säulen einer verantwortungsvollen KI

Unternehmen müssen jetzt eine robuste KI durchsetzen. Dazu müssen sie ihre Standards mit drei Säulen verantwortungsvoller KI stärken und setzen:Erklärbarkeit, Rechenschaftspflicht und Ethik. Damit können Unternehmen aller Art sicher sein, fundierte digitale Entscheidungen zu treffen.

Erklärbarkeit :Ein Unternehmen, das sich auf ein KI-Entscheidungssystem verlässt, sollte sicherstellen, dass es über ein algorithmisches Konstrukt verfügt, das die Beziehungen zwischen den Entscheidungsvariablen erfasst, um zu einer Geschäftsentscheidung zu gelangen. Durch den Zugriff auf diese Daten kann ein Unternehmen erklären, warum das Modell seine Entscheidung getroffen hat – beispielsweise eine Transaktion als hohes Betrugsrisiko gekennzeichnet. Diese Erklärung kann dann von menschlichen Analysten verwendet werden, um die Auswirkungen und die Genauigkeit der Entscheidung.

Rechenschaftspflicht :Modelle für maschinelles Lernen müssen richtig und mit einem Fokus auf Einschränkungen des maschinellen Lernens und sorgfältiger Überlegung der verwendeten Algorithmen erstellt werden. Technologie muss transparent und konform sein. Die sorgfältige Entwicklung von Modellen stellt sicher, dass die Entscheidungen sinnvoll sind, beispielsweise passen sich die Scores bei steigendem Risiko entsprechend an.

Jenseits der erklärbaren KI gibt es das Konzept der bescheidenen KI – es stellt sicher, dass das Modell nur für die Datenbeispiele verwendet wird, die den Daten ähneln, für die es trainiert wurde. Wenn dies nicht der Fall ist, ist das Modell möglicherweise nicht vertrauenswürdig und man sollte auf einen anderen Algorithmus zurückstufen.

Ethik :Aufbauend auf Erklärbarkeit und Rechenschaftspflicht müssen ethische Modelle getestet und jegliche Diskriminierung beseitigt worden sein. Erklärbare Architekturen für maschinelles Lernen ermöglichen die Extraktion der nichtlinearen Beziehungen, die normalerweise das Innenleben der meisten Modelle des maschinellen Lernens verbergen. Diese nichtlinearen Beziehungen müssen getestet werden, da sie auf der Grundlage der Daten, auf denen das Modell trainiert wurde, gelernt werden und diese Daten allzu oft implizit voller gesellschaftlicher Verzerrungen sind. Ethische Modelle stellen sicher, dass Vorurteile und Diskriminierung explizit getestet und beseitigt werden.

Kräfte, die eine verantwortungsvolle KI durchsetzen

Der Aufbau verantwortungsbewusster KI-Modelle erfordert Zeit und mühsame Arbeit, wobei eine akribische laufende Prüfung entscheidend ist, um weiterhin verantwortungsvolle KI durchzusetzen. Diese Prüfung muss Regulierung, Prüfung und Interessenvertretung umfassen.

Regelungen sind wichtig, um Verhaltens- und Rechtsstaatlichkeit für den Einsatz von Algorithmen festzulegen. Letztendlich werden die Vorschriften jedoch entweder eingehalten oder nicht, und der Nachweis der Übereinstimmung mit den Vorschriften erfordert eine Prüfung.

Der Nachweis der Einhaltung von Vorschriften erfordert einen Rahmen für die Erstellung prüffähiger Modelle und Modellierungsverfahren. Diese Prüfungsmaterialien umfassen den Modellentwicklungsprozess, die verwendeten Algorithmen, Tests zur Erkennung von Verzerrungen und die Demonstration der Verwendung vernünftiger Entscheidungen und Bewertungen. Heutzutage werden Audits von Modellentwicklungsprozessen willkürlich durchgeführt.

Neue Blockchain-basierte Auditsysteme für die Modellentwicklung werden eingeführt, um unveränderliche Modellentwicklungsstandards, Testmethoden und Ergebnisse durchzusetzen und aufzuzeichnen. Darüber hinaus werden sie verwendet, um detaillierte Beiträge der Genehmigungen der Datenwissenschaftler und des Managements während des gesamten Modellentwicklungszyklus aufzuzeichnen.

Mit Blick auf die Zukunft wird es nicht ausreichen, dass Unternehmen mit Daten und KI „ihr Bestes geben“. Mit dem Aufkommen von KI-Befürwortern und dem wirklichen Leiden, das durch falsche Ergebnisse von KI-Systemen verursacht wird, wird verantwortungsvolle KI bald die Erwartung und der Standard auf der ganzen Welt und auf der ganzen Welt sein.

Unternehmen müssen jetzt verantwortungsvolle KI durchsetzen und ihre Standards für die Erklärbarkeit, Rechenschaftspflicht und Ethik von KI stärken und festlegen, um sicherzustellen, dass sie sich bei digitalen Entscheidungen verantwortungsbewusst verhalten.

Der Autor ist Dr. Scott Zoldi ist Chief Analytics Officer bei FICO .

Über den Autor

Dr. Scott Zoldi ist Chief Analytics Officer bei FICO. Während seiner Zeit bei FICO war Scott für die Erstellung von 110 Autorenpatenten verantwortlich, von denen 56 erteilt und 54 angemeldet wurden. Scott ist aktiv an der Entwicklung neuer Analyseprodukte und Big-Data-Analyseanwendungen beteiligt, von denen viele neue Streaming-Analyseinnovationen wie adaptive Analytik, kollaborative Profilerstellung und selbstkalibrierende Analytik nutzen. Scott ist in zwei Vorständen tätig, Software San Diego und Cyber ​​Center of Excellence. Scott erhielt seinen Ph.D. in theoretischer und computergestützter Physik von der Duke University.