Ausgelagerte KI und Deep Learning im Gesundheitswesen – Ist der Datenschutz gefährdet?

Jonathan Martin von Anomali

Künstliche Intelligenz (KI) und Deep Learning liefern als neue Technologien nachweislich leistungsstarke Geschäftseinblicke. Dies gilt insbesondere für die Gesundheitsbranche, sagt Jonathan Martin, EMEA Operations Director bei Anomali , wo Freemium-KI- und Machine-Learning-Softwarepakete wie Theano, Fackel, cntk und Tensorflow medizinische Zustände wie Krebs, Herzinfarkt und viele andere bildbasierte Diagnosen effektiv vorhersagen können.

Die Integration von KI und Deep Learning in die medizinische Praxis ist daher ein unvermeidlicher und entscheidender nächster Schritt für die Gesundheitsbranche, auch wenn ein solches Unterfangen nicht ohne Herausforderungen ist.

Eines der dringendsten Probleme, das Unternehmen daran hindert, diese Technologien voll auszuschöpfen, ist der Mangel an technisch geschultem Personal. Es gibt viele Cybersicherheitsexperten, die wahrscheinlich die Nachfrage nach technischen Talenten decken könnten, aber bei einem bereits begrenzten Angebot an Fachleuten in der Cybersicherheitsbranche selbst ist es unwahrscheinlich, dass das Angebot in absehbarer Zeit die Nachfrage decken wird.

Um die Angelegenheit für die Gesundheitsbranche noch komplizierter zu machen, erfordert die Implementierung dieser Technologien den Zugriff auf personenbezogene Daten (PII), die aufgrund ihres sensiblen und daher lukrativen Charakters zu den zielgerichtetsten Daten bei Cyberangriffen gehören.

Die Nationale Gesundheitsgesellschaft (NHS) gewählt, um Personal- und Datenschutzprobleme durch eine Partnerschaft mit Deepmind zu umgehen , ein von Alphabet/Google erworbenes Unternehmen. Dadurch erhielt Deepmind Zugriff auf 1,6 Millionen medizinische Aufzeichnungen, darunter Informationen zu Bluttests, medizinischer Diagnostik, historischen Patientenakten und noch sensibleren Daten wie HIV-Diagnose und früherem Drogenkonsum. Ob dies ein angemessenes Risiko war oder nicht, hat in der Branche zu einigen Kontroversen geführt.

Wie wir beim WannaCry-Angriff auf den NHS gesehen haben, kann ein Cyberangriff verheerende Auswirkungen auf die Branche haben. Dies sollte Unternehmen jedoch nicht davon abhalten, Informationen auszutauschen und weiterzuentwickeln. KI und andere Technologien sind für die Weiterentwicklung des Gesundheitswesens von entscheidender Bedeutung, und die Einstellung von technischen Talenten ist ein wesentlicher Bestandteil, um die in ihnen vorhandene Leistungsfähigkeit auf sichere Weise zu nutzen, ohne dass Outsourcing erforderlich ist. Organisationen sollten auch die Best-Effort-Praktiken konsistent halten, um das Risiko einer Organisation zu minimieren.

Eine dieser Best Practices umfasst die Schwärzung aller personenbezogenen Daten. Jede Organisation, die Daten auslagert, sollte stattdessen Pseudonyme verwenden, wobei die eindeutige Kennung und die PII nur von der vertrauenswürdigen Stelle gehalten werden. Halbsensible Informationen, die für das Modell des maschinellen Lernens von Wert wären, sollten ebenfalls entfernt werden. Der geografische Standort eines Patienten ist ein perfektes Beispiel.

Diese Daten können ein starker Indikator für eine Krankheit sein, aber die Rohdaten könnten verwendet werden, um die PII eines bestimmten Patienten zurückzuentwickeln. Das Verwerfen solcher Informationen ist ein effektiver Kompromiss zwischen der Verbesserung der Vorhersagekraft der KI und dem Schutz der Vertraulichkeit der Patienten.

Diese Best-Effort-Strategien können dazu beitragen, die meisten Bedenken auszuräumen, dies ist jedoch keine narrensichere Methode, um die Vertraulichkeit zu gewährleisten. Derzeit kann nicht garantiert werden, dass die KI Ihre PII nicht rekonstruieren kann. In einer Studie der CMU fanden Forscher heraus, dass Sozialversicherungsnummern überraschend vorhersehbar sind und dass der KI-Algorithmus normalerweise eine Sozialversicherungsnummer aus Informationen wie Geburtsdatum und Geschlecht rekonstruieren kann.

In Zukunft können Unternehmen nach fortschrittlicheren Technologien suchen, um die Bemühungen um das Outsourcing privater Daten zu sichern. Jüngste Entwicklungen beim föderierten Lernen könnten die Flexibilität erhöhen und es Gruppen ermöglichen, Daten vor Ort zu speichern. Eine weitere verwandte Technologie der homomorphen Verschlüsselung wird ebenfalls entwickelt. Bei der homomorphen Verschlüsselung erfolgen die Berechnungen an verschlüsselten Daten, ohne dass die Daten jemals entschlüsselt werden müssen, was die Sicherheitsbedenken erheblich reduziert.

Im Moment sind wir noch Jahre davon entfernt, das Datenschutzproblem direkt durch Technologien zu lösen. Die Vorteile von KI sind jedoch zu groß, als dass die Gesundheitsbranche warten könnte. In naher Zukunft müssen die Branchen ein Gleichgewicht finden, um die Bürger zu schützen und unnötige Sicherheitslücken zu vermeiden.

Der Autor dieses Blogs ist Jonathan Martin, EMEA Operations Director bei Anomali