Leben nach Alexa:Wiederherstellung des öffentlichen Vertrauens in IoT

Die Massendatenerfassung ist seit Jahren die Norm, aber das Blatt beginnt sich zu wenden, da Benutzer datenschutzzentrierte Tools und Dienste in Rekordzahlen übernehmen

Noch vor wenigen Jahren waren Smart-Home-Assistenten die neueste „Must-Have“-Technologie. Obwohl sie nur eine begrenzte Funktionalität hatten, machte sie ihre Neuheit in Verbindung mit einem relativ niedrigen Preis (und strategischen Preisnachlässen während der Feiertage) für Verbraucher nahezu unwiderstehlich. Plötzlich hatten Technologieunternehmen Zugriff auf mehr persönliche Informationen, als sie wussten, was sie damit anfangen sollten. Tatsächlich gab es im vergangenen Jahr Smartspeaker in mehr als einer halben Milliarde Haushalten auf der ganzen Welt.

Siehe auch: Datenschutz ist ein zentrales Problem, das große Smart-City-Projekte blockiert

In jüngerer Zeit begannen diese Geräte jedoch, bei der Öffentlichkeit in Ungnade zu fallen. Fast jede Woche gibt es einen neuen Datenschutzskandal, und infolgedessen beginnen sich die Menschen mehr darum zu kümmern, wer Zugriff auf ihre persönlichen Daten hat. Für viele ist die Idee, einen ständig eingeschalteten, immer zuhörenden Assistenten zu haben, nicht mehr so ​​​​anziehend.

Tech-Unternehmen haben das Vertrauen der Öffentlichkeit verloren, aber intelligente Assistenten haben noch viel Potenzial, insbesondere wenn man bedenkt, wie nützlich sie mit zukünftigen Fortschritten im maschinellen Lernen werden könnten. In Zukunft liegt die Verantwortung bei den Herstellern intelligenter Lautsprecher, zu beweisen, dass ihre Produkte eine zweite Chance verdienen, und der beste Weg, dies zu tun, ist die längst überfällige Prüfung ihres Ansatzes zum Schutz der Privatsphäre der Benutzer.

Welche Art von Informationen speichern intelligente Assistenten?

Die genauen Daten, die gesammelt werden, variieren je nach Hersteller und Aufnahmefähigkeit des Geräts (ein Gerät mit einer eingebauten Kamera kann beispielsweise Videoclips aufzeichnen oder zu unterschiedlichen Tageszeiten über die Umgebungshelligkeit berichten). Das Hauptproblem ist jedoch, zumindest im Moment, Audio. Insbesondere, wie viel aufgezeichnet wird, warum es aufgezeichnet wird und was mit der Aufzeichnung geschieht, sobald sie die Unternehmensserver erreicht.

Sprachgesteuerte Assistenten hören technisch immer zu, bearbeiten Anfragen aber erst, wenn sie ein bestimmtes Auslösewort hören. Diese Auslöser sind speziell so gewählt, dass sie ungewöhnliche Silbenfolgen sind (z. B. „OK, Google“ oder „Alexa“), damit der Sprecher sie leichter aus alltäglichen Gesprächen identifizieren kann.

Das Problem ist, dass Algorithmen nicht unfehlbar sind. Infolgedessen können intelligente Assistenten das Auslösewort falsch verstehen und ohne Wissen des Besitzers mit der Audioaufnahme beginnen. Wenn der Algorithmus nicht sicher ist, ob ein Triggerwort gesagt wurde, sendet er den Audioclip an die Verifizierungsmitarbeiter des Unternehmens, die die endgültige Entscheidung treffen. Theoretisch trägt diese Art der Überwachung dazu bei, die Anzahl falsch positiver Ergebnisse zu reduzieren, aber in der Praxis bedeutet dies, dass die Leute jederzeit mithören können, was sich gerade in Ihrem Zuhause ereignet hat.

Die Reise Ihrer Daten endet jedoch nicht dort. Die Aufzeichnung wird dann transkribiert (und möglicherweise von Mitarbeitern kommentiert), bevor beide Versionen auf den Servern des Unternehmens gespeichert werden (wo sie auf unbestimmte Zeit verbleiben, selbst wenn Sie lokal auf Ihrem Gerät gespeicherte Gespräche löschen). Wenn Sie eine Anfrage gestellt haben, können auch die Aktionen aufgezeichnet werden, die Ihr Assistent als Antwort ausgeführt hat.

Ist es sicherer, IoT-Geräte individuell zu verwalten, als einen intelligenten Assistenten zu verwenden?

Hypothetisch verhindert die Steuerung intelligenter Glühbirnen, Steckdosen und Thermostate mit ihren jeweiligen Apps, dass Ihr intelligenter Assistent Daten über Ihre anderen Geräte sammelt. Allerdings besteht eine gute Chance, dass diese Geräte auch irgendeine Form von Informationen sammeln, und weniger bekannte Marken werden wahrscheinlich keine detaillierten Datenschutzinformationen öffentlich zugänglich machen, sodass es schwierig ist, mit Sicherheit zu sagen, welche Option sicherer ist.

Nehmen wir an, dass Ihr Hersteller von intelligenten Glühbirnen grundlegende Informationen über Ihre Nutzungsgewohnheiten in Echtzeit sehen kann:welche Farbe das Licht hat, seine aktuelle Farbintensität und ob das Licht an ist oder nicht. Laut Forschern der University of Texas in San Antonio reicht dies aus, um zu identifizieren, welches Lied Sie gerade hören (vorausgesetzt, Sie haben die Art von Glühbirnen, die ihre Farbe als Reaktion auf Musik ändern). Der Umfang dieses Experiments war ziemlich begrenzt, aber wenn ein milliardenschweres Unternehmen mit Millionen von Stunden an Sprachdaten beschließt, es zu replizieren, ist es durchaus möglich, dass es Ihre Gespräche abhören könnte, ohne überhaupt ein Mikrofon verwenden zu müssen.

Selbst relativ einfache Geräte wie Smartsockets sammeln Informationen. Eines der bekanntesten Modelle zeichnet Daten von 45 Tagen auf, einschließlich Ihres täglichen Nutzungsniveaus, der WLAN-Verbindungsstärke, Ihrer Stromkosten pro kWh und der Dauer des Standby-Modus. Dies sind genügend Informationen, um eine vernünftige Einschätzung darüber zu treffen, ob Sie berufstätig sind oder nicht, wie viele Personen bei Ihnen sind und (wenn Sie mehrere intelligente Steckdosen haben) die grobe Anordnung Ihres Hauses. Dieses spezielle Modell enthält auch einen Micro-USB-Anschluss, den der Hersteller in Zukunft für zusätzliche Sensoren verwenden könnte.

Tech-Giganten müssen ihre Herangehensweise an den Datenschutz überdenken

Wenn die Öffentlichkeit intelligente Assistenten weiterhin annehmen soll, muss sie das Gefühl haben, dass ihre Privatsphäre respektiert wird. Unternehmen fangen an, kleine Schritte in diese Richtung zu unternehmen, indem sie beispielsweise Kameraabdeckungen an ihren Geräten anbringen, aber symbolische Gesten wie diese verfehlen den Sinn:Die Leute machen sich keine Sorgen darüber, was ihr Gerät sehen könnte, sie sind besorgt, dass es so ist überhaupt zuschauen.

Die Technik an sich ist nicht das Problem:Immerhin können sprachaktivierte Assistenten extrem nützlich sein, besonders für Menschen mit eingeschränkter Mobilität oder Sehkraft. Stattdessen besteht das Problem darin, dass die Unternehmen, die diese Geräte herstellen, eine „alles sammeln“-Mentalität haben, die einfach nicht mit der Privatsphäre der Benutzer vereinbar ist. Durch die Anwendung des unten beschriebenen dreistufigen Ansatzes „Privacy First“ können Technologiegiganten die Bedenken der Benutzer auf sinnvolle Weise zerstreuen. Dies wiederum stellt sicher, dass bestehende Kunden den Dienst weiterhin nutzen, und kann einige sogar dazu ermutigen, ein Upgrade durchzuführen, wenn neuere Modelle veröffentlicht werden .

1. Verzichten Sie auf die Geheimhaltung

Die Menschen sind so an problematische Datenschutzrichtlinien gewöhnt, dass sie sie einfach automatisch akzeptieren. Die Alternative besteht schließlich darin, kein Gerät zu verwenden, für das Sie bereits bezahlt haben. In Zukunft sollten smarte Assistenten nur noch Daten sammeln, die für eine bestimmte Aufgabe unbedingt erforderlich sind, und diese Informationen sollten (sowohl lokal als auch aus den Aufzeichnungen des Herstellers) gelöscht werden, sobald sie ihren Zweck erfüllt haben. Benutzer sollten auch in der Lage sein, bestimmte Funktionen abzulehnen, wenn sie nicht damit einverstanden sind, die erforderlichen Berechtigungen bereitzustellen, ähnlich wie Sie dies bei Apps auf einem Mobiltelefon tun können.

Wie würde das in der Praxis funktionieren? Angenommen, Sie möchten eine Wegbeschreibung zu einem bestimmten Restaurant abrufen. Ihr Assistent muss sowohl Ihren aktuellen Standort als auch Ihr Ziel kennen. Es kann auch nach Ihrer geplanten Reisezeit fragen, um Informationen zu öffentlichen Verkehrsmitteln und bald zu finden, aber dies sind keine kritischen Daten und sollten nur berücksichtigt werden, wenn der Benutzer sie freiwillig angibt. Sobald der Benutzer ankommt, werden seine Zieldaten nicht mehr benötigt und können sicher verworfen werden (wiederum, es sei denn, der Benutzer fügt einem Adressbuch ausdrücklich einen Ort hinzu).

Im obigen Beispiel kommt der Nutzer trotz minimaler Angaben problemlos ans Ziel. Wenn Sie dies dagegen mit heutigen Geräten versuchen würden, könnte Ihr intelligenter Assistent nicht nur herausfinden, wohin Sie gehen, sondern auch, um welche Art von Einrichtung es sich handelt, wie oft Sie es besuchen und wie beliebt es bei anderen in Ihrer Nähe ist . Diese Funktion wird nicht verwendet, um Ihr Erlebnis zu verbessern; es dient dem Aufbau eines Werbeprofils und kann somit ohne merkliche Wirkung für den Nutzer entfallen.

2. Bieten Sie Benutzern die Tools, die sie zum Verwalten ihrer eigenen Daten benötigen

Einfach ausgedrückt:Benutzer sollten nicht für ihr Datenschutzbewusstsein bestraft werden. Wenn Menschen wirklich zustimmen sollen, ihre persönlichen Daten preiszugeben, müssen sie zuerst verstehen, was dies bedeutet. Unternehmen sollten ihre Datenerfassungsrichtlinien nicht länger in Dutzenden von Seiten mit juristischer Terminologie verschleiern; Kunden sollten genau sehen können, welche Art von Informationen aufgezeichnet werden. Noch wichtiger ist, dass diese Informationen in einem leicht verständlichen Format vorliegen, frei von Halbwahrheiten über Metadaten oder anonymisierte Datensätze. Die Benutzer sollten auch darüber informiert werden, warum die einzelnen Daten aufgezeichnet werden und wie sie sie löschen können, wenn sie dies wünschen.

Heutzutage kann es Wochen dauern, um herauszufinden, welche Daten ein bestimmtes Unternehmen über Sie hat. Bestimmte Websites machen diesen Vorgang einfacher als andere, aber Sie können immer noch damit rechnen, dass Sie mindestens ein paar Stunden warten müssen, nachdem Sie die entsprechende Option in einem Labyrinth von Untermenüs gefunden haben.

Warum sollte das Anzeigen Ihrer persönlichen Daten nicht so einfach wie möglich sein? Nutzer sollen selbst entscheiden können, ob ein Unternehmen Zugriff auf ihre Daten verdient oder nicht. In Zukunft muss es viel einfacher sein, Ihre Daten anzuzeigen, aber es gibt keinen Grund, hier aufzuhören.

Zum Beispiel erlauben die meisten intelligenten Assistenten derzeit nicht, dass Benutzer Sprachaufzeichnungen automatisch löschen oder detaillierte Statistiken anzeigen, z. B. wie oft ihre Audioclips zur manuellen Überprüfung weitergeleitet wurden. Dies sind keine besonders fortschrittlichen Funktionen, aber sie würden einen großen Beitrag dazu leisten, das Vertrauen der Öffentlichkeit zurückzugewinnen und sich einen Ruf als transparentes, datenschutzbewusstes Technologieunternehmen aufzubauen.

3. Reduzieren Sie Eingriffe Dritter auf ein Minimum

Die bekanntesten smarten Assistenten sind seit Jahren im Einsatz. Gemeinsam haben sie Zugriff auf eine größere Bandbreite an Sprachdaten als jeder andere, mit allen Arten von Sprachen und Akzenten. Wenn Mitarbeiter nach millionenschweren Investitionen und jahrelangem Offline-Tuning des Algorithmus immer noch häufig manuell eingreifen müssen, um zu sehen, ob ein Triggerwort verwendet wurde, müssen Unternehmen möglicherweise akzeptieren, dass die aktuellen Methoden einfach nicht funktionieren.

Es gibt viele andere Möglichkeiten, die Anzahl der Fehlalarme zu reduzieren, ohne dass sich die Benutzer Gedanken darüber machen müssen, wer zuhört. Indem Sie beispielsweise die Stunden begrenzen, in denen Ihr Assistent einsatzbereit ist, verringern Sie die Wahrscheinlichkeit, dass Hintergrundgeräusche fälschlicherweise als Auslösewort identifiziert werden Mit Lautsprechern können Benutzer bereits benutzerdefinierte Routinen erstellen, z. B. das Abspielen von Musik zu einer bestimmten Tageszeit. Diese Technologie könnte mit ziemlicher Sicherheit auf „ruhige Zeiten“ (wie die frühen Morgenstunden) ausgedehnt werden, in denen der Assistent einfach nicht auf verbale Befehle reagiert.

Einige Dienste haben kürzlich die individuelle Spracherkennung eingeführt, bei der der Assistent nur auf bestimmte Personen antwortet. Dies trainiert den Assistenten jedoch mit nur einer Handvoll Sätzen (wahrscheinlich um den Komfort für den Benutzer zu maximieren). Dies könnte zu Situationen führen, in denen es Befehle von Personen akzeptiert, die einfach einen ähnlichen Akzent oder Ton wie ein autorisierter Benutzer haben. Im Gegensatz dazu sollte eine größere Anzahl von Trainingsphrasen dem Assistenten dabei helfen, herauszufinden, was die Stimme einer Person wirklich einzigartig macht, wodurch die Bandbreite der akzeptierten Eingaben und damit die Anzahl der Fehlalarme verringert wird.

Schließlich könnten Assistenten in Haushalten mit einer ungewöhnlich hohen Anzahl von Fehlalarmen eine Funktion anbieten, die Hintergrundgeräusche zu verschiedenen Tageszeiten aufzeichnet. Dies könnte dann verwendet werden, um das Spracherkennungsmodell für bestimmte Haushalte anzupassen, sodass es weniger wahrscheinlich ist, dass es durch Umweltfaktoren wie den Verkehr draußen, Flugzeuge über dem Kopf oder unhörbare Frequenzen ausgelöst wird.

Aktuelle Datenerfassungspraktiken können nicht von Dauer sein

Das einzige wirkliche Problem, das Menschen mit Smarthome-Assistenten haben, ist, dass sie sich beobachtet fühlen. Das Problem ist, dass sie Recht haben. Die Massendatenerfassung ist seit Jahren die Norm, aber das Blatt beginnt sich zu wenden, da Benutzer datenschutzzentrierte Tools und Dienste in Rekordzahlen übernehmen. Intelligente Assistenten haben ein enormes Potenzial, aber wenn sich ihre Schöpfer nicht an diese neue, benutzerorientierte Einstellung anpassen, laufen sie Gefahr, zurückgelassen zu werden.