Vertrauen in IoT nach Alexa wiederherstellen: Ein neues Zeitalter der Privatsphäre

Massendatensammlung war jahrelang die Norm, aber die Wende beginnt: Nutzer adoptieren in Rekordzahlen privacy-zentrierte Tools und Services.

Vor wenigen Jahren waren smarte Heimassistenten die neueste „Must-have“-Technologie. Obwohl sie begrenzte Funktionalität hatten, machten ihre Neuheit, ein relativ niedriger Preis (und strategische Preissenkungen zu den Feiertagen) sie für Verbraucher fast unwiderstehlich. Plötzlich hatten Tech-Unternehmen Zugriff auf mehr persönliche Informationen, als sie wussten, was sie damit anfangen sollten. Tatsächlich gab es letztes Jahr smarte Speaker in mehr als einer halben Milliarde Haushalten weltweit.

Siehe auch: Privacy a Key Issue Stalling Major Smart City Projects

Kürzlich jedoch haben diese Geräte an Beliebtheit bei der Öffentlichkeit verloren. Fast jede Woche gibt es einen neuen Datenschutz-Skandal, und infolgedessen kümmern sich Menschen mehr darum, wer Zugriff auf ihre persönlichen Informationen hat. Für viele ist die Idee eines immer-an, immer-zuhörenden Assistenten nicht mehr so ansprechend.

Tech-Unternehmen haben das Vertrauen der Öffentlichkeit verloren, aber smarte Assistenten haben immer noch viel Potenzial, besonders angesichts ihrer Nützlichkeit mit zukünftigen Fortschritten im Machine Learning. Vorwärts liegt die Verantwortung bei den Smart-Speaker-Herstellern, zu beweisen, dass ihre Produkte eine zweite Chance verdienen, und der beste Weg ist eine lange überfällige Prüfung ihres Ansatzes zur Nutzerprivatsphäre.

Welche Art von Informationen speichern smarte Assistenten?

Die exakten gesammelten Daten variieren je nach Hersteller und Aufzeichnungsfähigkeiten des Geräts (ein Gerät mit eingebauter Kamera könnte z. B. Videoclips aufzeichnen oder Umgebungslichtwerte zu verschiedenen Tageszeiten melden). Das Hauptproblem ist jedoch, zumindest vorerst, Audio. Genauer: wie viel aufgezeichnet wird, warum es aufgezeichnet wird und was mit der Aufzeichnung geschieht, sobald sie die Firmenserver erreicht.

Stimmaktivierte Assistenten hören technisch gesehen immer zu, verarbeiten aber Anfragen erst, wenn sie ein spezifisches Trigger-Wort hören. Diese Trigger werden speziell als ungewöhnliche Silbenfolgen gewählt (z. B. „OK, Google“ oder „Alexa“), damit der Speaker sie leichter vom Alltagsgespräch unterscheiden kann.

Das Problem: Algorithmen sind nicht unfehlbar. Daher können smarte Assistenten das Trigger-Wort missverstehen und beginnen, Audio ohne Wissen des Besitzers aufzuzeichnen. Wenn der Algorithmus unsicher ist, ob ein Trigger-Wort gesagt wurde, sendet er den Audio-Clip an das Verifizierungspersonal des Unternehmens, das die finale Entscheidung trifft. Theoretisch hilft diese Überwachung, False Positives zu reduzieren, aber in der Praxis bedeutet es, dass zu jedem Zeitpunkt Menschen mithören könnten, was in Ihrem Zuhause wenige Augenblicke zuvor geschah.

Die Reise Ihrer Daten endet dort nicht. Die Aufzeichnung wird dann transkribiert (und möglicherweise von Personal annotiert), bevor beide Versionen auf den Servern des Unternehmens gespeichert werden (wo sie unbegrenzt verbleiben, auch wenn Sie lokal auf dem Gerät gespeicherte Gespräche löschen). Wenn Sie eine Anfrage gestellt haben, können auch die Aktionen, die Ihr Assistent als Reaktion unternommen hat, aufgezeichnet werden.

Ist es sicherer, IoT-Geräte individuell zu managen statt einen smarten Assistenten zu nutzen?

Hypothetisch verhindert die Steuerung smarter Glühbirnen, Steckdosen und Thermostate über ihre jeweiligen Apps, dass Ihr smarter Assistent Daten über Ihre anderen Geräte sammelt. Aber es gibt gute Chancen, dass diese Geräte auch irgendeine Form von Informationen sammeln, und weniger bekannte Marken machen detaillierte Privatsphäreninformationen unwahrscheinlich öffentlich verfügbar, sodass es schwer ist, sicher zu wissen, welche Option sicherer ist.

Nehmen wir an, Ihr smarter Glühbirnenhersteller kann grundlegende Informationen über Ihre Nutzungsgewohnheiten in Echtzeit sehen: welche Farbe das Licht hat, seine aktuelle Farbintensität und ob das Licht an ist oder nicht. Laut Forschern der University of Texas at San Antonio reicht das aus, um zu identifizieren, welchen Song Sie hören (vorausgesetzt, Sie haben Birnen, die auf Musik reagieren und die Farbe ändern). Dieses Experiment war im Umfang begrenzt, aber wenn ein Milliarden-Dollar-Unternehmen mit Millionen Stunden Stimmdaten es replizieren würde, ist es durchaus möglich, dass es Ihre Gespräche mithören könnte, ohne überhaupt ein Mikrofon zu benötigen.

Selbst relativ einfache Geräte wie smarte Steckdosen sammeln Informationen. Eines der bekanntesten Modelle zeichnet 45 Tage Daten auf, einschließlich täglicher Nutzungslevel, WLAN-Signalstärke, Stromkosten pro kWh und wie lange das Gerät im Standby war. Das reicht, um vernünftig zu raten, ob Sie erwerbstätig sind, wie viele Personen bei Ihnen wohnen und (wenn Sie mehrere smarte Steckdosen haben) den groben Grundriss Ihres Hauses. Dieses spezifische Modell beinhaltet auch einen Micro-USB-Port, den der Hersteller für zusätzliche Sensoren in der Zukunft vorschlägt.

Tech-Giganten müssen ihren Ansatz zur Privatsphäre überdenken

Wenn die Öffentlichkeit smarte Assistenten weiterhin annehmen soll, muss sie fühlen, dass ihre Privatsphäre respektiert wird. Organisationen beginnen, kleine Schritte in diese Richtung zu unternehmen, z. B. durch Hinzufügen von Kamerabedeckungen an ihren Geräten, doch solche symbolischen Gesten verfehlen den Punkt: Menschen machen sich keine Sorgen darüber, was ihr Gerät sehen *könnte*, sie sind besorgt, dass es *überhaupt* zuschaut.

Die Technologie selbst ist nicht das Problem: Schließlich können stimmenaktivierte Assistenten extrem nützlich sein, besonders für Menschen mit eingeschränkter Mobilität oder Sehkraft. Das Problem ist, dass die Unternehmen, die diese Geräte erschaffen, eine „Alles sammeln“-Mentalität haben, die schlicht nicht mit Nutzerprivatsphäre kompatibel ist. Durch die Annahme des unten dargelegten dreistufigen Privacy-First-Ansatzes können Tech-Giganten Nutzerbedenken auf sinnvolle Weise zerstreuen. Dies wiederum stellt sicher, dass bestehende Kunden den Service weiterhin nutzen und möglicherweise sogar einige zum Upgrade ermutigt, wenn neuere Modelle erscheinen.

1. Schluss mit der Geheimhaltung

Menschen sind so an problematische Datenschutzrichtlinien gewöhnt, dass sie sie automatisch akzeptieren. Schließlich ist die Alternative, ein Gerät nicht zu nutzen, für das man bereits bezahlt hat. Künftig sollten smarte Assistenten nur Daten sammeln, die für eine spezifische Aufgabe strikt erforderlich sind, und diese Informationen sollten (sowohl lokal als auch in den Aufzeichnungen des Herstellers) gelöscht werden, sobald sie ihren Zweck erfüllt haben. Nutzer sollten auch in der Lage sein, sich von bestimmten Funktionen abzumelden, wenn sie den erforderlichen Berechtigungen nicht zustimmen, so wie man es bei Apps auf einem Handy machen kann.

Wie würde das in der Praxis funktionieren? Sagen wir, Sie wollten Wegbeschreibungen zu einem bestimmten Restaurant. Ihr Assistent müsste sowohl Ihren aktuellen Standort als auch Ihr Ziel kennen. Er könnte auch nach Ihrer geplanten Reisezeit fragen, um ÖPNV-Informationen zu finden usw., aber das sind keine kritischen Daten und sollten nur berücksichtigt werden, wenn der Nutzer sie freiwillig angibt. Sobald der Nutzer ankommt, werden seine Zieldaten nicht mehr benötigt und können bedenkenlos verworfen werden (wiederum, es sei denn, der Nutzer fügt den Standort spezifisch einem Adressbuch hinzu).

Im obigen Beispiel gelangt der Nutzer ohne Probleme ans Ziel, obwohl er minimale Informationen bereitgestellt hat. Im Gegensatz dazu könnte Ihr smarter Assistent bei heutigen Geräten nicht nur herausfinden, wohin Sie gehen, sondern auch, um welche Art von Einrichtung es sich handelt, wie oft Sie sie besuchen und wie beliebt sie bei anderen in Ihrer Gegend ist. Diese Funktionalität wird nicht genutzt, um Ihre Erfahrung zu verbessern; sie wird genutzt, um ein Werbeprofil aufzubauen und kann daher ohne spürbare Auswirkungen auf den Nutzer weggelassen werden.

2. Nutzern die Tools geben, um ihre eigenen Daten zu managen

Kurz gesagt: Nutzer sollten nicht dafür bestraft werden, dass sie privatsphärebewusst sind. Wenn Menschen wirklich zustimmen sollen, ihre persönlichen Informationen preiszugeben, müssen sie zuerst verstehen, was das bedeutet. Unternehmen sollten ihre Datensammelrichtlinien nicht mehr in Dutzenden Seiten juristischer Terminologie verschleiern; Kunden sollten genau sehen können, welche Art von Informationen aufgezeichnet wird. Noch wichtiger: Diese Informationen sollten in einem leicht verständlichen Format vorliegen, frei von Halbwahrheiten über Metadaten oder anonymisierte Datensets. Nutzer sollten auch informiert werden, *warum* jedes Datenelement aufgezeichnet wird und *wie* sie es löschen können, wenn sie wollen.

Heutzutage kann es Wochen dauern, herauszufinden, welche Daten ein bestimmtes Unternehmen über Sie hat. Bestimmte Websites machen diesen Prozess einfacher als andere, aber Sie können immer noch erwarten, mindestens ein paar Stunden zu warten, nachdem Sie die entsprechende Option in einem Labyrinth von Untermenüs gefunden haben.

Warum sollte das Ansehen Ihrer persönlichen Informationen nicht so einfach wie möglich sein? Nutzer sollten selbst entscheiden können, ob ein Unternehmen Zugriff auf ihre Daten verdient oder nicht. In der Zukunft muss es viel einfacher sein, seine Daten einzusehen, aber es gibt keinen Grund, dort aufzuhören.

Zum Beispiel erlauben die meisten smarten Assistenten derzeit nicht, Sprachaufzeichnungen automatisch zu löschen oder detaillierte Statistiken einzusehen, wie oft ihre Audio-Clips zur manuellen Verifizierung weitergeleitet wurden. Das sind keine besonders fortschrittlichen Features, aber sie würden viel dazu beitragen, öffentliches Vertrauen zurückzugewinnen und einen Ruf als transparentes, privatsphärebewusstes Tech-Unternehmen aufzubauen.

3. Drittanbieter-Eingriffe auf ein Minimum reduzieren

Die bekanntesten smarten Assistenten sind seit Jahren in Betrieb. Kollektiv haben sie Zugriff auf ein breiteres Spektrum an Stimmdaten als je jemand zuvor, mit allen möglichen Sprachen und Akzenten vertreten. Wenn nach Millionen Dollar Investition und Jahren der Algorithmik-Feinabstimmung Personal noch häufig manuell eingreifen muss, nur um zu prüfen, ob ein Trigger-Wort verwendet wurde, müssen Unternehmen vielleicht akzeptieren, dass die aktuellen Methoden einfach nicht funktionieren.

Es gibt viele andere Wege, False Positives zu reduzieren, ohne dass Nutzer sich sorgen müssen, wer zuhört. Zum Beispiel durch Begrenzung der Betriebsstunden Ihres Assistenten reduzieren Sie die Chance, dass Hintergrundgeräusche als Trigger-Wort missverstanden werden. Viele smarte Speaker erlauben bereits, benutzerdefinierte Routinen zu erstellen, wie Musik zu einer bestimmten Zeit täglich abzuspielen; diese Technologie könnte fast sicher auf „Ruhezeiten“ (wie die frühen Morgenstunden) erweitert werden, in denen der Assistent einfach nicht auf Sprachbefehle reagiert.

Einige Dienste haben kürzlich individuelle Spracherkennung eingeführt, bei der der Assistent nur auf bestimmte Personen reagiert. Dies trainiert den Assistenten jedoch nur mit einer Handvoll Phrasen (wahrscheinlich, um den Komfort für den Nutzer zu maximieren). Dies könnte zu Situationen führen, in denen er Befehle von Personen akzeptiert, die einfach einen ähnlichen Akzent oder Tonfall wie ein autorisierter Nutzer haben. Im Gegensatz dazu sollte eine größere Anzahl an Trainingsphrasen dem Assistenten helfen, sich auf das einzuschießen, was eine Personenstimme wirklich einzigartig macht, wodurch der Bereich akzeptierter Eingaben und damit die Zahl der False Positives reduziert wird.

Schließlich könnten Assistenten in Haushalten mit einer abnormal hohen Zahl an False Positives ein Feature anbieten, das Hintergrundgeräusche zu verschiedenen Tageszeiten aufzeichnet. Dies könnte dann genutzt werden, das Spracherkennungsmodell für bestimmte Heime anzupassen, sodass es weniger wahrscheinlich durch Umgebungsfaktoren wie Verkehr draußen, Flugzeuge über einem oder unhörbare Frequenzen getriggert wird.

Aktuelle Datensammelpraktiken können nicht andauern

Das einzige echte Problem, das Menschen mit smarten Heimassistenten haben, ist, dass sie sich beobachtet fühlen. Das Problem ist: Sie haben recht. Massendatensammlung war jahrelang die Norm, aber die Wende beginnt, mit Nutzern, die in Rekordzahlen privacy-zentrierte Tools und Services adoptieren. Smarte Assistenten haben riesiges Potenzial, aber letztendlich riskieren ihre Schöpfer, zurückgelassen zu werden, wenn sie sich nicht an diese neue, nutzerzentrierte Einstellung anpassen.