Vor zwei Wochen kam ans Licht, dass Amazon-Mitarbeiter bei Alexa mitlauschen und täglich Zehntausende Sprachbefehle von fremden angehört und ausgewertet werden. Das Unternehmen hatte diese Praxis sehr schnell bestätigt, aber direkt hinzugefügt, dass die Mitarbeiter keine Möglichkeit haben, die Identität des Nutzers herauszufinden. Das scheint aber nicht ganz korrekt zu sein und auch die neueste Enthüllung sorgt mal wieder für einen Vertrauensverlust.
Smart Speaker und Sprachassistenten haben sich in den vergangenen Jahren in windeseile verbreitet und sind in vielen Wohnzimmern mittlerweile ein fester Bestandteil, der wohl auch rege genutzt wird. Doch wer dachte, dass die Sprachbefehle lediglich von einem Algorithmus ausgewertet werden, der irrt. Denn tatsächlich verwenden viele Unternehmen – auch Google – diese Sprachnachrichen und lassen sie auswerten. Offenbar lässt sich nur dadurch die Qualität der Spracherkennung und Antworten weiter steigern.
Ein Großteil der Sprachbefehle an Alexa und den Google Assistant dürften wohl aus simplen Phrasen wie der Frage nach dem Wetter, dem Verkehr oder die Bitte zum Einschalten des Lichts oder der Musik sein. Praktisch, aber für die Assistenten keine große Herausforderung. Anders sieht es da schon aus, wenn die Fragen konkreter werden, Nachrichten verfasst oder Notizen erstellt werden sollen – und genau solche Nachrichten können dann Amazon-Mitarbeitern zur Auswertung vorgelegt werden. Aber es sind nicht nur die Nachrichten selbst.
Team members with access to Alexa users’ geographic coordinates can easily type them into third-party mapping software and find home residences, according to the employees, who signed nondisclosure agreements barring them from speaking publicly about the program.
Wie nun bekannt wurde, haben Amazon-Mitarbeiter nicht nur Zugriff auf den Sprachbefehl in Audio- und Textform, sondern bekommen bei einigen Fragen auch den geographischen Standort des Nutzers mitgeteilt, der dann wohl als Kontext benötigt wird. Dieser besteht aus Koordinaten und kann sehr leicht in Kartensoftware wie Google Maps eingetragen werden, um den Nutzer genau zu lokalisieren und möglicher auch zu identifizieren. Und genau das hatte Amazon eigentlich ausgeschlossen und im ersten Statement zurückgewiesen. Jetzt muss das Unternehmen zurückrudern.
Der Zugang zu internen Tools unterliegt einer strengen Kontrolle und wird nur einer begrenzten Anzahl von Mitarbeitern gewährt, die diese Tools benötigen, um den Dienst durch die Verarbeitung einer extrem kleinen Stichprobe von Interaktionen zu trainieren und zu verbessern. Unsere Richtlinien verbieten sowohl den Zugriff der Mitarbeiter auf Kundendaten als auch deren Verwendung zu anderen Zwecken strikt. Wir verfolgen eine Null-Toleranz-Politik hinsichtlich des Missbrauchs unserer Systeme. Wir überprüfen regelmäßig den Zugriff der Mitarbeiter auf interne Tools und begrenzen den Zugriff, wann und wo immer es möglich ist.
Im aktuellen Statement heißt es nun, dass nur eine extrem geringe Gruppe von Mitarbeitern Zugriff auf diese Daten hat und dieser soweit wie möglich vermieden wird. Das deckt sich aber weder mit dem vor zwei Wochen abgegebenen Statement noch mit der Aussage der Mitarbeiter, die den Eindruck hatten, dass sehr viele Team-Mitglieder auf den Standort zugreifen konnten. Verbunden mit der Tatsache, dass etwa 10 Prozent aller Nachrichten gar nicht an Alexa gerichtet waren, sondern aus Privatgespräche bestehen, ist das schon ein starkes Stück.
Als Nutzer eines Sprachassistenten sollte man sich sehr genau überlegen, welche Aufforderungen und Informationen man den Assistenten mit auf den Weg gibt. Ich könnte mir gut vorstellen, dass das nicht die letzte Enthüllung dieser von allen großen Anbietern gelebten Praxis sein wird. Das Vertrauen in Smart Speaker und Assistenten aller Hersteller wird dadurch nicht unbedingt steigen.
Wer sich nicht sicher ist, welche Befehle an den Google Assistant gegangen sind bzw. ob auch hier private Gespräche mitgeschnitten wurden, kann alle Aufzeichnungen abrufen, anhören und gegebenenfalls auch von den Servern löschen. Wie das funktioniert, erklären wir euch in diesem Artikel.
Siehe auch
» Spaß mit Googles versteckten Ostereiern: Das sind die besten Eastereggs in Google Maps & Google Assistant