Der Spion im Wohnzimmer

Vor zwei Monaten hat Amazon ein Patent für eine Software bekommen, die es dem Unternehmen ermöglicht, Gefühlszustand und Sprachakzent eines Nutzers zu analysieren. Amazon wertet dazu Hintergrundgeräusche, Geschlecht, Sprache, Akzent und Indikatoren für den Gefühlszustand aus Gesprächen aus.

Es ist nicht schwer sich vorzustellen, wie der momentane Gefühlszustand eines Nutzers bei der Betrachtung von Anzeigen kommerziell genutzt werden kann. Interessant und brisant ist aber vor allem der Akzent des Nutzers. Die Software macht dabei nichts anderes, als ein Mensch es auch täte. Jemand mit geübtem Ohr kann hören, ob ein Sprechender aus dem Emmental stammt, aus Bamberg oder aus Wien. Selbst, wenn die betreffende Person schon lange in Zürich lebt und Hochdeutsch spricht.

Es ist anzunehmen, dass eine künstliche Intelligenz, die anhand von sehr vielen Beispielen lernen kann, mindestens genauso gut in der Erkennung eines Dialekts ist wie ein darin geübter Mensch. Dazu kommen Daten, die Amazon ohnehin schon erhebt, wie Wohn- und Lieferadresse, IP-Adresse und Browsereinstellungen.

Schon wieder: ethnisch selektive Werbung

Damit wäre der Weg zur Ermittlung der Herkunft und ethnischen Gruppe von Nutzern frei. Daten, die allerdings rechtliche Fragen aufwerfen, was ihre Anwendung betrifft! Eine der harmloseren Auswirkungen könnte die Ausspielung von ethnisch selektiver Werbung sein. Beispielsweise durch Anzeigen, die Nutzern mit spanischem Akzent nicht mehr angezeigt werden. Ähnliche Einstellungen brachten bereits Facebook in Konflikt mit in den USA geltenden Anti-Diskriminierungs-Gesetzen. (Infosperber: «Facebook-Werbung: (noch immer) rassistisch»).

Alexa, zeig mir Terroristen…

Weniger harmlos ist, dass diese Daten auch Behörden interessieren dürften, berichtet der «Intercept» – zum Beispiel das FBI. Wenn Amazon Nutzer zu ethnischen oder religiösen Gruppen zuordnen könne, wäre es naiv, anzunehmen, dass die US-Regierung kein Interesse an dieser neuen Datenklasse hätte. Das sagt Jennifer King, Direktorin für Verbraucherschutz am Center for Internet and Society der Stanford Law School. Sie beschreibt gegenüber dem «Intercept» ein Szenario, in dem aus der Einkaufsgeschichte eines Nutzers, demografischen Daten und ob er Arabisch oder Englisch mit arabischem Akzent spricht, eine ethnische und religiöse Zuordnung gemacht werden kann.

«Voiceprint» oder Abdruck einer menschlichen Stimme (Quelle: iHLS)

Es sei plausibel, dass das FBI die Herausgabe solcher Daten von Amazon erzwingen könnte, wenn sie helfen könnten, die Mitgliedschaft eines Benutzers zu einer terroristischen Gruppe zu bestimmen. Nach den US-Gesetzen ist es für Unternehmen in diesem Fall schwierig bis unmöglich, die Herausgabe zu verweigern. Andrew Crocker, leitender Anwalt bei der «Electronic Frontier Foundation», bestätigt, dass die US-Regierung zur «Ausspähung fremder Mächte» einen nicht-öffentlichen Durchsuchungsbefehl ausstellen kann. Das zugrundeliegende Gesetz heisst FISA (Foreign Intelligence Surveillance Act) und wird regelmässig angewendet.

…oder wenigstens einen illegalen Einwanderer

Jennifer Granick, Anwältin für Überwachung und Cybersicherheit am «American Civil Liberties Union’s Speech, Privacy, and Technology Project», vermutet, dass die Akzentdaten von Amazon auch der Einwanderungsbehörde ICE Rückschlüsse liefern könnten. «Nehmen wir an, ICE geht zu einem dieser Anbieter und sagt: ‹Geben Sie uns alle Abonnementinformationen von Personen mit spanischen Akzenten›», sagt sie. Diese Information könne missbraucht werden, um Personen einer bestimmten Herkunft oder Rasse zu identifizieren oder die, die theoretisch undokumentierte Verwandte haben könnten.
Obwohl Granick noch keine Beweise für solche Anfragen hat, hat sie «parallele Dinge in anderen Kontexten» beobachtet. Es sei auch möglich, dass Amazon einen «National Security Letter» vom FBI bekäme, diesen aber nicht offenlegen dürfe, gibt sie zu bedenken.

Alexa und der Tote im Whirlpool

In einer Mordermittlung in Arkansas wurden Daten von Amazon Alexa bereits genutzt. Amazon hatte sich zwar mit Hinweis auf die Redefreiheit im ersten Zusatz der US-Verfassung (1st Amendment) zunächst geweigert, diese herauszugeben, seinen Einspruch aber dann fallengelassen. Es gibt andere US-Gesetze, die die Privatsphäre der Nutzer schützen, diese sind – mit Ausnahme von Kalifornien – jedoch längst nicht so streng wie die europäische Gesetzgebung.

Bisher gibt es keine Beweise dafür, dass hinter Amazons Patent eine anwendbare Software steckt. Dafür, dass diese zumindest auf grosses Interesse stossen würde, spricht:

• Im Gegensatz zu Apple, Facebook und Google macht Amazon nicht in Gänze öffentlich, wie viele «National Security Letters» das Unternehmen bekommen hat und wie viele Nutzerkonten diese betreffen. Anhand der veröffentlichten Daten ist aber nachvollziehbar, dass die Zahl der Regierungsanfragen bei Apple, Alphabet/Google und Amazon ständig steigt. Bei Amazon gab es zwischen 2015 und 2016 einen steilen Anstieg an Anfragen. Im Jahr 2015 wurde Echo, Amazons erster Smart-Speaker, am Markt vorgestellt.
• Es ist bekannt, dass sich die NSA mit Sprachtechnologie beschäftigt. Im Januar hat der «Intercept» über eine Technologie berichtet, die nicht nur Gespräche abhören und transkribieren kann. Sie erstellt ausserdem ein einzigartiges Sprachprofil (englisch «Voiceprint») einer Person. Eine Quelle für die dazu benötigten Audiodaten wären zum Beispiel Google und Amazon.
• Dialekterkennungssoftware wird bereits eingesetzt, unter anderem beim deutschen Bundesamt für Migration und Flüchtlinge zur Erkennung verschiedener arabischer Dialekte und in China bei der Erstellung biometrischer Datenbanken.

Dazu kommt, dass Amazon auch an anderer Stelle mit den Behörden zusammenarbeitet, wie im Projekt «Rekognition», das sich mit Gesichtserkennung beschäftigt. Im Unterschied zu einer Überwachungskamera, die sich im öffentlichen oder zumindest allgemein zugänglichen Raum befindet, sitzt das Mikrofon bei Nutzern von Echo und Alexa jedoch im heimischen Wohnzimmer.

In einem Email-Statement sagte Amazon, dass es «eine Reihe von zukunftsweisenden Patentanmeldungen eingereicht habe, die die Möglichkeiten der neuen Technologie voll ausschöpfen». Die Erteilung von Patenten spiegle nicht unbedingt aktuelle Entwicklungen bei Produkten und Dienstleistungen wieder.

Und dennoch wollen ihn viele haben

Mehr als 20 Prozent aller US-Amerikaner nutzen Sprachassistenten wie Alexa, etwa zwei Fünftel aller erwachsenen Internetnutzer in den USA erwägen, ein Smart-Home-Gerät zu kaufen. IT-Sicherheitsspezialisten sind in der Regel skeptisch, was eine sichere Benutzung von Amazon Echo, Apple Home Pod oder Google Home angeht. Hersteller wie Amazon halten dagegen: Aus technischer Sicht lauscht Echo zwar die ganze Zeit, Alexa schaltet sich aber erst ein, wenn sie das Signalwort, etwa «Alexa» oder «Computer», hört oder ein anderes damit verwechselt. Sonst zeichnet der intelligente Lautsprecher Daten nicht auf und leitet sie nicht weiter, versichert das Unternehmen.

Nach einem Versuch, den die Zeitschrift «Chip» gemacht hat, ist es jedoch ziemlich einfach, Echo von Hand so umzubauen, dass er zum permanenten Überwachungsgerät wird. Es sei nur eine Zeitfrage, bis das aus der Ferne möglich sein wird, schätzte «Chip». Bekannt wurden auch diverse andere Tricks, wie die Steuerung durch vom menschlichen Ohr nicht hörbare Sprachbefehle.