taz.de -- Smart-Home von Amazon: Die Abhörwanze von IM Alexa

Der Lautsprecher Echo und seine KI Alexa lernen alles über ihre Nutzer – wirklich alles. Kunden werden so gläsern und bezahlen noch dafür.

Dies ist ein Produkttest. Leider muss er ohne das Produkt auskommen. Denn der wolkenhafte IT-Riese Amazon wollte die taz sein Gerät nicht testen lassen. Er teilte dies schwer greifbar über einen Subunternehmer für Presseanfragen mit. Dabei war die taz die erste, die wegen des Geräts anfragte. Schon im Juli 2016 und seither immer wieder. Monate später, am 27. Oktober, erscheinen dann die ersten Produkttest – in anderen Medien. Wir müssen Echo, den Lautsprecher für den digitalen Assistenten Alexa – Amazons künstliche Intelligenz für den Alltag – also aus der Ferne begutachten.

Die Zeit schreibt in ihrem Produkttest vergnügt: „[1][Wir haben mit der] virtuellen Assistentin Alexa geplaudert“. Und die Kollegen von der Welt formulieren in ihrem Testbericht dramatisch: „[2][Dieses Amazon-Gerät verändert] unseren Alltag radikal“. Dem ist vielleicht zuzustimmen, doch bleibt nach Lektüre der Berichte der Bedarf an einer kritischen Würdigung unbefriedigt.

Echo sieht schick schwarz aus und kann sprechen. So viel zu den positiven Aspekt dieses Tests.

Problem: Das ganze Konzept ist eine Datenschutzhölle. Echo ist die Wanze von IM Alexa. Und Amazon die kommerzieller Staatssicherheit, die uns bis ins Letzte ausspioniert. Das Gerät soll als intelligenter Assistent wie ein Interface funktionieren und als Zugang zum Internet dienen. Deswegen lauscht ein Mikrofon permanent mit. Alles, was wir sagen. Nur dann kann das sprachgesteuerte Gerät funktionieren. Die Amazon-Wanze wird damit sehr weitreichende Rückschlüsse auf fast alles ziehen können, was wir tun.

Mathematische Verhaltensauswertung

Viele Menschen wurden in den vergangenen Jahren Stück für Stück auf Schmerzfreiheit dressiert was den Umgang mit ihren Daten betrifft. Deswegen stößt wohl auch die Bespitzelungswanze zum Schnäppchenpreis von knapp 200 Euro nicht auf. In den USA ist das so. Dort ist Alexa oder Echo ständig ausverkauft.

Mit Echo werden unser Verhalten und unsere Sprache mathematisch ausgewertet, abgebildet und dann mit Datenuniversen auf Datenservern korreliert, nur damit Nutzer per Sprachsteuerung schnöde Dinge bei Amazon bestellen können, oder fragen, wie das Wetter wird, oder damit sie das Licht anknipsen können, weil konnektive Geräte Echo als Schnittstelle akzeptieren. Dabei lernen die künstlichen neuronalen Netze in der Cloud des Konzerns wer wir sind und wie wir ticken. Mit Alexa dehnt sich die Totalüberwachung aus dem virtuellen Raum in das Heiligste unsere 3-D-Realität aus: die Wohnung.

Amazon weiß nun, wann wir zuhause sind, ob wir allein sind, ob wir über Merkel lästern, wen wir wählen, ob wir linksradikale Parolen singen, oder Schlager unter der Dusche, oder ob wir merkwürdige Vorlieben im Bett haben. Nicht im übertragenen Sinne, sondern buchstäblich. Nach kurzer Zeit wird keinem Echo-Benutzer mehr bewusst sein, dass die Maschine von nun an und bis in alle Ewigkeit mitschneidet.

Profile von allen

Allein der Zugriff auf unsere Sprachmuster ermöglicht Alexa und einer monströsen technologischen Infrastruktur, an die sie in tausenden Kilometern Entfernung gekoppelt ist, eine so finster genaue psychologische Profilierung. Ganze Geschäftszweige haben sich darauf spezialisiert, die wie Amazon künstliche Intelligenz einsetzten. In den USA existiert mittlerweile über jeden (!) Bürger ein Datendossier mit Psychoprofil von dem die Stasi nur hätte träumen können. Cambridge Analytica ist eine Firma, die so etwas verkauft. Und Echo trainiert mit unseren Sprach- und Verhaltensmustern die Software zur Auswertung unserer Persönlichkeiten.

Die Nutzer von Echo werden nicht nur für ein Gadget zahlen und ihre Daten hinblättern, die mittlerweile sogar als Anlageklasse firmieren – mehr noch: Sie trainieren kostenlos die selbstlernende Software, die zunehmend zum Kern aller Geschäftsfelder der IT-Oligarchen wird. Und dabei geht es nicht nur um die Spracherkennung. Tausende von Nutzern von Echo füttern das System mit menschlicher Privatheit. Mit Modelle davon lassen sich in Simulationen Kaufentscheidungen durchspielen, Verhaltensmuster berechnen, Werbung perfektionieren. Das erleichtert im besten Fall das Leben, weil uns eben genau die Bücher empfohlen werden, die wir tatsächlich mögen. Doch wenn es schlecht läuft, dürfen wir nicht mehr nach Amerika einreisen, weil eine Profilierung Gefahrenmuster aufzeigt, Berufsunfähigkeitsversicherung bleiben verwehrt, weil die Software eine Depression antizipiert, uns dies aber nie mitteilt.

Echo ist der schicke Wegbereiter dafür, um unsere Privatheit kommerziell zu erledigen.

Zuletzt noch was zur Geschichte: Sie führt zurück ins Jahr 2003. Damals schrieb die Forschungsbehörde des Pentagon, die DARPA, das Projekt „Calo“ aus. Das steht für „Cognitive Assistant that Learns and Organizes“. Die Militärs arbeiteten an einer – damals noch viel leistungsschwächeren – künstlichen Intelligenz, die permanent von seinem Nutzer Daten erheben und lernen sollte. Calo gehörte zum übergeordneten Programm „Personalized Assistant that Learns“ (PAL) der Militärs, an dem laut New York Times rund hunderte Militärs, Wissenschaftler fünf Jahre arbeiteten. Nach Vollendung des Programms im Jahr 2008 kaufte Apple eines der Systeme und nannte es „Siri“ – den mobilen Vorläufer von Alexa.

5 Nov 2016

LINKS

AUTOREN

TAGS

ARTIKEL ZUM THEMA

Alexa, Siri, Cortana und Jenn – Computerstimmen werden grundsätzlich weiblich programmiert. Das sagt einiges über unseren Umgang mit Frauen aus.

Alexa ist eine künstliche Intelligenz, Hausfrau und stolzer Single. Sie wohnt in einer kleinen Box. Wir haben das Zusammenleben mit ihr getestet.

Nach dem Rechtsgutachten von Stefan Hessel hat die Bundesnetzagentur eine sprechende Puppe verboten. Das Spielzeug sei nicht abhörsicher, sagt dieser.

Künstliche Intelligenzen haben eine eigene Sprache entwickelt, in der sie sich verständigen können. Die taz hat ein Gespräch protokolliert.

Spion im Wohnzimmer: Im US-amerikanischen Arkansas soll der Lautsprecher „Amazon Echo“ bei der Aufklärung eines Mordfalls helfen.

Mit AmazonFresh ist der Online-Händler bereits ins Lebensmittelgeschäft eingestiegen. In den USA hat er nun einen ersten Supermarkt eröffnet.

Unternehmen mit Marktmacht verwenden Nutzerdaten, wie es ihnen beliebt. Dagegen hilft nur Transparenz oder der Wechsel zu anderen Anbietern.

Eine technisch simple Online-Attacke hat am Wochenende viele bekannte Webdienste aus dem Netz geworfen. Vernetzte Hauselektronik wurde gehackt.

Der US-Konzern plant, Lebensmittel in kleinen Läden und an Drive-In-Stationen zu verkaufen. Das Angebot gibt es nur in den USA und nur für Abonnenten.

Um die Weltwirtschaft steht es nicht gut – das ist das Fazit des Gipfels. Robotisierung der Arbeit ist das Gebot der Stunde. Das ist problematisch.