taz.de -- Amazon beendet Kooperation: Polizei vorläufig ohne Amazon

Amazon erlaubt der US-Polizei nicht mehr, eine Software zur Gesichtserkennung zu verwenden. Lukrativ aber war der Geschäftszweig eh nicht.

„Rekognition“ heißt der Amazon-Dienst zur Identifizierung von Personen in Echtzeit. Die umstrittene Technologie wurde bislang lokalen Police Departments in den USA preisgünstig angeboten. Diese Verbindung wurde von [1][Bürgerrechtsorganisationen] und [2][Spezialist*innen für künstliche Intelligenz] schon lange kritisiert – und wird nun ausgesetzt.

[3][Das Unternehmen erklärt], man warte auf staatliche Regulierung, um die diskriminierende Anwendung der Software zu verhindern.

Auch die anderen großen Technologiekonzerne von Microsoft bis Google, die in den vergangenen Jahren praktisch sämtliche Start-ups [4][im Bereich der Gesichtserkennung] aufgekauft haben, beklagen den Mangel an verbindlichen Regeln. Mehrere Kommunen in den USA haben diese Regulierungslücke bereits gefüllt – [5][mit einem generellen Verbot der Anwendung der Technik].

Neben dem generell schwierigen Verhältnis einer Kameraüberwachung mit Gesichtserkennung im öffentlichen Raum zum Datenschutz gibt es noch weitere Probleme. Mittels Testreihen wurde nachgewiesen, dass die Software, ohnehin mit dem Problem fehlerhafter Identifikationen behaftet, eine extrem hohe Zahl an solchen false positives produziert, [6][sobald die Testpersonen keine weißen Männer] sind.

Kein lukrativer Geschäftszweig

Der so entstehende höhere Ermittlungsdruck gegen ethnische Minoritäten gehört zu den wichtigsten Kritikpunkten, die unter anderem die Black-Lives-Matter-Bewegung äußerte.

Amazons nun angekündigtes Moratorium wirkt in der angespannten politischen Situation vielleicht etwas opportunistisch, kommt aber in derselben Woche, in der [7][IBM ankündigte, die Entwicklung der Gesichtserkennung ganz einzustellen]. Zur Begründung wurde ebenfalls mangelnde Regulierung und das hohe Diskriminierungspotenzial angeführt.

Die ganze Geschichte ist das aber nicht. IBM und Amazon nennen zwar keine ökonomischen Details der Entscheidungsfindung. Nach übereinstimmenden Medienberichten ist die Gesichtserkennung für beide aber kein besonders lukrativer Geschäftszweig.

Und Amazon hält sich ja alle Türen offen. Zur [8][Kooperation mit der Einwanderungsbehörde ICE] verlautbarte Amazon nichts. Dort ist ein Racial Bias mutmaßlich kein Problem, sondern wohl eher Grundvoraussetzung für die Funktionalität der Technologie.

11 Jun 2020

LINKS

AUTOREN

TAGS

ARTIKEL ZUM THEMA

In KI-Systemen schlummern immer noch rassistische Vorurteile. Der Grund: Auch künstliche Intelligenz wird von Menschen gemacht.

In Detroit findet die Polizei per Gesichtserkennung einen mutmaßlichen Dieb. Der aber sieht nicht annähernd wie der Täter aus.

An mehreren Standorten haben Beschäftigte des Versandhändlers die Arbeit niedergelegt. Sie fordern einen Tarifvertrag und besseren Schutz vor dem Coronavirus.

Trotz DSGVO sind Internetuser unverändert dem Datenklau ausgesetzt. Google und Facebook profitieren sogar von den einheitlichen EU-Regeln.

Menschen und Algorithmen beeinflussen sich gegenseitig. Ausnahmesituationen wie die Coronapandemie bringen die Systeme an ihre Grenzen.

Alexa, überwachst du uns? Amazon will in Berlin ein Zentrum für Abhörtechnik aufbauen. Der Software-Entwickler Yonatan Miller protestiert dagegen.

Ein US-Start-up hat neue Software zur Gesichtserkennung entwickelt. Grundlage: 3 Milliarden Fotos. Behörden und Unternehmen freuen sich.