taz.de -- Künstliche Intelligenz: Regulierung mit mehr Überwachung

Der frische Kompromiss zu künstlicher Intelligenz wird gerade schon wieder aufgeweicht. Bürgerrechtsorganisationen sind verärgert.

Bild: Immer mehr Aufzeichnungen von Überwachungskameras können mit KI ausgewertet werden. Das schafft viele neue Probleme

Berlintaz | Einen Monat [1][nachdem sich die EU-Gremien auf eine Regulierung zu künstlicher Intelligenz (KI), den AI Act, geeinigt haben], gibt es neuen Streit über die Details. Konkret geht es um die Frage der biometrischen Massenüberwachung. So hat das Portal netzpolitik.org nun die bereits im Dezember von der spanischen Ratspräsidentschaft formulierte Version des umstrittenen Artikels [2][veröffentlicht], die die mündlich geschlossene Einigung ausformuliert. Deutlich aufgeweicht darin: die Grenzen für die biometrische Massenüberwachung von Menschen.

EU-Kommission, Parlament und Rat hatten sich im Dezember, nach einem rund 37-stündigen Verhandlungsmarathon auf Regeln für KI geeinigt. Der Kompromiss gilt als Meilenstein, ist es doch die erste verbindliche Regelung in diesem Umfang. Die Inhalte werden als Blaupause gehandelt, an der sich auch andere Länder, etwa die USA, orientieren könnten.

Bereits [3][im Vorfeld der letzten Verhandlungsrunde war die biometrische Massenüberwachung ein Streitpunkt zwischen den Verhandler:innen]. Das eher bürgerrechtsfreundliche EU-Parlament stand dabei den Sicherheits- und Überwachungsinteressen der EU-Mitgliedstaaten gegenüber. Am Ende einigte man sich auf einen Kompromiss – der jedoch nun Makulatur zu sein scheint. Aufgeweicht sind demnach unter anderem die Regeln für eine nachträgliche biometrische Fernüberwachung. Das betrifft beispielsweise Situationen, in denen Behörden nachträglich die von Überwachungskameras aufgezeichneten Daten mit biometrischer Gesichtserkennungssoftware durchsuchen.

Das EU-Parlament hätte sie am liebsten ganz verboten. In den Verhandlungen mit Kommission und Rat einigte man sich auf einen Kompromiss. Doch in der Verschriftlichung scheinen die Einschränkungen – etwa die Beschränkung dieser Überwachungsform auf bestimmte schwere Straftatbestände, die in einer Liste konkretisiert waren – nun vom Tisch zu sein.

Richterliche Anordnung wäre nicht mehr nötig

Gegenüber netzpolitik.org sagte Ella Jakubowskas von der europäischen Bürgerrechtsorganisation EDRi, dass damit beispielsweise eine Überwachung von Frauen, die in EU-Staaten mit restriktiver Gesetzgebung eine Abtreibung vornehmen lassen, gerechtfertigt werden könnte.

In Deutschland würde damit die umstrittene Überwachung im Kontext mit dem G20-Gipfel in Hamburg im Jahr 2017 legal. Damals hatten die Ermittlungsbehörden noch lange nach den Protesten das Bildmaterial mit einer biometrischen Gesichtserkennungssoftware durchsucht. Auch ist nicht mehr vorgeschrieben, dass die Überwachung nur erlaubt ist, wenn ein:e Richter:in sie angeordnet hat. Nun soll es reichen, wenn eine Justiz- oder Verwaltungsbehörde die Überwachung absegnet.

Noch ist die schriftliche Fassung des AI Act nicht komplett, so fehlen etwa die Erwägungsgründe. Dennoch ist davon auszugehen, dass die nun festgehaltenen Befugnisse nicht wieder strenger gefasst werden. In den kommenden Wochen soll die finale Abstimmung über das Regelwerk anstehen.

14 Jan 2024

LINKS

[1] /Nach-Marathonsitzung/!5975892

[2] https://netzpolitik.org/2024/ki-verordnung-biometrische-massenueberwachung-ohne-wenn-und-aber/#biometrische-ueberwachung

[3] /Debatte-im-EU-Parlament/!5940600

AUTOREN

Svenja Bergt

TAGS

Schwerpunkt Künstliche Intelligenz

Schwerpunkt Überwachung

Biometrie

GNS

ARTIKEL ZUM THEMA

Vor Gipfel in Paris: Künstliche Intelligenz als Bedrohung

Vor einem großen KI-Gipfel in Paris warnen Ex­per­t:in­nen vor möglichen Folgen. Der Gastgeber fordert mehr „wirtschaftlichen Patriotismus“.

KI für EU-Grenzschutz: Grenzenlose Überwachung

Die NGO AlgorithmWatch hat 24 Projekte untersucht, die zum Einsatz von KI im EU-Grenzschutz genutzt werden sollen. Die Ergebnisse seien „verstörend“.

Überwachung per Drohne: Die Polizei guckt aus dem Himmel zu

Die Hamburger Polizei überwacht Fußballfans per Drohne. Eine gesetzliche Regelung gibt es dafür nicht. Der Senat findet das unproblematisch.

Model über KI in der Sexindustrie: „Ich wollte mich neu erschaffen“

Sika Moon ist ein KI-Model. Ihre Schöpferin – vorher selbst Model – verdient mit pornografischem Bild-Content viel Geld. Was ist das für ein Job?

Vor finaler Abstimmung: Kann die Welt KI bändigen?

Diese Woche werden zwei entscheidende Weichen in Sachen KI gestellt. Doch NGOs und Wis­sen­schaft­le­r:in­nen sehen problematische Parallelen.

EU-Gesetz zur Künstlichen Intelligenz: Zittern bei KI-Regulierung

Die Bundesregierung zögert beim Ja zum EU-Gesetz zur Künstlichen Intelligenz. Das könnte das weltweite Vorreiterprojekt zum Scheitern bringen.

Nach Marathonsitzung: EU einigt sich auf Regeln für KI

Verbote, Pflichten und Geldbußen sind vorgesehen. Doch Verbraucher- und Bürgerrechtsorganisationen sind besorgt.

Debatte im EU-Parlament: Streit um Überwachung mit KI

Kurz vor der Abstimmung über die Regeln für Künstliche Intelligenz gibt es Streit im EU-Parlament. Es geht um die Frage der Massenüberwachung.

EU-Regulierung für ChatGPT und Co.: Keine Massenüberwachung

EU-Abgeordnete stimmen für Auflagen für Künstliche Intelligenz. Bürgerrechtler:innen äußern sich positiv. Das war beim Vorschlag des Rats noch anders.