taz.de -- Neue Regeln für KI: „Big Brother“ nicht gebannt

Die EU bekommt das weltweit erste Gesetz, das den Einsatz Künstlicher Intelligenz regeln soll. Sicherheitsbehörden bekommen einige Freiheiten.

Bild: KI kann menschliche Muster erkennen, zum Beispiel den individuellen Abstand zwischen Augen, Nase und Mund – oder die Gangart

Die einen jubeln, die anderen warnen: Der Weg für das weltweit [1][erste Gesetz zur Regulierung sogenannter Künstlicher Intelligenz (KI)] ist frei. Das Europaparlament stimmte dem „AI Act“ am Mittwoch in Straßburg zu. Anfang Februar hatten auch die Vertreter der 27 EU-Staaten grünes Licht gegeben. Damit kann das Regelwerk noch vor der Europawahl im Juni in Kraft treten.

Allerdings gab es gegenüber dem im Dezember erzielten Kompromiss noch einige umstrittene Änderungen. So wurden die strikten [2][Regeln zum Verbot der biometrischen Überwachung aufgeweicht]. Deutschland und Frankreich haben die EU-Kommission zudem aufgefordert, in einigen praktischen Fragen noch nachzubessern. So wollen sie Start-ups wie Aleph Alpha in Heidelberg und Mistral AI in Paris entgegenkommen.

Der [3][nun verabschiedete Text folgt einem risikobasierten Ansatz]. Er reguliert nicht alle KI-Systeme, sondern nur solche, die mit hohen Risiken verbunden sind, etwa in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen. Militärische Anwendungen, die in den Kriegen in der Ukraine und im Gazastreifen eine wichtige Rolle spielen, werden weder erfasst noch beschränkt.

Sogar die viel diskutierte Frage, ob KI-Systeme qualifizierte Jobs übernehmen oder gar wegrationalisieren können, wurde ausgeklammert. Und neue generische Systeme wie ChatGPT wurden erst in letzter Minute aufgenommen. Sie sollen ihre Trainingsmethoden offenlegen. Das Hauptaugenmerk liegt aber nach wie vor beim Schutz der Grundrechte. So wird die in China verbreitete Bewertung von sozialem Verhalten in Europa verboten. Auch eine Emotionserkennung am Arbeitsplatz oder in Schulen soll es nicht geben. Kein „Big Brother“ – da waren sich die EU-Politiker einig.

Polizei darf Gesichtserkennung nutzen

Die Gesichtserkennung im öffentlichen Raum – etwa durch Videoüberwachung auf Straßen und Plätzen – soll grundsätzlich ebenfalls untersagt werden. Allerdings gibt es Ausnahmen. Polizei und andere Sicherheitsbehörden sollen solche KI-Systeme nutzen dürfen, um Straftaten wie Menschenhandel oder Terrorismus zu verfolgen.

Damit nehme die EU Flüchtlinge und Migranten ins Visier, warnt das digitale Netzwerk EDRI. Alarm schlägt auch der „digitale Freiheitskämpfer“ und EU-Abgeordnete Patrick Breyer (Piraten): „Statt uns vor einem High-Tech-Überwachungsstaat zu schützen, regelt der AI Act penibel, wie man ihn einführt.“ Breyer hat daher mit Nein gestimmt. Auch die Linke lehnte das Gesetz mehrheitlich ab.

„Quantensprung“ bei der digitalen Zukunft Europas

Verteidigt wird es dagegen von den Grünen. Man habe „deutliche Verbesserungen“ bei der Gesichtserkennung erreicht, sagte der Europaabgeordnete Sergey Lagodinsky. Auch verpflichtende Folgenabschätzungen auf die Grundrechte für bestimmte KI-Anwender sowie die Einführung von Umweltstandards für KI seien „grüne Erfolge“. Insgesamt sei das Gesetz ein „Quantensprung“.

Ähnlich sehen das die Sozialdemokraten. „Der weltweit erste umfassende Rechtsrahmen spielt eine entscheidende Rolle in der Gestaltung der digitalen Zukunft Europas“, sagte René Repasi, der neue Chef der SPD-Gruppe im Europaparlament. Von „Licht und Schatten“ spricht dagegen Axel Voss (CDU). Positiv sei, „dass wir ein flexibles und kooperatives digitales Gesetz geschaffen haben“.

Andererseits sei es schwierig, eine sich ständig weiterentwickelnde Technologie zu regulieren. Das sieht die Informatik-Branche ähnlich: „Beim AI Act sind noch viele Fragen offen“, erklärte der Branchenverband Bitkom. Die Politik dürfe nicht noch mehr regulieren, sondern müsse nun endlich „die Chancen der KI“ herausstellen.

14 Mar 2024

LINKS

[1] /FAQ-zum-neuen-AI-Act-der-EU/!5991054

[2] /Vor-finaler-Abstimmung/!5994727

[3] /Gesetz-zur-kuenstlichen-Intelligenz/!5994905

AUTOREN

Eric Bonse

ARTIKEL ZUM THEMA

Umgang mit künstlicher Intelligenz: Akzeptanz braucht Transparenz

KI bietet Chancen. Um einen guten Umgang mit ihr zu finden, muss es noch viel mehr Transparenz über ihren Einsatz und ihre Risiken geben.

Gesetz zur künstlichen Intelligenz: Neue Technologie, neue Überwachung

Der AI Act ist beschlossen. Das überwachungs- und wirtschaftsfreundliche Ergebnis ist kein Zufall. Doch es ist gut, dass das Regelwerk jetzt durchkam.

AI-Verordnung der EU: Streit um KI-Training mit Artikeln

Der neue AI-Act der EU lässt Fragen nach dem Verhältnis von Medien und KI offen. Zum Beispiel: Darf man KIs mit journalistischen Texten füttern?

FAQ zum neuen AI Act der EU: KI bekommt Regeln