taz.de -- Künstliche Intelligenz: EU-Regeln für KI kommen

Europa beschließt Regeln für den Einsatz von künstlicher Intelligenz. Die Vorgaben zu Chatbots wie ChatGPT gelten Kritikern als zu lasch.

Bild: Überwachung mit künstlicherer Intelligenz wird reguliert

Berlintaz | Die EU-Staaten haben am Dienstag ihre Regeln zu künstlicher Intelligenz (KI) beschlossen. Der Rat der 27 Mitgliedstaaten stimmte als letzte Instanz dem von EU-Kommission, Parlament und Rat [1][verhandelten Gesetz] zu. Damit werden in den kommenden Monaten und Jahren Regeln zum Einsatz, zur Entwicklung und zur Kennzeichnung von KI wirksam. Der AI Act ist das erste derart umfassende und verbindliche KI-Regelwerk weltweit. Die EU hofft daher auf eine Vorbildfunktion für andere Länder.

„Mit dieser wegweisenden Vorschrift – der weltweit ersten ihrer Art – wird eine globale technologische Herausforderung, durch die auch Chancen für unsere Gesellschaften und Volkswirtschaften geschaffen werden, angegangen“, sagte Petra De Sutter, belgische Vizepremierministerin und Ministerin der Telekommunikation. Belgien hat derzeit die europäische Ratspräsidentschaft inne.

Mit der Verabschiedung geht ein vergleichsweise schnelles Gesetzgebungsverfahren zu Ende: Vor drei Jahren hatte die EU-Kommission einen ersten Entwurf für den AI Act vorgelegt. Kern der nun beschlossenen Regeln ist der sogenannte risikobasierte Ansatz. Demzufolge werden KI-Systeme umso strenger reguliert, je höher das ihnen beigemessene Risiko ist.

An der Spitze der Risikopyramide stehen verbotene Systeme. Dazu gehört etwa das aus China bekannte [2][Social Scoring], bei dem der Staat Menschen auf der Grundlage unter anderem ihres Verhaltens einstuft. Für erlaubte KI-Systeme aus dem Hochrisikobereich gelten diverse Regeln. Beim Einsatz zum Beispiel zur Strafverfolgung, im Bildungsbereich oder der Grenzkontrolle müssen sie bestimmte Pflichten zur Transparenz und Kontrolle einhalten.

Bei Chatbots nur „Transparenzpflichten“

Für Systeme mit begrenztem Risiko gelten lediglich einige Transparenzpflichten. In diese Kategorie fallen laut EU-Kommission auch Chatbots wie [3][ChatGPT] – was nicht unumstritten ist. Für Systeme, denen nur ein minimales Risiko beigemessen wird, gelten keine speziellen Regeln, etwa für Spamfilter.

Dabei war es zwischenzeitlich nicht ausgemacht, dass der AI Act tatsächlich kommen würde: In der EU stritten sich Parlament und Mitgliedstaaten über Überwachungsbefugnisse und das FDP-geführte deutsche Digitalministerium [4][bremste mit dem Versuch, die Regeln wirtschaftsfreundlicher zu drehen]. Verkehrs- und Digitalminister Volker Wissing (FPD) setzte zur finalen Verabschiedung gleich den Marker für die weitere Debatte und betonte am Dienstag, es sei wichtig „die Innovationsfreundlichkeit der Regulierung im Blick“ zu haben.

„KI ist schon in vielen Bereichen unseres täglichen Lebens im Einsatz, daher ist es höchste Zeit, dafür einen Rechtsrahmen zu haben“, sagt Matthias Spielkamp, Geschäftsführer der Menschenrechts-NGO Algorithmwatch. Problematisch sei jedoch die Zahl der Schlupflöcher und Ausnahmen, etwa was [5][Gesichtserkennung im öffentlichen Raum] angehe.

21 May 2024

LINKS

[1] /FAQ-zum-neuen-AI-Act-der-EU/!5991054

[2] /Chinas-Social-Scoring-beim-35C3/!5562037

[3] /Zwischenbilanz-einer-neuen-Technologie/!6006224

[4] /Buendnis-fordert-KI-Regeln/!5988382

[5] /Deutschland-muss-KI-Regeln-umsetzen/!6007821

AUTOREN

Svenja Bergt

TAGS

Schwerpunkt Künstliche Intelligenz

Europäische Union

EU-Richtlinien

Verbraucherschutz

Internet

Digitalisierung

ARTIKEL ZUM THEMA

Künstliche Intelligenz: Macht in falschen Händen

Die Aufholjagd bei Künstlicher Intelligenz in Europa droht, die Fehler des Silicon Valleys zu wiederholen. Es braucht eine Alternative zu privaten Akteuren.

Metas KI-Pläne in der EU: Sand im Big-Tech-Getriebe

Der Protest von Verbraucher- und Da­ten­schüt­ze­r:in­nen gegen Meta trägt Früchte. Der Konzern muss seine KI-Pläne für Europa vorerst einfrieren.

„Meta AI“ Assistent: Training mit deinen Daten

Der Facebook- und Instagram-Konzern Meta will Daten von Nut­ze­r:in­nen für das Training von KI nutzen. Ein Datenschutzverein legt Beschwerde ein.

Vor Inkrafttreten der EU-Regeln: Werkzeugkoffer gegen KI-Auswüchse

Verbände bereiten sich darauf vor, das neue EU-Recht zu Künstlicher Intellligenz durchzusetzen, welches in Kürze in Kraft tritt. Doch es gibt Lücken.

Künstliche Intelligenz und Wahl-O-Mat: Linksgrün versiffte Intelligenz

Ein Boulevardblatt hat herausgefunden: Die KI, die auf neutral tut, tickt eigentlich linksgrün! Warum das kein Skandal, sondern Grund zur Freude ist.

Kritik an mangelnder Verbindlichkeit: Europarat nimmt KI-Konvention an

Der Europarat will die Menschenrechte vor einem Missbrauch durch KI schützen. Die Organisation hofft auf eine weltweite Wirkung – doch es gibt Kritik.

ChatGPT-Identitätsklau: Wenn Software zu träumen beginnt

ChatGPT habe ihm seine Identität geklaut, sagt Sebastian Schnitzenbaumer. Er will die KI-Firma verklagen. Ein Fall, der ins Grundsätzliche weist.