taz.de -- Vor Inkrafttreten der EU-Regeln: Werkzeugkoffer gegen KI-Auswüchse

Verbände bereiten sich darauf vor, das neue EU-Recht zu Künstlicher Intellligenz durchzusetzen, welches in Kürze in Kraft tritt. Doch es gibt Lücken.

Bild: Auf der Suche nach Durchblick auf der Digitalkonferenz re:publica

Berlintaz | Beschwerden, Klagen, eine systematische Beobachtung neuer Geschäftsmodelle – die Zivilgesellschaft wappnet sich für die Durchsetzung der neuen europäischen Regeln zu künstlicher Intelligenz (KI). „Mit der Kombination unserer Möglichkeiten haben wir ein ziemlich scharfes Schwert in der Hand“, sagte Jutta Gurkmann, Geschäftsbereichsleiterin für Verbraucherpolitik beim Verbraucherzentrale Bundesverband (vzbv), bei einer Podiumsdiskussion auf der Digitalkonferenz re:publica am Dienstag.

Der AI Act, der [1][erst in der vergangenen Woche endgültig verabschiedet] wurde, ist die erste umfassende und verbindliche [2][Regulierung von KI]. Als „Meilenstein in Bezug auf den Schutz von Diskriminierung durch künstliche Intelligenz“, bezeichnete Christiane Rohleder, Staatssekretärin im Verbraucherschutzministerium, das Regelwerk bei der Diskussion.

„Es gibt einige Schutzlücken“, widersprach der Recht- und Ethikprofessor Philipp Hacker. Zum Beispiel bei der sogenannten General Purpose AI, also KI-Systemen, die besonders vielfältig einsetzbar sind. Dazu gehören die GPT-Modelle, die auch die Basis für den KI-Chatbot ChatGPT bilden.

Für diese Modelle gebe es nämlich eine folgenschwere Ausnahme: Die Vorschriften, die Herstellern von Hochrisikosystemen Auflagen für ihre Trainingsdaten machten, etwa was Diversität und Repräsentativität angeht, gälten für sie nicht. Auf Basis der Trainingsdaten lernt eine KI. Hatte also etwa eine KI zum Generieren von Bildern nur männliche Ärzte in ihren Trainingsdaten, wird sie höchstwahrscheinlich keine Bilder von Ärztinnen erzeugen. „Wir bräuchten hier eine Art Content-Moderation bei den Trainingsdaten selbst“, fordert Hacker.

Österreichische Datenschutz-NGO gegen OpenAI

Diese Forderung könnte noch bei einem der ersten Verfahren zum Tragen kommen, die derzeit in Sachen KI laufen. Die österreichische Datenschutz-NGO Noyb hat [3][Beschwerde gegen OpenAI, das Unternehmen hinter ChatGPT, eingereicht].

Der Vorwurf: ChatGPT generiere – mindestens in dem beanstandeten Fall – reproduzierbar falsche persönliche Daten über eine reale Person und sei nicht in der Lage, das zu korrigieren. Ein klassischer Fall strategischer Prozessführung, wie Mitdiskutantin Svea Windwehr von der Gesellschaft für Freiheitsrechte (GFF) erklärt: „Es geht darum, Grund- und Menschenrechte zu stärken und diese anhand von gezielten Fällen durchzusetzen.“

Besonders viele Möglichkeiten haben hier Verbände, die auch zu Verbandsklagen berechtigt sind, wie der vzbv, erklärt Gurkmann: Sie könnten mittlerweile auch Schadensersatz für Betroffene einklagen. Darüber hinaus gebe es weitere Werkzeuge wie die systematische Marktüberwachung etwa neuer, potenziell problematischer Geschäftsmodelle.

GFF-Aktivistin Windwehr kritisiert jedoch die prekäre Finanzierung vieler zivilgesellschaftlicher Akteure: „Es ist toll, dass die Zivilgesellschaft als Partner wahrgenommen wird, aber es besteht ein großes Finanzierungsloch.“ Sie fordert nachhaltige Finanzierungswege, etwa einen Fonds, der sich aus staatlichen und privaten Mitteln speist.

Aufsichtsbehörden auf EU- und nationaler Ebene vorgesehen

Dabei soll es nicht nur die Zivilgesellschaft übernehmen, den AI Act durchzusetzen. Auch Aufsichtsbehörden sowohl auf EU- als auch auf nationaler Ebene sind vorgesehen.

In Deutschland ist noch offen, wie die Aufsicht im Detail umgesetzt wird. Rechtsexperte Hacker fordert dabei ein Denken jenseits der bekannten Strukturen: „Man muss neue Herangehensweisen finden, sonst wird das nichts.“ Schließlich sei es ein Unterschied, ob eine Bank KI einsetzen will, eine medizinische Einrichtung oder eine Schule. Statt einer Arbeit entlang der etablierten Behördengrenzen schlägt Hacker beispielsweise projektbezogene Zusammenarbeit vor.

28 May 2024

LINKS

[1] /Kuenstliche-Intelligenz/!6009041

[2] /FAQ-zum-neuen-AI-Act-der-EU/!5991054

[3] /Beschwerde-gegen-OpenAI-in-der-EU/!6007268

AUTOREN

Svenja Bergt

ARTIKEL ZUM THEMA

Film mit KI-generiertem Putin: Best-of der bösen Taten

Der polnische Regisseur Patryk Vega hat einen Film mit einem teilweise computeranimierten Putin in die Kinos gebracht. Leider muss man vor ihm warnen.

Chiphersteller in der Krise: Intel streicht jede sechste Stelle

Chiphersteller Intel reagiert mit Stellenstreichungen auf schlechte Zahlen. Der Bau der Chipfabrik in Magdeburg soll dadurch nicht gefährdet sein.

Chip-Konzern profitiert von KI-Hype: Nvidia nun wertvollstes Unternehmen

Mit einem Börsenwert von rund 3,3 Billionen US-Dollar hat der US-Chiphersteller Microsoft und Apple überholt. Die Nachfrage von Software mit KI hat den Umsatz vervielfacht.

EU-Investitionen in KI: Intelligenzrückstand auf China

Der Europäische Rechnungshof kritisiert die Investitionsbereitschaft der EU in KI. Gefahren für den Jobmarkt sind auf EU-Ebene aber kein Thema.

Künstliche Intelligenz: EU-Regeln für KI kommen

Europa beschließt Regeln für den Einsatz von künstlicher Intelligenz. Die Vorgaben zu Chatbots wie ChatGPT gelten Kritikern als zu lasch.

KI-Experte über AI-Gesetz der EU: „Deutliche Verbesserungen“

Die EU hat Regeln für künstliche Intelligenz beschlossen. Wann Verbraucher:innen etwas davon mitkriegen werden, erklärt Experte Miika Blinn.

Deutschland muss KI-Regeln umsetzen: Streitpunkt Überwachung