taz.de -- Ausgezogen von der KI: Anwendungen für sexuelle Deepfakes sollen verboten werden
Nach Deepfakes von Elon Musks Chatbot Grok planen EU-Staaten ein Verbot von KI-Anwendungen, die ohne Einwilligung sexualisierte Bilder erzeugen.
Bild: „Zieh ihr einen Bikini an“: Mit dem „Spicy Mode“ von Grok wurde die Erstellung sexualisierter Deepfakes ganz einfach und schnell
afp | Die 27 EU-Länder haben sich für ein Verbot von KI-Anwendungen ausgesprochen, mit deren Hilfe sexualisierte Bilder von echten Menschen ohne deren Einwilligung hergestellt werden können. Bei einem Treffen am Freitag einigten sich die Botschafter auf eine gemeinsame Position für eine entsprechende Änderung des Gesetzes zu Künstlicher Intelligenz (KI). Damit reagiert Brüssel auf die Erstellung und Verbreitung von Millionen sexualisierter KI-Bilder von Frauen und Kindern mithilfe des Chatbots Grok von US-Milliardär Elon Musk Anfang des Jahres.
Das Verbot soll Teil einer Reihe von Veränderungen am bestehenden KI-Gesetz werden, das die EU 2024 verabschiedet hatte. Auch im EU-Parlament wird derzeit über eine [1][Verschärfung des Gesetzes] beraten. Es wird davon ausgegangen, dass die zuständigen Parlamentsausschüsse am Mittwoch über ein Verbot der KI-Anwendungen abstimmen.
Bei Grok handelt es sich um eine beim Onlinedienst X integrierte Funktion. Stein des Anstoßes war Anfang Januar der [2][neue „Spicy Mode“ (scharfer Modus) bei Grok], mit dem Nutzer in Sekundenschnelle anzügliche Bilder von Frauen oder Kindern erstellen konnten – etwa mit Aufforderungen wie „entferne ihre Kleider“ oder „zieh ihr einen Bikini an“. Auch die Erstellung und Verbreitung kinderpornografischer Inhalte war damit möglich.
Mehrere Länder leiteten [3][Untersuchungen gegen Grok] ein oder sperrten das Tool. Auch die irische Aufsichtsbehörde leitete im Auftrag der EU eine Untersuchung ein. X erklärte, es werde Maßnahmen ergreifen, um die Erstellung solcher Bilder zu stoppen.
Die Botschafter sprachen sich am Freitag auch dafür aus, die Vorschriften für risikoreiche KI erst später in Kraft treten zu lassen: Demnach sollen diese im Dezember 2027 für eigenständige risikoreiche KI-Systeme und im August 2028 für in Produkte integrierte risikoreiche KI-Systeme gelten. Der aktuelle Zeitplan sah noch ein Inkrafttreten ab August 2026 beziehungsweise August 2027 vor.
13 Mar 2026
LINKS
[1] /KI-Deepfakes-Justizministerin-Hubig-will-haertere-Strafen/!6145592
[2] /Sexualisierte-Deepfakes-auf-X/!6145025
[3] /EU-gegen-sexualisierte-KI-Bilder/!6148718
Schwerpunkt Künstliche Intelligenz
Elon Musk
Twitter / X
Deepfake
Gewalt gegen Frauen
Sexualisierte Gewalt
ARTIKEL ZUM THEMA
Influencerin über Deepfake-Pornografie: Sexualisierte Gewalt im virtuellen Raum
Hunderttausende sind von sexualisierten Deepfakes betroffen. Auch Influencerin Pia Scholz. Das deutsche Recht ist auf diese Form der Gewalt nicht vorbereitet.
EU-Verfahren gegen X: Ein Signal der Stärke
Die EU-Kommission will gegen sexualisierende KI-Bilder auf X vorgehen – und zeigt damit, dass sie sich von den USA nicht einschüchtern lässt.
Sexualisierte Deepfakes auf X: „Hey Grok, put her in a bikini“
Eine Bildfunktion des KI-Chatbots Grok erzeugt massenhaft sexualisierte Deepfakes. Auf rechtliche Ermittlungen reagiert Elon Musk wie gewohnt.