taz.de -- EU-Verfahren gegen X: Ein Signal der Stärke

Die EU-Kommission will gegen sexualisierende KI-Bilder auf X vorgehen – und zeigt damit, dass sie sich von den USA nicht einschüchtern lässt.

Bild: Die EU-Kommission hat am Montag ein Verfahren gegen seinen Dienst eingeleitet: Elon Musk, hier am 11. März in Washington DC

Es ist immerhin ein Schritt in die richtige Richtung: Nachdem Nutzer Anfang Januar die Onlineplattform X [1][mit KI-generierten sexualisierten Bildern von realen Personen, vor allem Frauen, fluteten], wird nun die EU-Kommission tätig. Sie hat am Montag ein Verfahren gegen den Dienst von US-Milliardär Elon Musk eingeleitet.

Mit dessen KI-Chatbot Grok wurden die Bilder erzeugt. Bei der Untersuchung wird geprüft, ob das Unternehmen die Risiken von Grok ordnungsgemäß bewertet und gemindert hat. Das [2][Center for Countering Digital Hate schätzt] auf Basis einer Stichprobe, dass Grok etwa 3 Millionen sexualisierte Bilder in weniger als zwei Wochen generiert hat – darunter 23.000 von Kindern.

Es ist nicht das erste Verfahren gegen einen Dienst von Musk: Im Dezember hatte die EU-Kommission ein Bußgeld in Höhe von 120 Millionen Euro gegen die Plattform X [3][verhängt]. Damals ging es um mangelnde Transparenz bei Werbung und einen unzureichenden Datenzugang für Forschende.

Rechtskräftig ist die Strafe noch nicht. Doch die EU-Kommission versucht anscheinend Signale zu senden, dass sie sich von Trump und dessen wiederholten Zoll-Drohungen für Staaten, die auf eine Regulierung von Big Tech setzen, nicht einschüchtern lassen will.

Es gibt allerdings einen Haken: Leitet die EU-Kommission ein Verfahren ein, führt das zwar zu [4][Hasstiraden] und Vergeltungsankündigungen seitens Musks und der US-Regierung. Aber für grundsätzliche Veränderung sorgen erst abgeschlossene Verfahren.

Und die Macher:innen des Digital Services Act, des EU-Gesetzes, auf dem diese Verfahren beruhen, hatten anscheinend nicht im Kopf, dass es Unternehmen geben könnte, die sich der Regulierung extrem hartnäckig widersetzen. Wie lange solche Verfahren dauern, wenn das beschuldigte Unternehmen alle Fristen ausreizt und die Sache letztlich beim Europäischen Gerichtshof landet – unklar.

Wichtig bleibt daher, dass die nationalen Gesetzgeber tätig werden. Und die sexualisierten KI-Bilder realer Personen im Strafrecht als das anerkennen, was sie sind: sexualisierte Gewalt.

26 Jan 2026

LINKS

[1] /Sexualisierte-Deepfakes-auf-X/!6145025

[2] https://counterhate.com/research/grok-floods-x-with-sexualized-images/

[3] /EU-geht-gegen-X-vor/!6135776

[4] /Nach-Millionenstrafe-fuer-X/!6136445

AUTOREN

Svenja Bergt

ARTIKEL ZUM THEMA

Ausgezogen von der KI: Anwendungen für sexuelle Deepfakes sollen verboten werden

Nach Deepfakes von Elon Musks Chatbot Grok planen EU-Staaten ein Verbot von KI-Anwendungen, die ohne Einwilligung sexualisierte Bilder erzeugen.

Musks Social-Media-Plattform X: Büros in Frankreich durchsucht

Die Pariser Staatsanwaltschaft hat Büros von Elon Musks Online-Plattform X durchsuchen lassen. Durchsucht wurde wegen mutmaßlicher Straftaten.

EU-Verfahren wegen KI-Bildern: Die x-te Warnung für X

Das Pöbel-Portal von Elon Musk lässt seiner KI freien Lauf. Die EU-Kommission leitet deswegen nun ein Verfahren gegen den US-Konzern X ein.

KI-Chatbot auf X: Sperre soll Nacktbilder von Grok verhindern

Use­r*in­nen konnten mit der KI Grok Nacktbilder von anderen Menschen erstellen. Mit Geoblocking will X diese sexualisierte Gewalt beenden.

Sex-Bilder mit KI: Justizministerin will härtere Strafen für Deepfakes

Ministerin Hubig plant, sexualisierte KI-Bilder realer Personen unter Strafe zu stellen. Eine Reaktion auf die Bikini-Fakes auf X sei das aber nicht.