taz.de -- KI-Chatbot auf X: Sperre soll Nacktbilder von Grok verhindern
User*innen konnten mit der KI Grok Nacktbilder von anderen Menschen erstellen. Mit Geoblocking will X diese sexualisierte Gewalt beenden.
Bild: Protest gegen Elon Musks KI-Werkzeug Grok auf den Straßen von London
taz/afp | Mit wenigen Worten haben User*innen [6][die KI Grok auffordern können, anderen Menschen die Kleidung auszuziehen, oder sie in Bikinis zu stecken]. Damit soll jetzt Schluss sein. Der Onlinedienst X hat seinen KI-Chatbot Grok eigenen Angaben zufolge bei der Erstellung gefälschter Nacktbilder eingeschränkt. In Ländern, in denen solche Handlungen illegal sind, wurde die Funktion, Menschen in „Bikinis, Unterwäsche und ähnlicher Kleidung“ darzustellen, für alle Grok- und X-Nutzer*innen „geografisch blockiert“, wie der Onlinedienst am Mittwoch erklärte.
Das Sicherheitsteam von X erklärte, es seien „technische Maßnahmen“ ergriffen worden, „um zu verhindern, dass über das Grok-Konto Bilder von realen Personen in freizügiger Kleidung wie Bikinis bearbeitet werden können“. Diese Einschränkung gelte für „alle Nutzer*innen, einschließlich zahlender Abonnent*innen“.
Wenige Stunden vor der Stellungnahme hatte der US-Bundesstaat Kalifornien eine Untersuchung gegen Grok eröffnet. Kalifornien will laut Generalstaatsanwalt Rob Bonta klären, ob die KI-Firma xAI, die dem rechten Milliardär Elon Musk gehört, gegen Gesetze des Bundesstaats zum Schutz vor Belästigung verstoßen hat. Zuvor hatten bereits die Europäische Union und Großbritannien den KI-Chatbot ins Visier genommen. [7][In Deutschland plant Justizministerin Stefanie Hubig (SPD) Strafen für Deepfakes].
Grund dafür ist eine Untersuchung der gemeinnützigen Organisation AI Forensics. Forscher*innen haben 20.000 [8][Bilder ausgewertet, die Grok auf Anfrage von User*innen generiert hat]. 53 Prozent der Bilder haben Menschen in freizügiger Kleidung gezeigt – in vier von fünf Fällen Frauen. Die Befehle an die KI kamen in rund 80 Prozent der Fälle, wie so oft, wenn es darum geht, Frauen zu sexualisieren, von Männern. Einige der Bilder zeigten sogar Jugendliche und Kinder, manche von ihnen jünger als fünf Jahre.
EU-Kommission noch nicht zufrieden
Die EU-Kommission und die britische Aufsichtsbehörde Ofcom hatten Musks Unternehmen deshalb aufgefordert, Maßnahmen zum Schutz der Menschen zu ergreifen, die auf den Bildern dargestellt werden. Sie reagierten am Mittwoch zurückhaltend auf die Ankündigung des Unternehmens, mit den europäischen Behörden zusammenarbeiten zu wollen. Wenn die geplanten Änderungen nicht effektiv seien, werde sich die EU-Kommission nicht scheuen, ihr ganzes juristisches Arsenal zu nutzen, erklärte ein Sprecher in Brüssel.
Am Samstag hatte Indonesien als weltweit erstes Land Grok vollständig gesperrt. Malaysia ergriff die gleiche Maßnahme am Sonntag. Anderswo wurde die Nutzung des Tools auf zahlende Kund*innen beschränkt.
15 Jan 2026
LINKS
[6] /Sexualisierte-Deepfakes-auf-X/!6145025
[7] /KI-Grok-von-Elon-Musk/!6145544
[8] /KI-Deepfakes-von-Frauen-auf-X/!6144230
Sexualisierte Gewalt
Schwerpunkt Künstliche Intelligenz
Twitter / X
Elon Musk
GNS
ARTIKEL ZUM THEMA
Musks Social-Media-Plattform X: Büros in Frankreich durchsucht
Die Pariser Staatsanwaltschaft hat Büros von Elon Musks Online-Plattform X durchsuchen lassen. Durchsucht wurde wegen mutmaßlicher Straftaten.
EU-Verfahren gegen X: Ein Signal der Stärke
Die EU-Kommission will gegen sexualisierende KI-Bilder auf X vorgehen – und zeigt damit, dass sie sich von den USA nicht einschüchtern lässt.
EU-Verfahren wegen KI-Bildern: Die x-te Warnung für X
Das Pöbel-Portal von Elon Musk lässt seiner KI freien Lauf. Die EU-Kommission leitet deswegen nun ein Verfahren gegen den US-Konzern X ein.
KI „Grok“ von Elon Musk: Sagt endlich Tschüss zu X
Bei der KI von Elon Musk grassiert sexualisierte Gewalt. Es braucht ein Gesetz dagegen – und den Widerstand der User*innen.
Sex-Bilder mit KI: Justizministerin will härtere Strafen für Deepfakes
Ministerin Hubig plant, sexualisierte KI-Bilder realer Personen unter Strafe zu stellen. Eine Reaktion auf die Bikini-Fakes auf X sei das aber nicht.
KI-Deepfakes von Frauen auf X: Sexualisierte Gewalt als Feature
Elon Musks Chatbot Grok erstellt auf X sexualisierte Bilder realer Frauen – und von Kindern. Dahinter steckt ein neues System digitaler Gewalt.