taz.de -- KI „Grok“ von Elon Musk: Sagt endlich Tschüss zu X

Bei der KI von Elon Musk grassiert sexualisierte Gewalt. Es braucht ein Gesetz dagegen – und den Widerstand der User*innen.

Bild: Stefanie Hubig (SPD), Bundesministerin der Justiz, will es strafbar machen, voyeuristische Aufnahmen von anderen anzufertigen

Vielleicht tut sich ja endlich jetzt etwas. Seit Jahren schon kämpft [1][die Zivilgesellschaft dafür, dass digitale Gewalt strafbar wird.] Jetzt lässt Bundesjustizministerin Stefanie Hubig (SPD) hoffen. Nach den aktuellen Taten auf der Social-Media-Plattform X könnte sie den Rückenwind bekommen, den sie im November nicht hatte. Damals wollte sie [2][es strafbar machen, heimlich voyeuristische Aufnahmen von anderen anzufertigen]. [3][Doch die Justizminister*innenkonferenz stimmte dagegen]. Ausgerechnet die KI vom rechten Superreichen Elon Musk könnte dem digitalen Gewaltschutzgesetz nun helfen.

Manche werden ausgezogen, andere mit „Zuckerguss“ überzogen – gegen ihren Willen. Forscher*innen der gemeinnützigen Organisation AI Forensics haben 20.000 [4][Bilder ausgewertet, die die KI Grok auf Anfrage von X-User*innen generiert hat]. 53 Prozent der Bilder haben Menschen in freizügiger Kleidung gezeigt – in vier von fünf Fällen Frauen. Einige der Bilder zeigen sogar Kinder und Jugendliche.

Diese Menschen müssen diese sexualisierte Gewalt nicht mit dem eigenen Körper erfahren, aber mit dem Bild des eigenen Körpers. Es ist eine von vielen Formen digitaler Gewalt wie etwa [5][Cyberstalking] oder das Verbreiten von Fotos und Videos ohne Zustimmung. Ein Gesetz dagegen, wie Hubig es nun wieder angekündigt hat, muss endlich kommen.

Die Politik darf aber nicht beim Gesetz stehen bleiben. Es kann nicht sein, dass Ministerien und Politiker*innen noch immer auf der Plattform X aktiv sind. Auf Anfrage sagten einige, die dort noch aktiv posten, dem Medium „[6][Netzpolitik“], es gehe um Austausch. Familienministerium und Innenministerium argumentierten, dass man die Öffentlichkeit informieren wolle. Warum haben sie sich nicht schon längst andere Möglichkeiten überlegt? Hass, Drohung, Volksverhetzung sind keine neuen Zustände bei X. Musk manipuliert antisemitisch, rassistisch, queerfeindlich Algorithmen wie Gesellschaft. Politiker*innen müssen Konsequenzen ziehen und sich von dort verabschieden.

14 Jan 2026

LINKS

[1] /Unfreiwillig-intime-Fotos-im-Netz/!5738064

[2] /Gesetzesentwurf-Justizministerin-Hubig-will-Voyeur-Aufnahmen-und-Catcalling-bestrafen/!6126201

[3] /Debatte-um-digitalen-Voyeurismus/!6128162

[4] /KI-Deepfakes-von-Frauen-auf-X/!6144230

[5] /Gegen-Cyberstalking/!6140127

[6] https://netzpolitik.org/2026/digitale-gewalt-abgeordnete-ministerien-und-eu-kommission-bleiben-auf-deepfake-plattform-x/

AUTOREN

Johannes Drosdowski

TAGS

Schwerpunkt Künstliche Intelligenz

Sexismus

Reden wir darüber

Sexualisierte Gewalt

Elon Musk

Twitter / X

GNS

Digitale Gewalt

ARTIKEL ZUM THEMA

Musks soziales Netzwerk: Wie der X-Algorithmus Meinungen beeinflusst

Neben einem chronologischen Feed bietet der Kurznachrichtendienst auch eine kuratierte Ansicht an. Der hat großen Einfluss auf politische Meinungen.

Hasskommentare im Internet: Anonym verurteilt

Auf Instagram beleidigt „profdrcn“ seit Jahren Frauen und queere Menschen. Steckt dahinter ein hochrangiger Richter, der auch an einer Uni lehrt?

Bandcamp verbietet KI-Musik: Für eine Renaissance des Menschengemachten

Kreativität schlägt Broligarchy: Die US-Musikplattform Bandcamp verbannt KI-generierte Inhalte von ihrer Homepage. Use­r:in­nen sollen Verstöße melden.

KI-Chatbot auf X: Sperre soll Nacktbilder von Grok verhindern

Use­r*in­nen konnten mit der KI Grok Nacktbilder von anderen Menschen erstellen. Mit Geoblocking will X diese sexualisierte Gewalt beenden.

Sex-Bilder mit KI: Justizministerin will härtere Strafen für Deepfakes

Ministerin Hubig plant, sexualisierte KI-Bilder realer Personen unter Strafe zu stellen. Eine Reaktion auf die Bikini-Fakes auf X sei das aber nicht.

Sexualisierte Deepfakes auf X: „Hey Grok, put her in a bikini“

Eine Bildfunktion des KI-Chatbots Grok erzeugt massenhaft sexualisierte Deepfakes. Auf rechtliche Ermittlungen reagiert Elon Musk wie gewohnt.

Künstliche Intelligenz Grok: Malaysia und Indonesien sperren Musks Chatbot

Als weltweit erstes Land hat Indonesien den Chatbot Grok gesperrt. Grund:­Ver­brei­tung pornografischer Bilder. Malaysia folgte am Sonntag nach.

Wegen Holocaust-Leugnung: Frankreich geht gegen Musks Chatbot Grok vor

Frankreich geht hart gegen Holocaust-Leugnung vor. Nun hat Grok in einem Beitrag behauptet, Gaskammern seien nur zur Typhus-Desinfektion gedacht gewesen.