taz.de -- EU-Parlament: KI-Anwendungen für Porno-Deepfakes sollen verboten werden
EU-Parlament beschließt Verbot von KI-Porno-Deepfakes ohne Einwilligung. Neue Regeln sollen Opfer besser schützen und Täter künftig härter bestrafen.
Bild: Ein ausdrückliches Verbot sei „dringend geboten“, argumentieren die Abgeordneten des EU-Parlaments
afp | Die EU geht gegen Porno-Deepfakes und sexualisierte Bilder im Netz vor: Das Europaparlament stimmte am Donnerstag in Brüssel für ein Verbot von KI-Anwendungen, mit deren Hilfe Nutzer solche Videos und Bilder von Menschen ohne deren Einwilligung erstellen können. Das Verbot soll in einigen Monaten greifen, sobald die Änderung endgültig beschlossen ist.
Es bezieht sich auf Anwendungen, die mit künstlicher Intelligenz Bilder und Videos so verändern oder erstellen können, dass sie „sexuell eindeutige Aktivitäten oder intime Körperbereiche einer bestimmbaren Person ohne deren Einwilligung“ zeigen. Solche Bilder und Videos „schädigen die Opfer und verletzen die Grundrechte auf Würde und Privatsphäre“, heißt es im Gesetzentwurf zur Begründung.
Ein ausdrückliches Verbot sei „dringend geboten“, argumentieren die Abgeordneten. Die EU reagiert damit unter anderem auf Vorfälle Anfang des Jahres, als Nutzer [6][mithilfe des Chatbots Grok] von US-Milliardär Elon Musk Millionen sexualisierte KI-Bilder von Frauen und Kindern erstellten und online verbreiteten. Mehrere Länder sowie die EU-Kommission leiteten Ermittlungen gegen Grok ein, einige sperrten den Chatbot.
Neben den Grok-Fällen gebe es „über 100 Apps, die wirklich nichts anderes machen und die absolut darauf spezialisiert sind, diese sexualisierten Bilder zu erstellen“, sagte die Grünen-Europaabgeordnete Alexandra Geese. „Ich glaube, den Markt kann man hiermit sehr, sehr klar eingrenzen“, fügte sie hinzu. Die Branche müsse verstehen, „dass es nicht nicht lohnt, Geld in die Entwicklung solcher Systeme zu setzen.“
Gegenstück zum Gesetzentwurf von Stefanie Hubig
Das Vorgehen in Brüssel ist das Gegenstück zu einem [7][Gesetzentwurf, den Bundesjustizministerin Stefanie Hubig] (SPD) in Kürze vorstellen will: Die EU ist für Regeln und Verbote für die Technologie zuständig, die Bundesregierung kümmert sich um härtere Strafen für die Täter, die pornografische Deepfakes erstellen. Hubig will Gesetzeslücken schließen, bislang ist das bloße Erstellen pornografischer Aufnahmen hierzulande nicht strafbar.
Einem Entwurf zufolge soll das Erstellen und Verbreiten von Deepfakes künftig mit bis zu zwei Jahren Haft bestraft werden. Hubig hatte die Pläne vor dem Hintergrund des [8][Falls der Schauspielerin Collien Fernandes] angekündigt. Fernandes war in der vergangenen Woche mit Vorwürfen der digitalen sexualisierten Gewalt gegen ihren Ex-Mann Christian Ulmen an die Öffentlichkeit gegangen. Ulmens Anwalt sprach von einer unzulässigen Verdachtsberichtserstattung.
Das EU-Vorgehen ist Teil einer Reihe von Änderungen an einem KI-Gesetz, das die EU 2024 beschlossen hatte. Die Reform sieht an anderer Stelle auch Lockerungen vor: Regeln für den Einsatz von künstlicher Intelligenz in Sicherheitsbehörden und Gesundheitssystemen etwa sollen verschoben werden. Das Europaparlament muss in den kommenden Wochen und Monaten mit dem Rat der 27 EU-Staaten über die gesamte Reform verhandeln.
26 Mar 2026
LINKS
[6] /Sexualisierte-Deepfakes-auf-X/!6145025
[7] /Gesetzentwurf-zu-digitaler-Gewalt/!6164876
[8] /Pornografische-Deep-Fakes/!6164415
Sexualisierte Gewalt
Digitale Gewalt
Deepfake
Schwerpunkt Künstliche Intelligenz
ARTIKEL ZUM THEMA
Künstliche Intelligenz: Macht in falschen Händen
Die Aufholjagd bei Künstlicher Intelligenz in Europa droht, die Fehler des Silicon Valleys zu wiederholen. Es braucht eine Alternative zu privaten Akteuren.
Ermittlungen in Deutschland: Staatsanwaltschaft bejaht Anfangsverdacht gegen Schauspieler Ulmen
Im November 2024 stellte Collien Fernandes eine Strafanzeige gegen unbekannt. Die Ermittlungen wurden zunächst eingestellt. Nun kommt Bewegung in das Verfahren.
Gewalt im Internet: Zu spät, zu schwach, zu abhängig von Big Tech
Digitale Gewalt ist ein Geschäftsmodell. Um sie zu verhindern, müssen Plattformen reguliert werden. EU-Vorgaben zeigen, wie das funktionieren kann.
Gesetzentwurf zu sexualisierter Gewalt: Grüne fordern Schutz vor Deepfakes
Die Grünen im Bundestag wollen unbefugte sexualbezogene Aufnahmen und Bildmanipulationen unter Strafe stellen. Am Donnerstag diskutiert der Bundestag.
Maßnahmen gegen digitale Gewalt: Erhöhte Handlungsbereitschaft
Nach der Demo von Sonntag diskutiert die Berliner Landespolitik über digitale Gewalt: Ein neues Projekt soll Schutzunterkünfte besser vorbereiten.