taz.de -- Gesetz zu Chatkontrolle: Wenn der Staat deine Nacktbilder sieht

Die EU-Mitgliedsstaaten entscheiden kommende Woche über die Chatkontrolle. Deutschlands Stimme könnte entscheidend sein. Und der Widerstand wächst.

Sind Messenger-Dienste wie Whatsapp oder Signal bald dazu verpflichtet, die Kommunikation ihrer Nutzer:innen zu überwachen? Über diese Frage wird voraussichtlich am kommenden Dienstag der EU-Rat entscheiden, das Gremium der Mitgliedsstaaten. Und aktuell formiert sich Widerstand gegen die sogenannte Chatkontrolle – von Expert:innen aus Zivilgesellschaft, Politik, Wissenschaft und Wirtschaft.

Der aktuelle Verordnungsentwurf der dänischen Ratspräsidentschaft sei „eine in der freien Welt einzigartige Überwachungsinfrastruktur“, findet der Jurist Patrick Breyer. Er hatte als EU-Abgeordneter eine kritischere Positionierung des EU-Parlaments zur Chatkontrolle mitverhandelt. „Wer Verschlüsselung schwächt, schwächt immer auch den Schutz von Bürger:innen, Unternehmen und kritischen Infrastrukturen“, kommentiert Klaus Landefeld, stellvertretender Vorsitzender des Internetwirtschafts-Verbands eco.

Svea Windwehr, Co-Vorsitzende des digitalpolitischen Vereins D64, sieht das Vorhaben ebenfalls kritisch: „Die sogenannte Chatkontrolle untergräbt Grundrechte, ohne den Schutz von Betroffenen zu verbessern.“ Und [1][in einem offenen Brief], den mittlerweile mehr als 700 Wissenschaftler:innen unterschrieben haben, heißt es: Das Vorhaben werde „beispiellose Möglichkeiten für Überwachung, Kontrolle und Zensur schaffen und birgt ein inhärentes Risiko für den Missbrauch durch weniger demokratische Regime“. Selbst die Betreiber der Messenger-Dienste Signal, Threema und Whatsapp vom Mutterkonzern Meta haben sich mittlerweile dagegen positioniert.

Die Chatkontrolle wird seit rund drei Jahren auf EU-Ebene verhandelt und abgestimmt. Bislang gab es unter den Mitgliedsstaaten keine Mehrheit. Laut EU-Kommission, die das Vorhaben ursprünglich einbrachte, soll damit die Verbreitung von Darstellungen sexualisierter Gewalt an Kindern eingedämmt oder verhindert werden. Dafür sollen die Anbieter von Messenger- und Cloud-Diensten sowie Hostinganbieter dazu verpflichtet werden können, die Kommunikation ihrer Nutzer:innen auf potenziell verdächtige Inhalte zu scannen.

Auch das Kindervideo für die Oma würde gescannt

Bei unverschlüsselter oder nur transportverschlüsselter Kommunikation ist das einfach auf den Servern der Anbieter möglich. Nutzer:innen von Cloud-Diensten wie von Google und Amazon oder US-E-Mail-Diensten wie Gmail müssen schon heute damit rechnen, dass von ihnen hochgeladene oder versendete Inhalte gescannt werden.

Anders sieht es bei Ende-zu-Ende verschlüsselter Kommunikation aus, wie sie etwa die Messaging-Anbieter Signal, Threema und auch Whatspp anbieten. Ende-zu-Ende verschlüsselt bedeutet: Nur Sender und Empfängerin können auf den Inhalt zugreifen, nicht der Anbieter selbst. In solchen Fällen müssten also die Firmen auf den Geräten der Nutzer:innen eine Anwendung installieren, die die Inhalte vor dem Versenden überprüft. Auch das Kindervideo für die Oma oder das eigene Nacktfoto für die Partnerin würden also vor dem Versand gescannt werden, wenn den Anbieter eine entsprechende Anordnung trifft, was schnell und flächendeckend der Fall sein kann. Der Messenger-Dienst Signal kündigte an, Europa zu verlassen, sollte die Integrität seiner Verschlüsselung in Gefahr geraten.

Nachdem sich die EU-Staaten über drei Jahre immer wieder gegen das Vorhaben entschieden hatten, droht nun ein Umschwenken. Das hat vor allem mit der deutschen Bundesregierung zu tun. Die Ampel lehnte das Vorhaben ab. Doch der Bundesinnenminister Alexander Dobrindt (CSU) scheint ihm offen gegenüberzustehen. Eine entsprechende Anfrage zur aktuellen Position der Bundesregierung ließ das federführende Innenministerium unbeantwortet, doch Insider:innen zufolge wollte die Regierung ihr Abstimmungsverhalten noch am Dienstag festlegen. Eine Vertreterin des Ministeriums hatte im September im Digitalausschuss erklärt, man sei zwar gegen einen Bruch der Ende-zu-Ende-Verschlüsselung. Aber man wolle einen Kompromiss, um zu verhindern, dass die befristete Regelung, die das Scannen auf freiwilliger Basis erlaubt, auslaufe.

Gegen diese Aussage läuft der Jurist Patrick Breyer Sturm. „Das ist eine bewusste Täuschung, um einen grundrechtswidrigen Deal zu erzwingen“, kritisiert er. Denn selbst bei einer Mehrheit für die Chatkontrolle im EU-Rat könne das Gesetz aufgrund der üblichen Umsetzungsfristen nicht vor April kommenden Jahres in Kraft treten – und damit erst nach dem Auslaufen der befristeten Regelung. „Das ist ein Big-Brother-Angriff auf unsere privaten Nachrichten und Fotos – als würde die Post jeden einzelnen Brief öffnen und durchschnüffeln“, sagt er. Die Chatkontrolle werde Sexualstraftäter nicht aufhalten, sondern die Polizei mit Falschmeldungen überfluten.

Auch Kinderschutzbund ist gegen Chatkontrolle

Dieses Szenario halten auch IT-Expert:innen für plausibel. „Diese Modelle sind weit davon entfernt, perfekt zu sein“, sagt Carmela Troncoso, wissenschaftliche Direktorin am Max Planck Institut für Sicherheit und Privatsphäre über die Systeme, die harmlose Inhalte von sexualisierter Gewalt an Kindern trennen sollen. Bei einem Expert:innen-Gespräch zur Chatkontrolle erklärt sie: Gehe es um bereits bekannte Inhalte, die eins zu eins erneut auftauchen, sei die Erkennung bei Bildern gut – bei Videos oder Audios aber schon nicht mehr.

Wichtigster Anwendungsfall seien in diesem Bereich aber Bilder, die im Vergleich zum Ausgangsmaterial leicht verändert wurden, etwa gespiegelt, gedreht oder komprimiert. Auch hier seien die Erkennungsraten nicht gut. So ließen sich bei Bildern leicht einige Pixel verändern, sodass das Ergebnis für das menschliche Auge unverändert aussieht – für einen Algorithmus aber wie ein anderes Bild wirkt.

Auch der Kinderschutzbund spricht sich gegen die Chatkontrolle aus. „Zu befürchten ist nicht nur ein Anstieg von Ermittlungsverfahren gegen Kinder und Jugendliche, die unbedarft sexualisiertes Bildmaterial teilen, sondern auch eine Überlastung der Strafverfolgungsbehörden durch eine große Zahl fehlerhafter Meldungen, die wirksame Ermittlungen eher erschweren als erleichtern würde, sowie ein Missbrauch dieser technisch implementierten ‚Hintertür‘ für antidemokratische Zwecke“, sagt Elena Frense, Expertin für Medien und Digitales beim Kinderschutzbund. Dazu komme: Darstellungen sexualisierter Gewalt würden in der Regel nicht über private Messenger ausgetauscht, sondern via File-Hoster, über die sich große Datenmengen bereitstellen und herunterladen lassen.

Aus Kinderschutzsicht braucht es daher laut Frense einen anderen Ansatz: „Notwendig sind stattdessen Prävention, Aufklärung und klare Verpflichtungen für Anbieter. Etwa verbindliche Sicherheitsauflagen, Risikoanalysen und der Scan unverschlüsselter Inhalte.“ Zudem müsse die anlassbezogene Ermittlungsarbeit ausgeweitet werden. Zum Beispiel mit Onlinestreifen, also Polizist:innen, die im digitalen Raum unterwegs sind.

Um das Vorhaben im EU-Rat nun doch noch zu stoppen, vor allem, um die Bundesregierung zu einem klaren Nein zu bewegen, wächst nun eine Woche vor der Abstimmung deutlich der Widerstand. Das Bündnis „Chatkontrolle stoppen“, zu dem unter anderem die Organisationen Reporter ohne Grenzen, der Republikanischer Anwält*innen- und Anwälteverein und die Giordano-Bruno-Stiftung gehören, hat am Montag [2][eine Petition gegen das Vorhaben] gestartet. Die Grünen wollen am Donnerstag im Bundestag einen Antrag dagegen einbringen. Und zivilgesellschaftliche Organisationen fordern Bürger:innen dazu auf, bei Abgeordneten und beim deutschen Innen- und Justizministerium gegen die Chatkontrolle zu protestieren.

7 Oct 2025

LINKS

AUTOREN

TAGS

ARTIKEL ZUM THEMA

Die KI-Debatte pendelt zwischen Heilsversprechen und der Sorge vor Kontrollverlust. Sie offenbart viel über Ängste und Sehnsüchte unserer Gesellschaft.

Yael Tauman Kalai hat Grundlagen von Verschlüsselungsmethoden mitentwickelt. Sie zeigt, wie wir trotz KI und Quantencomputern mündig bleiben können.

Für den Kinderschutz soll selbst verschlüsselte Kommunikation am Handy kontrolliert werden können. Doch der Widerstand dagegen ist vielfältig.

In Luxemburg fordert Deutschlands Innenminister (CSU) vor EU-Amtskollegen eine noch schärfere Asylpolitik. Gegenwind bekommt er bei Grenzkontrollen.

Breiter Protest verhinderte die Abstimmung über die Chatkontrolle. Was nie ein gutes Rezept gegen Internetkriminalität war, ist noch nicht vom Tisch.

Bedeutet Chatkontrolle das Ende der Privatsphäre? Meredith Whittaker, Präsidentin der Signal-Stiftung, über die Gefahren und individuelle Verantwortung.

Die Big Brother Awards für Überwachung gehen dieses Jahr unter anderem an eine umstrittene Plattform – und eine neue KI-Funktion.

Über die umstrittene Überwachung von Chats stimmen die EU-Staaten nun doch noch nicht kommende Woche ab. Die Bundesregierung hofft auf eine baldige Einigung.

Innenminister Dobrindt kündigt ein Drohnenabwehrzentrum und mehr Befugnisse für die Bundespolizei an – auch die Bundeswehr soll eingreifen dürfen.

Nachrichten könnten bald mit einer KI auf kriminelle Inhalte geprüft werden – um Kinder zu schützen. Doch damit steht die Freiheit aller auf dem Spiel.

Kameras in der Wohnung von Demenzkranken bedeuten einen massiven Eingriff in ihre Privatsphäre. Und sie fördern die zwischenmenschliche Distanz.

Die EU-Kommission plant eine weitreichende Chatkontrolle. Dann könnten Chats aller Art mitgelesen werden. Das widerspricht dem Briefgeheimnis.