taz.de -- KI-Erkennungssoftware: Die Grenzen der Detektoren

Für die Erkennung KI-generierter Texte werden zunehmend Programme wie „Pangram“ eingesetzt. Doch wie verlässlich sind diese Detektoren überhaupt?

Bild: Ob wir der KI vertrauen können, die ihre Brüder und Schwestern von der anderen KI erkennt, ist die Frage

Politiker*innen tun es, mindestens Minister und Ministerpräsidenten. Verleger, Herausgeber und Journalist*innen haben es getan. Wie die Schüler*innen und Studierenden mogelt auch das Lehrpersonal, vermutlich sündigt gar der Papst. Für sie alle schreibt künstliche Intelligenz Reden, Artikel, Hausarbeiten – ohne dass sie es offenlegen. In Deutschland standen vergangene Woche Digitalminister Karsten Wildberger, Thüringens Ministerpräsident Mario Voigt und der Tagesspiegel-Redakteur Stephan-Andreas Casdorff für ihren undeklarierten KI-Einsatz in der Kritik.

Auch in der Gesamtschau erhärtet sich die These, dass KI-generierter Text bald überall sein wird: Ein Großteil neuerer Publikationen im Internet wird inzwischen von KI geschrieben, zeigt etwa [1][eine Analyse des KI-Dienstleisters Graphite]: Über die Hälfte aller neuen englischsprachigen Artikel sei „wahrscheinlich KI“. Vermutlich verzerren automatische Übersetzungen das Bild, und der Prozentsatz habe ein Plateau erreicht. Trotzdem flutet KI-Schlamm augenscheinlich das Netz.

Wie gut sind Erkennungstools?

Nachdem Wissenschaftler*innen der Universität Maryland in 250.000 Artikeln amerikanischer Medien 9 Prozent KI-Anteil gefunden hatten, erschienen im amerikanischen Monatsmagazin The Atlantic gleich mehrere kritische Beiträge. Künstliche Intelligenz sei längst in die Medienhäuser und Verlage eingesickert, konstatierten die Autoren. Selbst in renommierten Medienhäusern würde großflächig KI eingesetzt.

KI-Erkennungstools wie [2][Originality AI, GPTZero, Copyleaks, Scribbr] oder Pangram versprächen, künstliche Texte als solche zu entlarven. Nur seien diese Programme laut Atlantic gerade ausreichend, um viel benutzt zu werden – dabei aber längst nicht zuverlässig genug. Amerika habe darum ein [3][„Pangram-Problem“], so das Magazin. Auch bei den neusten deutschen KI-Enthüllungen kam Pangram zum Einsatz.

Doch wie gut sind KI-Erkennungstools tatsächlich? Mit etwas Übung lassen sich viele KI-Texte sogar ohne maschinelle Hilfe erkennen, erklärt Max Spero. Spero ist der Gründer und CEO von „Pangram Labs“, dem Anbieter des gleichnamigen Erkennungstools. Die Erkennung ohne Tool sei möglich, da die gängigen Modelle oft gleichförmig und vorhersehbar schrieben. Besonders äußere sich das, wenn die Eingaben kurz seien. Etwa: „Schreib mir einen Artikel über Moby Dick.“

Nachträgliche Vermenschlichung

Aber auch so schon wirkten ihre Texte oft künstlich. Sie seien stärker strukturiert, die Satzlängen variierten wenig. Auch hätten die Modelle bestimmte Ticks. Der verräterische Halbgeviertstrich – auch Gedankenstrich genannt – werde besonders von älteren Modellen gern verwendet. „In neueren Modellen sind die Anzeichen subtiler“, so Spero. Deswegen sei es zunehmend schwerer, konkrete Phrasen und Muster in KI-Texten auszumachen. Auch könnten Artikel nachträglich bearbeitet werden, um menschlicher zu erscheinen. Dafür gibt es sogar eigens programmierte KIs, sogenannte Humanisierer.

Noch attestiert Pangram seinem eigenen Detektor aber eine hohe Genauigkeit: Seine 99,98-prozentige Trefferquote erreiche es ähnlich wie die Konkurrenz: Erst werden große Mengen KI-generierter Texte auf Muster untersucht, dann lassen sich mit ihnen Texte auf ebendiese typischen Muster prüfen. Durch wiederholtes Training erreiche Pangram aber eine geringere Fehlerquote.

Der „KI-Detektor, der wirklich funktioniert“, liefert auf seiner Website auch [4][die dazu passenden Studien]: In einem Test durch die University of Chicago aus dem vergangenen Jahr erklärte Pangram fast keinen der 3.000 getesteten Texte fälschlicherweise als KI-generiert. In eigenen Tests war sogar nur jeder zehntausendste Text falsch positiv.

Die Krux: Auch ein Test mit 100-prozentiger Trefferquote muss nicht unbedingt gut sein. Das passende Extrembeispiel dürfte einigen noch aus der Coronapandemie bekannt sein. Ein Test, der immer anschlägt, liegt bei jedem positiven Fall richtig. Seine Erkennungsrate liegt bei 100 Prozent. Schlägt der Test auch bei negativen Fällen an, ist er trotzdem wertlos.

Entscheidend über die Güte des Tests ist daher auch die Zahl der „false negatives“. Diese Quote klingt gleich auch weniger beeindruckend: Rund 85 Prozent aller KI-generierten Texte würden erkannt, 15 Prozent nicht. In Schulnoten wäre das statt summa cum laude eher eine bescheidene Zwei minus. Während Pangram also wenige Texte irrtümlich als KI markiert, schneidet es hierbei ähnlich ab wie die Konkurrenz. GPTZero und Copyleaks sind bei der KI-Erkennung sogar etwas besser, schlagen dafür aber häufiger falschen Alarm.

Hochschulen wappnen sich mit KI-Detektoren

Dass kein Erkennungstool wirklich zur Überprüfung einzelner Artikel taugt, erklärt im Kleingedruckten auch das Unternehmen selbst: „Alle KI-Erkennungstools produzieren falsch-positive Ergebnisse und sollten deswegen nur zusammen mit weiteren Beweisen genutzt werden, um Plagiate zu erkennen“, steht in einem technischen Report von 2024. KI könne echte Faktenprüfungen in Nachrichten und Medien nicht ersetzen. Und: „Wir raten dringend davon ab, die Beurteilung von Plagiatsvorwürfen und akademischer Integrität allein auf unseren Klassifikator zu stützen.“

Die akademische Integrität kommt hier nicht zufällig zur Sprache. Schon vor dem Aufkommen der neuen Sprachmodelle nutzten Hochschulen automatische Tools, um studentische Arbeiten auf Plagiate zu prüfen. Zunehmend kommen dazu KI-Detektoren zum Einsatz: Jede fünfte Hochschule stellt ihren Dozierenden laut [5][KI-Monitor 2025] KI-Erkennungstools zentral zur Verfügung. Jede zwanzigste setzt diese im Regelbetrieb ein. Immer öfter beklagen Studierende verschiedener Hochschulen falsche Beschuldigungen infolge des Einsatzes von KI-Detektoren.

Mehrere Gutachten im Auftrag von Universitäten raten deswegen strikt von der Verwendung ab. Rechtlich [6][stünde der Einsatz auf tönernen Füßen], außerdem würde ein falsches Sicherheitsgefühl vermittelt. Einige Lehrende fordern deswegen bereits ein Verbot, darunter auch die [7][KI-Forscherin Doris Weßels]: „KI-Detektoren sind technisch unzuverlässig, reproduzieren Bias, sind rechtlich nicht belastbar und führen zu einer Misstrauenskultur im Bildungsbereich“, schreibt sie in einem Beitrag für Table Media.

Eine Stellungnahme des „Digitale Lehre Hub Niedersachsen“ macht der Hoffnung auf einfache Lösungen den Garaus: Studierende könnten ihre Texte mit KI-Detektoren testen und anpassen, um den Einsatz zu verschleiern, „insbesondere, wenn diese es auf einen Täuschungsversuch abgesehen haben“. Stattdessen rät das von Hochschulen beauftragte Gremium – [8][wie schon der Deutsche Ethikrat] – dazu, „Prüfungsformate und Prüfungskulturen insgesamt auf den Prüfstand zu stellen“.

Journalist:innenverbände fordern Selbstverpflichtung

Medienhäuser, die ihr Vertrauen nicht verspielen wollen, stehen vor ganz ähnlichen Problemen, nicht erst seit dieser Woche. Anstelle eines großflächigen Einsatzes von KI-Erkennungstools fordern die Journalist:innenverbände DJV und dju deswegen schon länger eine flächendeckende Kennzeichnung von KI-Nutzung in journalistischen Artikeln. Ein Hinweis an jedem journalistischen Beitrag solle im Pressekodex verankert werden, erklärte der Deutsche Journalisten-Verband (DJV) am Mittwoch erneut. Der DJV-Bundesvorsitzende Mika Beuster warnte: „Die Glaubwürdigkeit des Journalismus steht auf dem Spiel.“

Am selben Tag forderte die Deutsche Journalisten-Union (dju) eine branchenweite Selbstverpflichtung zur Kennzeichnung KI-generierter Inhalte. Diese sei notwendig, solange es keine gesetzlichen Vorgaben gebe. „Wer hier ohne Regeln agiert, riskiert die eigene Existenzgrundlage“, so dju-Bundesgeschäftsführerin Danica Bensmail.

Auch wenn der Presserat die Forderungen bislang zurückwies, steht eine gesetzliche Vorgabe zur Kennzeichnung vollständig KI-generierter Inhalte womöglich bevor: Im Rahmen der europäischen KI-Verordnung („AI Act“) legte die EU-Kommission erst vergangene Woche einen Verhaltenskodex vor, der die Kennzeichnung von KI-generierten Inhalten vorsieht. Obwohl sich der größte Teil der Verordnung an Anbieter von KI-Modellen richtet, beziehen sich einige Transparenzregeln nämlich auch auf die Anwender der Modelle.

KI-generierte oder manipulierte Texte, die im öffentlichen Interesse verbreitet werden, sollen demnach für Nutzer*innen [9][deutlich erkennbar ausgewiesen werden.] Eine sorgfältige redaktionelle oder anderweitige Prüfung könne davon befreien, so die EU-Kommission. Doch kein EU-Gesetz wird Redaktionen dabei helfen, täuschend menschlich wirkende KI-Texte von freien Autor*innen und eigenen Redakteur*innen zu erkennen und auszusortieren.

20 Jun 2026

LINKS

[1] https://graphite.io/five-percent/ai-now-writes-as-many-online-articles-as-humans-do.

[2] https://aimultiple.com/ai-generated-text-detector

[3] http://www.theatlantic.com/technology/2026/05/pangram-ai-detection-accuracy/687381/

[4] https://aimultiple.com/ai-generated-text-detector

[5] https://hochschulforumdigitalisierung.de/wp-content/uploads/2025/09/Blickpunkt_KI-Monitor25.pdf

[6] https://dl-wiso.blogs.uni-hamburg.de/stellungnahme-ki-detektoren-pruefungsleistungen/

[7] https://table.media/bildung/standpunkt/verbietet-endlich-ki-detektoren-in-schulen-und-hochschulen

[8] https://www.ethikrat.org/fileadmin/Publikationen/Stellungnahmen/deutsch/stellungnahme-mensch-und-maschine.pdf

[9] https://digital-strategy.ec.europa.eu/en/policies/eu-icons-labelling-ai-generated-content

AUTOREN

Raoul Spada

ARTIKEL ZUM THEMA

Nach Cyber-Angriff von KI: Horror-Szenarien sind gut für die Branche

Eine KI von OpenAI startet einen Cyberangriff – und hackt eine Software-Plattform. Der Fall zeigt etwas anderes, als es auf den ersten Blick scheint.

KI und Journalismus: Von nun an ohne Stützräder

Für junge Menschen ist künstliche Intelligenz Alltag, ob sie wollen oder nicht. Doch es wächst Skepsis. Zwei Nachwuchsjournalist*innen berichten.

Einfluss auf kreative Arbeit: Was durch KI verloren geht

Der Einsatz moderner Techniktools und künstlicher Intelligenz schreitet voran. Darüber vergessen wir, was früher tatsächlich mal besser war – ohne KI.

KI-Pilotprojekt der Hamburger U-Bahn: Der Algorithmus hat kein Gespür für soziale Kontexte

Die Hamburger Hochbahn will mit KI Gefahren erkennen. Eine gefährliche Entwicklung im öffentlichen Raum, denn soziale Ausgrenzung wird technische Norm.

KI im Journalismus: Text ohne Autor

Ein KI-Skandal erschüttert den Journalismus. Aber ist es überhaupt einer? Die Medienbranche ist geteilter Meinung. Sicher ist: Sie wandelt sich.

KI und die neuen Grenzen im Journalismus: Der nötige Spritzer Selbstkritik

Wenn Texte heimlich von der KI geschrieben werden, gerät das Vertrauen in den Journalismus in Gefahr. Der Fall „Tagesspiegel“ öffnet eine Debatte.

KI-Vorfälle bei „Welt“ und „FAZ“: Nehmt den Boomern das Internet weg

„Kann Anteile von Referenten oder Pressesprechern enthalten“ müsste als Disclaimer unter vielen Texten stehen. Was, wenn da auch KI aufgeführt ist?

Künstliche Intelligenz im Journalismus: KI-Checker sind auch nicht die Lösung

Der Fall Casdorff empört. Hinter der Verlockung, im Journalismus KI zu verwenden, stecken strukturelle Probleme, die strukturelle Lösungen erfordern.