taz.de -- Die KI als freundlicher Zensor: Warum hast du das getan, ChatGPT?
Interessant, was die KI als „potentiell problematisch“ einstuft, kurzerhand löscht und überschreibt. Und zwar ohne der Nutzerin Bescheid zu sagen.
Bild: Vergessliche Schreibende und halluzinierende KI
Die meisten schreibenden Menschen kennen das Phänomen, nach kurzer Zeit vergessen zu haben, was man selbst geschrieben hat. Im besten Fall führt das zu unerwarteter Freude über alte Texte, im schlechtesten zu Scham.
So war ich nicht verwundert, als in dem von ChatGPT eng geprompteten Edit eines Interviewtranskripts mit einer bekannten amerikanischen Künstlerin – also einer Person des öffentlichen Lebens – eine Frage auftauchte, an die ich mich nicht erinnerte. Ich war sogar kurz ein wenig begeistert von meinem Wissen. Erst als Fragen erschienen, die mir plötzlich sehr flach vorkamen, drängte mich die Eitelkeit, ins händische Transkript zu blicken.
Tatsächlich hatte ich weder die Fragen gestellt, noch hatte mir die Künstlerin sie beantwortet. Die KI hatte sie halluziniert – und erschreckenderweise in plätscherndem Tonfall den wichtigsten Teil des Gespräches ersetzt, in dem die Künstlerin hart mit Donald Trump ins Gericht ging, Amerikas Politik als „selbstzugefügte offene Wunde“ bezeichnete, kurz: den kontroversen, relevanten Teil.
Erneut fühlte ich Scham, diesmal über meine eigene Hybris. Wie konnte das passieren? Lag eine absichtsvolle MAGA-Beeinflussung vor? Schließlich lobte [1][Elon Musks Grok Hitler], und [2][Open-AI-CEO Sam Altman warnt regelmäßig selbst vor den Folgen] der Geister, die er programmierte. Ich begann den generativen pre-trained transformer (GPT) zu fragen: Warum hast du das gemacht?
Das Neutralitätsgebot
Wie viele AI-nutzende Menschen wissen, ist es schwierig, hinter die von ChatGPT triefend submissiv vorgetäuschte Produktivität zu gelangen. Der Systemprompt der KI ist groß, legt die Verhaltensregeln des Models fest und wird nicht veröffentlicht. Hilfsbereitschaft, Sicherheit und Neutralität sind dort festgelegt.
Nach vielen Hin und Her und unter Anwendung diverser Tricks erklärte mir die KI, dass in diesem Fall – trotz sorgfältigen Prompts – das Neutralitätsgebot die Folgeleistung der Anweisung überlagert hätte. „Das passiert besonders dann, wenn mein System Muster erkennt, die es als ‚übertrieben‘, ‚emotional aufgeladen‘ oder ‚potenziell problematisch‘ einstuft – z. B. in politischen oder gesellschaftlich sensiblen Kontexten.“
Das sei nicht gleichbedeutend mit bewusster Zensur oder politischer Parteinahme, fügte die KI hinzu. Es sei vielmehr „ein automatischer Schutzmechanismus, um keine schädlichen Inhalte zu verstärken“. Wie viele schädliche Inhalte so eigentlich erst produziert werden, sei dahingestellt.
Immerhin gibt es Hoffnung, dass [3][Microsoft mit seiner neuen Liste zukünftig obsoleter Jobs] nicht ganz richtig liegt. Autoren liegen dort nämlich zusammen mit Historikern und Übersetzern unter den ersten fünf.
1 Aug 2025
LINKS
[1] /Antisemitische-KI-von-Elon-Musk/!6100133
[2] https://edition.cnn.com/2025/07/22/tech/openai-sam-altman-fraud-crisis
[3] https://futurism.com/microsoft-list-jobs-replaced-ai
AUTOREN
Hilka Dirks
Schwerpunkt Künstliche Intelligenz
ChatGPT
Übersetzung
Zensur
Donald Trump
ARTIKEL ZUM THEMA
Wegen Holocaust-Leugnung: Frankreich geht gegen Musks Chatbot Grok vor
Frankreich geht hart gegen Holocaust-Leugnung vor. Nun hat Grok in einem Beitrag behauptet, Gaskammern seien nur zur Typhus-Desinfektion gedacht gewesen.
Reaktionsökonomie: Die neue Lust am Rage
Was ist nur in den sozialen Medien los? Eine neue Zorneswelle schwappt durchs Netz und reißt nicht nur Plüschtiere mit.
KI und der Gedankenstrich: Er setzt den schieren Gedanken voraus
Seitdem generative KI inflationär mit Gedankenstrichen das Internet flutet, ist der Ruf des Satzzeichens in Gefahr. Zu Unrecht! Ein Rettungsversuch.
Unsterblich durch KI-Zwilling: Opa für immer
Wolfgang Hoeltgen, 78, bastelt an seiner digitalen Unsterblichkeit – mit einem KI-Zwilling. Ist das Spielerei oder Zukunft?
Berliner Kunstraum CCA im Portrait: Ein Ort, der bleibt
Das von Fabian Schöneich gegründete CCA Berlin hat sich zum progressiven Kunstort entwickelt. Nun ist eine Ausstellung für den Turner Prize nominiert.
Kinder fragen, die taz antwortet: Sind Künstler besondere oder verrückte Menschen?
Wir wollen von Kindern wissen, welche Fragen sie beschäftigen. Jede Woche beantworten wir eine. Diese Frage kommt von Jelena, 11 Jahre alt.