taz.de -- Mads Pankow über KI: Willkommen in der neuen Mittelmäßigkeit

Was bedeutet „Wahrheit“? Werden Algorithmen bald Gerichtsurteile fällen? Mads Pankow denkt in „Die wahrscheinliche Wahrheit“ über die Langzeitfolgen von KI nach.

Bild: Überwachung mit Künstlicher Intelligenz: zwischen Wahrheit und Racial Profiling

Furchtbar beunruhigend ist diese Gegenwart, viele Krisen spitzen sich gleichzeitig zu – Kriege, Klima, Kostenexplosionen. Und als ob die Menschheit nicht schon genug Probleme hätte, ist sie nun auch noch mit einer Frage konfrontiert, die heftig an ihrer Existenzgrundlage rüttelt: Welche Rolle spielt der Mensch überhaupt noch, in der KI-Ära? Wie viel wird er künftig noch selbst denken, herausfinden, entscheiden, was wird ihm bloß vorgekaut? [1][Und vor allem: von wem?]

Mitten hinein in den – nur gefühlten oder doch realen? – Machtkampf zwischen Mensch und Maschine platzt nun ein Buch, dessen Titel auf den ersten Blick erstaunlich gelassen klingt: „Die wahrscheinliche Wahrheit. Wie KI unsere Wirklichkeit, Moral und Gesellschaft neu berechnet“. Geschrieben hat es Mads Pankow, Organisationswissenschaftler, Publizist und Gastgeber [2][des Podcasts „Mensch, Maschine!“]

Betrachtet man den Titel genauer, klingt ein gewisser Kulturpessimismus durch: Wenn KI sich jetzt auch noch in das urmenschliche Feld „Moral“ einmischt, wird es wohl wirklich finster. Da klingt die berühmte Antiquiertheit des Menschen an, die der technikkritische Philosoph Günther Anders schon vor siebzig Jahren aufziehen sah.

Doch ein raunender Miesepeter will Mads Pankow nicht sein, und so schwingt er sich im Laufe seiner vielschichtigen Überlegungen immer wieder zu verhaltener Zuversicht auf: „Wir dürfen guter Hoffnung sein. Wir werden es überstehen. Und wir sind bereits auf dem Weg“, heißt es gen Ende seines Buches.

Von apokalyptischem Alarmismus also keine Spur, von naivem Fortschrittsjubel auch nicht. In aufklärerischer Unaufgeregtheit vergleicht der Autor Erkenntnisse und Argumente, wägt ab, schlägt vor, äußert Zweifel, verwirft die Zweifel wieder und wirft neue auf. Pankows Überlegungen vibrieren nur so vor Ambivalenz, was sein Buch zu einer angenehm uneitlen und philosophisch reizvollen Lektüre macht.

Beinahe täglich erscheinen neue Meldungen zu den Auswirkungen von KI aufs menschliche Gemüt und Verhalten, Pankow zieht den Zoom nun noch mal etwas weiter auf und betrachtet die Sache aus politisch-philosophischer Perspektive: Wie verändern KI-gesteuerte Spielregeln langfristig die Vergesellschaftung der Menschen? Dass er mit dieser Fragestellung keineswegs ins Blaue stochert, zeigt sich längst in der Realität, nicht nur in China, wo das Verhalten der Bevölkerung mit KI-basierten „Social Scoring“-Methoden erfasst wird. Hierzulande hat das Bundesforschungsministerium 2020 probeweise einen ähnlichen Zukunftsentwurf entwickeln lassen, ein „Bonussystem, das solidarisches und ökologisch nachhaltiges Verhalten fördert“, wie Pankow schreibt.

Jüngst machte das sogenannte Silicon Sampling Schlagzeilen: politische Meinungsforschung, die mit „synthetischen Stichproben“ experimentiert – statt Menschen werden KI-Modelle nach ihren Ansichten befragt.

Mit der Wahrheit ist es so eine Sache

Im Mittelpunkt von Pankows Überlegungen steht der Wahrheitsbegriff. Geschult an den Finessen der Diskurs- und Systemtheorie zeigt er auf, dass die sagenumwobene Wahrheit zu keinem Zeitpunkt etwas Absolutes, Unabänderliches war, sondern stets etwas Menschengemachtes: der kleinste gemeinsame Nenner, in dem die vorherrschenden Vorstellungen von Wirklichkeit und Sinnhaftigkeit zu einem Basiskonsens gerinnen – zur Geschäftsgrundlage für alles Weitere.

Immer wieder wurde Wahrheit neu „hergestellt“ und „organisiert“, und laut Pankow gaben die jeweiligen Medien dabei den Ausschlag, also die Kommunikationswege, die den Menschen zur Verfügung standen. Auf die oralen Gesellschaften der Frühzeit folgte die Schrift- und schließlich die Buchdruckgesellschaft. In ihr erblühten die Aufklärung und die Wissenschaften – und damit auch die abstrakten Argumente, kausalen Logiken und überprüfbaren Erklärungen, die unsere Wahrheitsauffassung bis heute prägen. Besser gesagt: bis gerade eben noch geprägt haben.

Denn inzwischen sei künstliche Intelligenz das „Medium“, das den Wahrheitsbegriff neu kalibriere, argumentiert Pankow. Mit den von Algorithmen gesteuerten sozialen Medien ging es los. Sie böten keine „kollektive Perspektive“ auf die Welt, sondern bloß einen „endlosen Strom individuell kuratierter Affekte“, schreibt Pankow. Heraus komme eine diffuse Masse „gefühlter Wahrheiten“, also das, was der von Donald Trump gehasste Komiker Stephen Colbert „Truthiness“ nennt und was andere als „postfaktische Ära“ bezeichnen.

Zurückdrehen lasse sich diese „Zerstückelung und Emotionalisierung der Weltwahrnehmung“ wohl kaum, meint Pankow – und bringt als potenzielles Gegengift wieder Algorithmen ins Spiel.

Sogenannte Sprachmodelle wie ChatGPT und Claude operieren allein mit statistischen Wahrscheinlichkeiten, sie sind leidenschaftslose „probalistische Maschinen“, die zwischen Fake und Fakten nicht unterscheiden können. Ihnen gelingt laut Pankow aber, „die Vielfalt der faktischen Zusammenhänge in der Welt zu erkennen und zu verarbeiten“ und aus unterschiedlichen Perspektiven und Fachbereichen ein „multidimensionales Wissensgewebe“ aus „wahrscheinlichen Wahrheiten“ zu erstellen.

Die Ergebnisse seien „selten brillant oder originell“. Abgebildet werde lediglich „das Mittelmaß von menschlichen Beschreibungen der Welt“ – eine „mittelmäßige Wahrheit“. Doch gerade diese ist laut Pankow „für viele Menschen anschlussfähig und praktisch nützlich“. Von einem Spagat zwischen der Vielfalt individueller Perspektiven und dem Wunsch nach gemeinschaftlicher Orientierung in einer immer komplexeren Welt schreibt er. Der Vernunftmensch, der an den Errungenschaften der aufklärerischen Wahrheit hängt, runzelt unweigerlich die Stirn: Was ist mit Vorurteilen und Verschwörungstheorien? Was mit den Tausenden alten Büchern, die KI-Firmen gerade hektisch aus Antiquariaten aufkaufen, um ihre Maschinen damit zu füttern: Sollen Texte aus vergangenen Jahrhunderten, die gespickt sind mit den Rassismen und Geschlechterklischees ihrer Zeit, auch in die „mittelmäßige Wahrheit“ der Zukunft einfließen?

Nein, sagt Pankow, an bestimmten Stellen müsse der Mensch weiterhin eingreifen. Für mehr „menschliche Kontrollgremien“ plädiert er, im Idealfall wären sie auf demokratischem Wege bestimmt. Den Open-Source-Gedanken bringt er ins Spiel, das Wikipedia-Prinzip und „Bürgerinnen- und Bürgerräte“. Das alles weckt Erinnerungen an die „liquid democracy“-Fantasie, einen politischen Rohrkrepierer, mit dem die Piratenpartei sich vor anderthalb Jahrzehnten mal blamiert hat.

Die Macht der Big-Tech-Firmen wächst seither so gut wie ungebremst weiter, und an allen Ecken der Welt bilden sich neue autoritäre Strukturen heraus. Für Diktaturen wäre KI noch sehr viel brauchbarer als für Demokratien. Über „Künstliche Intelligenz und Faschismus“ denkt aktuell etwa der Philosoph Rainer Mühlhoff nach, in einem schmalen Reclam-Bändchen. Mads Pankow bleibt eher vage an diesem heiklen Punkt. Das ist eine Schwäche seines Buches.

Stark sind seine Überlegungen dennoch, und zwar in anderer Hinsicht: Die von KI berechnete „statistische“ oder „wahrscheinliche Wahrheit“ bestimmt schon heute die Gesellschaftsorganisation in Dutzenden Bereichen, wie Pankow mit zahlreichen, teils überraschenden Beispielen aufzeigt. Krankenversicherungen, die abstrakte „Risikoraten“ je nach Alter und Lebenswandel ihrer Kundschaft erstellen, Polizeiermittlungen, die sich auf die Wahrscheinlichkeitswerte des „Profilings“ stützen: Nach Pankows Einschätzung ist die alte „regel- und argumentbasierte Ordnung“ längst in Auflösung begriffen und wird schon bald in eine „wahrscheinliche Gesellschaft“ münden, in der Rechenmodelle, Prognosen, Skalen das Denken und Handeln bestimmen – kühle Effizienzerwägungen statt mühsam aufklärerisch abgewogener Pros und Contras.

Wenn es so weitergeht, wäre eine neue soziale Ordnung früher oder später die Folge, schließt Pankow, und diese neue Ordnung wäre bestimmt von einer „Moral ohne feste Werte, die sich allein am Einzelfall entscheidet und aus einer Summe subjektiver Bewertungen speist“. Umso wichtiger wäre es, dass der Mensch sich schnellstmöglich taugliche Regeln fürs Zusammenleben mit und unter der Regie von künstlicher Intelligenz überlegt, mahnt er. Sollen Algorithmen zum Beispiel zu „Gerechtigkeitsmaschinen“ werden und menschliche Richterinnen und Richter ersetzen? Schon jetzt laufen Planspiele in diese Richtung.

Wollen wir das? Das fragt Pankow seine Leserinnen und Leser zwischen den Zeilen immer wieder.

Eindeutige Antworten gibt er nicht vor. Eben diese nachdenkliche Offenheit ist die Stärke seines Buches. Der Autor ist eben kein allwissend tuender Algorithmus – sondern ein Mensch, der genauso unsicher und bang in die ungewisse Zukunft blickt wie alle anderen auch. Eine Menge intelligenten Nachdenkstoff hat er zusammengetragen. Eine Patentlösung ist nicht dabei.

3 Oct 2026

LINKS

[1] /KI-Forscherin-Theresa-Zueger/!6208301

[2] https://menschmaschine.podigee.io/about

AUTOREN

Katja Kullmann

TAGS

literataz

Schwerpunkt Frankfurter Buchmesse

Schwerpunkt Künstliche Intelligenz

ARTIKEL ZUM THEMA

Anthropics Ablenkungsmanöver: Ja, KI wird uns alle töten. Aber anders, als ihr denkt

Die Tech Bros behaupten, dass die KI die Menschheit auslöschen könnte. So eine lächerliche Behauptung! Die Bedrohung ist viel unmittelbarer.

Regeln für Hochschulprüfungen: Die künstliche Intelligenz schreibt sowieso mit

Nur wenige Unis haben klare Regeln für den Umgang mit Sprachmodellen. In zwei Fällen musste schon ein Gericht ran.

Alternativer Nobelpreis: Kämpferin für eine bessere Technologie

Künstliche Intelligenz muss nicht konzernorientiert sein, findet die Informatikerin Timnit Gebru. Die Preisträgerin will die Technologie alternativ denken.

Buchpreis 2024: Wer nominiert ist

Kurz vor Eröffnung der Frankfurter Buchmesse wird der Buchpreis verliehen. Sechs Au­to­r*in­nen sind nominiert. Die taz hat ihre Werke rezensiert.