taz.de -- Gefahren von Künstlicher Intelligenz: Wer haftet, wenn die KI uns umbringen will?
Jeder Eierkocher wird reguliert. Bei KI ist das - trotz sich häufender Warnungen - anders. Der Rechtsstaat sollte auch mal was dazu sagen.
Bild: Für jeden Eierkocher gibt es strenge gesetzliche Vorgaben. Und für die KI?
Ein junger Mann warf diese Woche unter Absingen schmutziger Lieder seinen Job hin: Nur Wahnsinnige da in der Firma. So weit, so vertraut. Nur dass Jacob Coxon, Brite, 27, sein Lied [1][auf X, vormals Twitter, veröffentlichte], und das klang so: „Ich habe heute bei Anthropic gekündigt“, schrieb er. Drei Jahre habe er bei den KI-Unternehmen OpenAI und Anthropic verbracht. „Sie setzen unser Leben aufs Spiel.“ Die Leute, die künstliche Intelligenz erschüfen, „glauben ernsthaft, dass sie uns alle bis zum Ende des Jahrzehnts umbringen könnte“. Dies sei kein Marketingtrick.
Coxon ist nicht der Erste, der so warnt. Aber dass es immer mehr werden, kann halt nicht beruhigen. Es werden kaum alle aus der Branche, die vor den Gefahren der künstlichen Intelligenz warnen, bloße Wichtigtuer sein, die Investoren anlocken oder sich selbst als KI-Berater („Für nur 500 Euro die Stunde rette ich euch!“) andienen wollen. Als die KI-Programme des ChatGPT-Herstellers OpenAI sich im Juli selbstständig gemacht hatten und beim KI-Anbieter Hugging Face eingebrochen waren, ging der Deutungstrend zunächst auch erst Richtung „Aufschneider!“. Nach einigen Expertenberichten bog er allerdings [2][in Richtung „Schreck lass nach!]“ ab.
Als echtes Kind der Bundesrepublik frage ich mich längst: Technik hin, Technik her, aber was sagt bitte der Rechtsstaat dazu? Und wenn wir von US-amerikanischen Unternehmen sprechen: Ihr klagt euch doch sonst wegen jedes defekten Eierkochers den Hintern ab – wo sind eure melodramatischen Geschworenengerichte jetzt? Was ich meine: Bevor die künstliche Intelligenz uns alle umbringt, wüsste ich gern, wo sie versichert ist (was nimmt die Allianz monatlich an Prämien von potenziellen Menschheitszerstörern?), wo sie verklagt werden kann und welches höchstrichterliche Urteil gegen den möglichen Weltuntergang vorliegt.
Die Frage nach der Verantwortung
Matthias Spielkamp kann meine Fragen gut einordnen: „Es wird immer weiter über die Fähigkeiten der KI diskutiert, aber der entscheidende Punkt ist doch, wer dafür verantwortlich ist“, sagt er. Spielkamp hat AlgorithmWatch gegründet und [3][kämpft seit über zehn Jahren für mehr Transparenz und Kontrolle] in der digitalen Welt. Dass die künstliche Intelligenz Schaden anrichten könne – aber auch Nutzen stiften –, sei doch völlig klar, sagt er.
Es müsse eben wie bei jedem potenziell gefährlichen Produkt die Haftung geregelt sein. „Man stelle sich vor, Mercedes würde Zehntausende Lkws mit defekten Bremsen ausliefern – der Schadenersatz, der droht, wäre gigantisch!“, erklärt Spielkamp. „Damit kann man zwar noch nicht verhindern, dass einer mit dem Lkw in eine Menschenmenge fährt. Aber jedenfalls kann man dafür sorgen, dass Mercedes das nicht noch mal passiert.“
Den Vergleich finde ich hilfreich. Es stellt sich heraus, dass Deutschland just dieses Jahr eine EU-Richtlinie zum Thema umsetzt: [4][Das neue Produkthaftungsrecht] kommt im Dezember, es ist die erste Novelle seit 1989. Man stelle sich vor, was seitdem alles an Unheil stiftenden Dingen erfunden wurde! Wie viele Saugroboter schon die Fransen teurer Teppiche gefressen haben! In der Gesetzesbegründung [5][nennt die Bundesregierung ausdrücklich] die nötige Regelung der künstlichen Intelligenz: Hersteller könnten künftig auch haften für Schäden durch Produkte „wie insbesondere KI-Systeme, die die Fähigkeit aufweisen weiterzulernen“. Nun ja, könnten. Aber immerhin.
Wenn das also halbwegs geklärt ist: Sobald eine KI übergriffig wird, müsste sich demnach nur noch eine Klägerin fix melden, eine Richterin rechtzeitig zum Urteil kommen, ein handlungsfähiger Staat noch vorhanden sein. Ich weiß nicht, wer sagen kann, wie eng dieses Rennen wird.
12 Sep 2026
LINKS
[1] https://x.com/hilbertspaess/status/2097476196791709843
[2] https://www.sueddeutsche.de/wissen/ki-agenten-angriff-open-ai-hugging-face-bericht-li.3540162
[3] /KI-und-Demokratie/!6206568
[4] https://www.faz.net/aktuell/wirtschaft/kuenstliche-intelligenz/produkthaftung-fuer-ki-software-was-hersteller-wissen-muessen-accg-201205083.html
[5] https://dserver.bundestag.de/btd/21/042/2104297.pdf
AUTOREN
Ulrike Winkelmann
Kolumne Ernsthaft?
Schwerpunkt Künstliche Intelligenz
Digital Services Act
Digitale Souveränität
Haftung
Reden wir darüber
ARTIKEL ZUM THEMA
KI-Forscherin Theresa Züger: „Das Hauptproblem ist die Verantwortungslosigkeit“
Wenn Tech-CEOs vom Ende der Menschheit fabulieren, wollen sie Verantwortung verschieben. Dabei bräuchte es eine gemeinwohlorientierte KI.
Debatte über künstliche Intelligenz: Entschleunigung mit Hintergedanken
Etwas langsamer bitte – mit diesem Ansinnen machen KI-Konzerne gerade Schlagzeilen. Experten vermuten allerdings keinen Altruismus dahinter.
OpenAI verschiebt Börsengang: Macht langsam!
Die großen Techfirmen OpenAI und Anthropic fordern mehr Vorsicht bei der KI–Entwicklung und haben vor, sich härter zu regulieren. Elon Musk findet das gut.
Risiken und Regulierung von KI: Menschengecodete Krise
Auf einmal ist der Aufschrei nach Regulierung der KI-Entwicklung groß. Dabei ist die Debatte um die Gefahren unkontrollierter Systeme nichts Neues für die Menschheit.
Künstliche Intelligenz: US-Techbosse pochen auf langsamere Entwicklung
Seit Jahren gibt es Aufrufe, KI-Entwicklung zu verlangsamen. Nach Zwischenfällen gibt es nun unter KI-Unternehmern erste Schritte in diese Richtung.
Kirche und Künstliche Intelligenz: 60 Prozent der Pfarrer nutzen KI
KI-Tools gehören für viele Geistliche inzwischen zum Arbeitsalltag. Besonders häufig helfen sie bei Recherche, Texten und Übersetzungen.
Energie und KI in Deutschland: Emirate wollen Geld regnen lassen
40 Milliarden Euro an Investitionen kündigen die Vereinigten Arabischen Emirate an. Sie sollen vor allem in Infrastruktur fließen.
Peter Thiel erhält Axel Springer Award: Ein Preis für den Antichristen
Der einflussreiche Tech-Apokalyptiker Peter Thiel wird vom Axel-Springer-Verlag ausgezeichnet. Dessen CEO Döpfner will endlich bei den großen Tech-Bros mitspielen.
Künstliche Intelligenz und Tech-Branche: „Gut genug“ reicht auch erstmal aus
Die Rechenleistung von KIs wächst schneller, als eine demokratische Öffentlichkeit es verarbeiten kann. Was ist die Alternative zu Tech-Imperialismus?