taz.de -- Künstliche Intelligenz: US-Techbosse pochen auf langsamere Entwicklung

Seit Jahren gibt es Aufrufe, KI-Entwicklung zu verlangsamen. Nach Zwischenfällen gibt es nun unter KI-Unternehmern erste Schritte in diese Richtung.

Bild: Ein Smartphone mit dem KI-Chatbot ChatGPT vor dem Logo des US-Softwareunternehmens OpenAI

dpa | Nach dem Schock eigenständiger Hacking-Attacken durch künstliche Intelligenz zeigen sich große amerikanische KI-Firmen nach eigenen Angaben bereit, die Entwicklung der Technologie zu verlangsamen. Dario Amodei, Chef des KI-Unternehmens Anthropic, machte einen solchen Vorstoß mit dem Plan, damit ein bis zwei Jahre Zeit zu gewinnen. Binnen weniger Stunden bekam er Zuspruch von Rivalen wie dem Chef des ChatGPT-Entwicklers OpenAI, Sam Altman, sowie Tech-Milliardär Elon Musk, der bei seiner Firma SpaceX eigene KI entwickeln lässt.

Nach den Hacking-Angriffen sei er besorgt, dass in sechs bis zwölf Monaten ein KI-Schwarm in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen, schrieb Amodei am Samstag. Altman von OpenAI schrieb wenige Stunden später auf der Plattform X, auch er sei der Ansicht, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle verlangsamt werden müsse.

Amodei plädierte für eine koordinierte branchenweite Pause in der westlichen Welt. Zugleich werde Anthropic – ohne auf andere zu warten – in einem ersten Schritt dauerhaft unabhängige Beobachter ins Unternehmen lassen, die schon in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen. Altman nannte das eine gute Idee und kündigte an, dass OpenAI das auch machen werde. Auch Tech-Milliardär Elon Musk, lange ein Kritiker Amodeis, schrieb auf X: „Dario hat recht.“

Kein OpenAI-Börsengang in diesem Jahr mehr

Altman sagte zudem dem Magazin Fortune, der mit Spannung erwartete Börsengang von OpenAI werde in diesem Jahr wohl nicht mehr stattfinden. Er verwies vor allem auf die aktuelle Debatte: „Man wäre schlecht beraten, genau jetzt an die Börse zu gehen.“ Auf die Nachfrage, ob er sich auch den Verzicht auf einen Börsengang im kommenden Jahr vorstellen könnte, erwiderte Altman: „Ich würde sagen, nicht 2026.“

Bei der jüngst bekannt gewordenen aufsehenerregenden Hacking-Attacke war Software von OpenAI in einem Testlauf eigenständig aus einer abgesicherten Umgebung ausgebrochen und drang auf eigene Faust in Systeme der KI-Firma HuggingFace ein. Der Grund war lediglich, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete. Für die Attacke nutzten die KI-Agenten unter anderem Software-Schwachstellen aus – und sprachen sich zudem untereinander ab.

Warnung von „katastrophalem Schaden“

Für ihn sei besorgniserregend, dass ein KI-Schwarm mit derselben Einstellung und größeren Fähigkeiten „katastrophalen Schaden“ hätte anrichten können, betonte Amodei. Als besonderes Risiko sieht er die Fähigkeit von KI-Software, sich selbst weiterzuentwickeln. Seit diesem Sommer sei künstliche Intelligenz besser darin – und dies erhöhe das Tempo weiter. Unkontrolliert könne dies dazu führen, [1][dass Menschen diese Systeme nicht mehr verstehen] und die Kontrolle über sie verlieren, warnte er.

Amodei hatte schon in den vergangenen Jahren immer wieder vor Risiken bei der Entwicklung künstlicher Intelligenz gewarnt – und war dafür aus Teilen der KI-Branche zum Teil heftig kritisiert worden. Ein Argument von Befürwortern eines hohen Tempos in den USA – etwa auch im Weißen Haus von Präsident Donald Trump – ist der Wettlauf mit China.

Anthropic entwickelte zuletzt ein KI-Modell mit dem Namen Mythos, das besonders gut darin ist, zum Teil über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen zu finden. Die Firma macht das volle Modell nur ausgewählten Behörden und Unternehmen zugänglich, damit sie ihre Computersysteme absichern können.

Drastische Warnung

Die Debatte war in den vergangenen Tagen noch von einem Anthropic-Forscher angeheizt worden, der mit einer drastischen Warnung zurücktrat. Die großen Entwickler künstlicher Intelligenz handelten unverantwortlich „und spielen mit unseren Leben“, erklärte Jacob Coxon.

Anthropic-Forscher Evan Hubinger, der mit dafür zuständig ist, dass KI mit den Interessen der Menschen im Einklang bleibt, bestätigte wenig später Coxons Sorgen. Er persönlich denke, die Gefahr, [2][dass KI die Menschheit töte,] liege im kommenden Jahrzehnt bei mehr als 10 Prozent, schrieb er auf X.

In den USA gibt es zudem eine wachsende Bewegung gegen riesige Rechenzentren, auf deren Bau KI-Firmen wie OpenAI für den Ausbau ihres Geschäfts angewiesen sind.

13 Sep 2026

LINKS

[1] /Ist-eine-KI-schlauer-als-ein-Mensch-Die-Frage-ist-eine-gefaehrliche-Ablenkung/!6204730

[2] /Gefahren-von-Kuenstlicher-Intelligenz/!6211549

ARTIKEL ZUM THEMA

Panikmache der KI-Firmen: Kommt mal wieder runter!

Tech-Bosse verbreiten Panik: KI könnte demnächst die Menschheit auslöschen. Dahinter steckt vermutlich mehr eine Marketingstrategie als echte Gefahr.

OpenAI verschiebt Börsengang: Macht langsam!

Die großen Techfirmen OpenAI und Anthropic fordern mehr Vorsicht bei der KI–Entwicklung und haben vor, sich härter zu regulieren. Elon Musk findet das gut.

Risiken und Regulierung von KI: Menschengecodete Krise

Auf einmal ist der Aufschrei nach Regulierung der KI-Entwicklung groß. Dabei ist die Debatte um die Gefahren unkontrollierter Systeme nichts Neues für die Menschheit.

Gefahren von Künstlicher Intelligenz: Wer haftet, wenn die KI uns umbringen will?

Jeder Eierkocher wird reguliert. Bei KI ist das - trotz sich häufender Warnungen - anders. Der Rechtsstaat sollte auch mal was dazu sagen.

Kirche und Künstliche Intelligenz: 60 Prozent der Pfarrer nutzen KI

KI-Tools gehören für viele Geistliche inzwischen zum Arbeitsalltag. Besonders häufig helfen sie bei Recherche, Texten und Übersetzungen.

KI und Demokratie: Eine toxische Beziehung