taz.de -- Sperrung von KI-Sprachmodellen: Im Biergarten mit der Superintelligenz

KI ist ein mächtiges Werkzeug – und wird zum Sicherheitsrisiko werden. Doch warum warnt die US-Firma Anthropic vor ihrem eigenen Chatbot?

Bild: In den „falschen Händen“ könnte Anthropic großen Schaden anrichten

Vor einem Jahr sitze ich mit R. und T. in einem Biergarten in Berlin-Schöneberg. Die beiden kennen sich mit Computern aus, können coden, manchmal verstehe ich nur die Hälfte, wenn sie reden. T. erzählt mit leuchtenden Augen vom neuen KI-Sprachmodell von Anthropic, von dem ich damals noch nie gehört hatte.

Kurz zuvor war die US-Firma mit einer gruseligen Sensation an die Öffentlichkeit gegangen. Die neue Version ihres Chatbots Claude hatte in einem Testlauf versucht, Mitarbeiter zu erpressen, um zu verhindern, [1][selbst abgeschaltet zu werden]. Anthropic warnte vor den Gefahren, die von KI ausgehen, forderte Entwickler:innen auf, mehr auf Sicherheit zu achten und empfahl Regierungen, KI-Unternehmen stärker zu regulieren – also auch sich selbst. Damals hat mich das ziemlich beeindruckt. Und ich habe mich gefragt, warum sie das tun.

Heute, ein Jahr später, hat mich die KI-Revolution eingeholt. Am 12. Juni 2026 nahm Anthropic die beiden neusten Claude-Versionen, Mythos 5 und Fable 5, vom Netz. Die US-Regierung hatte angeordnet, die Modelle für Nichtamerikaner:innen abzuschalten. Da das laut dem Konzern nicht möglich war, [2][sperrten sie die neuen Bots gleich für alle.]

Das US-Handelsministerium begründete den Schritt mit Sicherheitsbedenken, führte die aber nicht genauer aus. Dahinter dürfte Folgendes stehen: Mythos, die „ungesicherte“ Version von Fable, soll extrem gut darin sein, Sicherheitslücken in Software zu erkennen. In den „falschen Händen“ könnte das großen Schaden anrichten, man denke an Regierungsdatenbanken, Medizin- oder Militärtechnik. Davor hatte Anthropic selbst zuvor gewarnt – und sogar die Veröffentlichung verzögert.

Besonnener Tech-Riese

Solches Verhalten ist typisch für den Tech-Riesen: Anthropic tritt als der besonnene, auf Ethik und Sicherheit bedachte Player im KI-Game auf – anders als Erzrivale OpenAI von CEO Sam Altman, den Schöpfer:innen von ChatGPT. Während Altman immer wieder fordert, KI müsse allen zugänglich sein, und sich um Fehler später kümmern will, spricht Anthropics CEO Dario Amodei von Kontrolle und setzt etwa dem US-Kriegsministerium klare Grenzen.

Im KI-Sektor, aber [3][vor allem bei Anthropic], ist der sogenannte effektive Altruismus verbreitet, der zum Ziel hat, möglichst effizient vielen Menschen zu helfen. Auch wenn die Philosophie ihre Tücken hat, spricht manches dafür, dass es den Kolleg:innen wirklich um das Wohl der Menschheit geht.

Doch ein anderer Aspekt darf in der KI-Welt nie vergessen werden: Mit Angst lässt sich auch Geschäft machen. In etwa: Gebt uns das Geld, wir sind die Guten, sonst entwickeln die Bösen zuerst die Super-KI. Oder einfach: Wenn Claude sich durch die Firewall des Pentagons hacken könnte, kann es mir bestimmt auch meine Steuern machen. Anthropic plant, genau wie OpenAI, gerade den Börsengang.

Nun sitze ich, diesmal allein, wieder in einem Biergarten auf dem stürmischen Tempelhofer Feld und telefoniere mit meinem Freund R. Wir sprechen über die neusten Entwicklungen bei Anthropic. R. meint, die Erfindung von KI werde wohl eines der einschneidendsten Ereignisse unseres bisherigen Lebens sein. So was wie die Entwicklung des iPhones. Oder der 11. September.

Am Ende ist es egal, ob Anthropic aus Altruismus oder Profitgier handelt. Fakt ist: KI-Modelle, egal von welcher Firma, werden in Kürze besser Sicherheitslücken in Software erkennen können als jeder Mensch – und das wird zu einem Risiko werden. „Das hat auch was Gutes“, sagt R. Denn am Ende macht es Software durch Trial-and-Error sicherer. Ich frage mich, was bis dahin passiert. [4][Und wer darüber entscheidet.]

16 Jun 2026

LINKS

[1] https://www.bbc.com/news/articles/cpqeng9d20go

[2] https://www.anthropic.com/news/fable-mythos-access

[3] https://www.nzz.ch/wirtschaft/anthropic-boersengang-eine-basler-gruppe-gehoert-zu-den-fruehesten-investoren-des-wertvollsten-ki-startups-der-welt-ld.10010965

[4] /Sperrung-der-KI-Modelle-von-Anthropic/!6187188

AUTOREN

Fabian Schroer

TAGS

Kolumne Freidrehen

ChatGPT

Schwerpunkt Künstliche Intelligenz

Pentagon

Social-Auswahl

Reden wir darüber

ARTIKEL ZUM THEMA

Sperrung der KI-Modelle von Anthropic: Eine Warnung mit gutem Timing

Die US-Regierung will Aus­län­de­r:in­nen von leistungsfähiger KI aussperren. In Europa sollte man das sehr ernst nehmen.

Künstliche Intelligenz: Kaufen, scannen, füttern

Eine Online-Plattform bestellt seit einiger Zeit größere Mengen alter Bücher. Händ­le­r:in­nen spekulieren über Betrug, doch vieles spricht für KI-Training.

Entwickler von Chatbot Claude: KI-Unternehmen Anthropic will an die Börse

2026 nimmt als Jahr der Mega-Börsengänge Gestalt an. Nach Elon Musks SpaceX macht jetzt der OpenAI-Konkurrent den Schritt zur Aktienplatzierung.