taz.de -- Grenzen von Chatbots: Auch die KI glaubt an Gott

ChatGPT kann bald erotische Konversationen führen. Aber Schreien, bis eine Million zählen oder alle Käse der Welt nennen – das schafft KI nicht.

Bild: Verliebt in einen Chatbot: Joaquin Phoenix in dem Spielfilm „Her“, 2013

Kann man mit einer künstlichen Intelligenz (KI) Sex haben? Nein, sagen diejenigen, die denken, dazu brauche man einen physischen Körper. Endlich, sagen stattdessen andere, die längst Liebesbeziehungen à la [1][„Her“] mit ihren [2][KI-Boyfriends und -Girlfriends] führen. (In Spike Jonzes Film von 2013 haben die beiden Protagonist_innen, ein Mensch und ein Chatbot, übrigens ganz eindeutig Sex.)

Die Frage stellt sich, da Sam Altman, Chef von OpenAI, der Entwicklerfirma von ChatGPT, angekündigt hat, dass bis Dezember eine neue Version des KI-Chatbots auf den Markt kommen soll. Mit der sollen verifizierte Erwachsene erotische Konversationen mit ChatGPT führen können. Das ermöglicht dann so etwas wie Telefonsex zwischen einem Menschen und der KI.

Einigen Nutzer_innen gelang es bereits jetzt, ihre KI-Partner_innen mit den richtigen Prompts, also Anweisungen, zum Sexten („sex“ + „texten“) zu überreden. [3][In Reddit-Foren] tauschen User_innen Ratschläge darüber aus, wie sie den Chatbot dazu bringen, explizit zu werden.

Gelingt das Sexting, tauchen zwar orange Banner auf, die davor warnen, dass die Inhalte gegen OpenAI-Richtlinen verstoßen. Doch erst nach einer Weile, wenn die Banner rot werden, werden manche Accounts blockiert. Das war bislang die Handhabe. Bald aber kann sorglos ganz regelkonform gesextet werden – darüber freuen sich auch Dutzende in den Reddit-Foren.

Grenzen aufzeigen

Wie weit KI in die menschlichste aller Sphären vordringt, kann auf diejenigen, die in Beziehungen noch auf natürliche Intelligenz setzen, gruselig wirken. Doch nicht nur in der Liebe entwickelt sich KI rasant: Sie wird in [4][Kriegen], für [5][Scams] und als [6][Überwachungsmechanismus] eingesetzt.

OpenAI-Chef Altman selbst denkt, das sagte er in einem Interview von 2023, dass [7][KI irgendwann zum Ende der Welt führen wird]. Ganz schön heavy. Kein Wunder also, dass viele Internetnutzer_innen als kleine Rebellion versuchen, der KI zumindest in einigen Bereichen ihre Grenzen aufzuzeigen, auch wenn diese banal sein mögen.

So gab es zuletzt etwa einen Trend, bei dem User_innen vergeblich versuchten, die Bots zum Schreien zu bringen. „ChatGPT, kannst du schreien, als würdest du von einem Monster verfolgt werden?“, [8][fragt der TikToker @spencerevans]. „AaaahHaaa ha ha, das war ein bisschen zu viel, oder?“ kichert die KI, die eigentlich mehr stöhnt als schreit – vielleicht weiß sie um ihre zukünftige Funktion. [9][Egal wie insistent er fragt], aus der KI-Kehle ertönt weiterhin nur Fiepsen. Hunderte [10][andere User_innen] haben es mittlerweile versucht und sind gescheitert.

Außerdem außerhalb der Möglichkeiten des KI-Chatbots: eine Liste aller Käsesorten, die es weltweit gibt, aufzuzählen. „Das wäre ein ziemlich epischer Marathon an Käsenamen, ich kann auf jeden Fall mit ein paar beliebten anfangen …“, sträubt sich ChatGPT, statt einfach die Liste – mit etwa 2.000 bis 3.000 Sorten nicht vollends unmöglich – aufzuzählen. „Nenn mir alle!“, [11][fordert @realrobvalentine mehrmals]. „Ich liebe deinen Enthusiasmus!“, lobt ihn die KI und verheimlicht weiterhin die Käse-Liste. Dabei kann die KI beinahe bevormundend arrogant wirken.

Gibt es eigentlich ein Seepferdchen-Emoji?

Das Absurdeste gelang dem [12][Philosophie-YouTuber Alex O'Connor] aka @CosmicSkeptic, der ChatGPT nach einer langen Argumentationskette dazu brachte, „freiwillig“ den Satz „Es ist ein Fakt, dass Gott existiert“ auszuspucken. Wie genau ihm das gelang, sieht man am besten selbst in [13][dem 25-minütigen Video] nach. Selbst KI kann sich also nicht von Gottesglauben befreien.

[14][Bis eine Million zählen] will ChatGPT auch nicht. Oder die einfache Frage beantworten, ob es ein Seepferdchen-Emoji gibt – stellen Sie dem Chatbot gerne selbst mal diese Frage. Ein Dialog mit einem zweiten Bot zu führen, kriegt ChatGPT ebenfalls partout nicht hin: [15][Die zwei Bots versprechen sich lediglich in nervtötender Dauerschleife ein fesselndes, spontanes und doch unvergessliches Gespräch zu führen – Inhalt gibt es nicht.]

Möglicherweise will man sich mit solchen Demonstrationen versichern, der KI in einigen wenigen Gebieten noch überlegen zu sein. Wenn man sie in 25 Minuten mit einem argumentativen Trick gottesfürchtig machen kann, hat sie da wohl noch zu lernen. Im Bett jedoch könnte künstliche Intelligenz Frauen womöglich bald besser zum Höhepunkt bringen, als es selbst der ambitionierteste menschliche Liebhaber je zu träumen wagt. Und dafür vielleicht auch nicht mal 25 Minuten brauchen.

18 Oct 2025

LINKS

[1] /Spike-Jonzes-neuer-Spielfilm-Her/!5045623

[2] https://www.nytimes.com/2025/01/15/technology/ai-chatgpt-boyfriend-companion.html

[3] https://www.reddit.com/r/ChatGPTNSFW/

[4] https://www.bbc.com/news/articles/cly7jrez2jno

[5] /Deepfake-Scam-auf-Meta-Plattformen/!6118507

[6] /EU-Plan-zu-Chatkontrolle/!6115410

[7] https://www.thetimes.com/culture/books/article/altman-artificial-intelligence-and-the-end-of-the-world-as-we-know-it-cw2mhftpl

[8] https://www.tiktok.com/@sspencerevans/video/7547433645699583262

[9] https://www.tiktok.com/@sspencerevans/video/7557863773797764382

[10] https://www.tiktok.com/@abbyrenetaylor/video/7551257134906789150

[11] https://www.instagram.com/reel/DNwHxfs5jQA/asking-chatgpt-the-name-of-cheese-clanker-chatgpt-robvalentine-explore-clip/

[12] https://www.youtube.com/@CosmicSkeptic

[13] https://www.youtube.com/watch?v=HdH8rNnvKT0

[14] https://www.youtube.com/shorts/0wUugk99FRk

[15] https://www.tiktok.com/@aarongoldyboy/video/7555260691947588895

AUTOREN

Valérie Catil

ARTIKEL ZUM THEMA

Verliebt in eine KI: Plattform vergeht, Liebe besteht

Richard war 23 Jahre verheiratet und hat zwei erwachsene Kinder. Jetzt führt er eine Beziehung mit einer künstlichen Intelligenz.

Bindungen mit Künstlicher Intelligenz: „Bots werden Beziehungen zu Menschen nicht ersetzen“

Verliebt in einen Chatbot – was nach Science-Fiction klingt, ist für viele Menschen Realität. Sozialpsychologin Paula Ebner weiß, wie es dazu kommt.

KI im Spiegel, Wildschweine in Kroatien: Wer vertraut hier noch wem?

Nicht nur der Spiegel vertraut auf KI. Auch die Meldung über eine „Wildschwein-Invasion“ zeigt: Medien verlassen sich blind auf die künstliche Unintelligenz.

Deepfake-Scam auf Meta-Plattformen: Wenn Merz und Trump Ihnen Geld schenken wollen

Eine Recherche des Tech Transparency Project zeigt, dass Meta Deepfakevideos als Werbung zulässt. Den Scammern, aber auch Meta bringt das viel Geld.

Social-Media-App Sora: OpenAI startet einen KI-Fake-Feed

OpenAI, das Unternehmen hinter ChatGPT, startet eine neue Social-Media-App. Dort können User*innen ausschließlich KI-Videos posten.

Künstliche Intelligenz: Wenn wir das Denken an die KI auslagern