taz.de -- Technikforscher über neue Intelligenz: „Eine typische Vermenschlichung“
Die Rechenleistung von Maschinen überholt das menschliche Gehirn. Von „neuer Intelligenz“ will Technikforscher Christopher Coenen nicht sprechen.
Bild: Vor denen müssen wir wohl eher keine Angst haben. (Archivbild 2003)
taz.am wochenende: Herr Coenen, Sie bearbeiten mit Kollegen vom[1][Büro für Technikfolgenabschätzung beim Deutschen Bundestag (TAB)] momentan ein Projekt zum Thema „Mensch-Maschine-Entgrenzung“. Hat die Politik Angst vor Künstlicher Intelligenz?
Christopher Coenen: Von Angst würde ich nicht sprechen. Aber manche Abgeordnete sind besorgt und fragen sich, was sich in der Neuro- und in der KI-Forschung entwickelt. Sie interessieren sich auch für die aktuellen Diskussionen um [2][Cyborgs, also Mensch-Technik-Verschmelzungen], und um Künstliche Intelligenz (KI). Die Politiker wollen wissen, ob diesen „transhumanistischen“ Diskussionen realistische Zukunftsbilder zugrunde liegen.
Der Informatiker Jürgen Schmidhuber, der zu Künstlicher Intelligenz forscht, glaubt, dass in wenigen Jahrzehnten ein einziger Computer die Rechenkraft der ganzen Menschheit haben wird.
Zweifellos wird die Rechenleistung weiter schnell wachsen. Das ist eine überzeugende Prognose.
Schmidhuber sagt, das stelle den Menschen als Krone der Schöpfung infrage.
Ich glaube nicht, dass dies ein zutreffendes Bild ist. Diese Angst-Lust teile ich nicht, dass da etwas kommt, das uns zerstört oder erlöst von unserer metaphysischen Einsamkeit im All.
Verharmlosen Sie damit nicht die Entwicklung?
Es stimmt, dass die Systeme immer komplexer werden und von den Menschen zum Teil gar nicht mehr zu verstehen sind. Sie könnten auch außer Kontrolle geraten. Aber ich sehe nicht, dass daraus eine [3][gänzlich neue Form der Intelligenz] entsteht.
Sie sehen also keine Anhaltspunkte dafür, dass Künstliche Intelligenz ein Selbstbewusstsein entwickeln kann?
Nein. Wir haben ja schon kein gutes Verständnis davon, warum wir selbst selbstbewusst sind. Ein denkendes Wesen mit Bewusstsein und einer Persönlichkeit wie HAL aus „2001 – Odyssee im Weltraum“ – sehe ich nicht entstehen.
Was ist der Unterschied zwischen Intelligenz und Selbstbewusstsein?
Selbstbewusstsein ist das Wissen um die eigene Existenz, die Fähigkeit, sich selbst und seine Handlungen zu reflektieren. Das ist etwas anderes als Rechenleistung. Wie soll aus der Quantität eine neue Qualität werden?
Würden Sie also sagen, Maschinen können nur instrumentelle Vernunft erlernen?
Auch wenn quasi eine andere Art von Vernunft in sie hineingebaut würde, blieben es letztlich Instrumente. Diese Vernunft bliebe deshalb also immer zweckrational.
Der Historiker Philip Mirowski spricht schon heute von einer Cyborg-Ökonomie.
Ja, aber das ist etwas anderes: Soziotechnische Systeme, wie das in der Soziologie genannt wird, werden auf jeden Fall immer komplexer. Ein Beispiel ist die Börsenwelt. Die Händler verstehen nicht mehr, wie ihre Systeme funktionieren.
Heißt das, wir sind schon heute der Technik unterworfen?
In gewisser Hinsicht konnten wir uns noch nie unabhängig von Technik definieren. Das Smartphone, das unser Gespräch hier aufzeichnet, bestimmt unser Verhalten mit. Der Mensch ist das Technik nutzende Wesen.
Viele Wissenschaftler sind von den Möglichkeiten der Künstlichen Intelligenz, die sie in Zukunft erwarten, begeistert. Andere warnen: Die KI könnte das Ende der Menschheit einläuten.
Aber beide Aussagen kommen aus dem gleichen, stark transhumanistisch geprägten Milieu. Diejenigen, die Diskussionen über solche existenziellen Risiken anfachen, erhoffen sich zugleich besonders viel von der Künstlichen Intelligenz. Beispielsweise der [4][Internetunternehmer Elon Musk] oder der [5][Philosoph Nick Bostrom]. Das ist die Aufmerksamkeitsökonomie: In dieser ist es fast egal, ob du sagst, irgendeine Entwicklung kann die Welt retten oder vernichten. Ähnliches findet sich bei den Diskussionen um synthetische Biologie oder Nanotechnologie: Neuerschaffung oder Untergang der Welt.
Utopie und Dystopie liegen nah beieinander. Wo verorten Sie sich?
Aus der Perspektive der Technikfolgenabschätzung würde ich sagen: Da tun sich viele interessante Dinge, aber radikal Umstürzendes im transhumanistischen Sinn sehe ich nicht. Trotzdem habe ich seit Monaten fast jede Woche eine Interviewanfrage zu dem Thema. Es ist ein Hype.
Wie erklären Sie sich das?
Wir haben umstürzende Veränderungen in unserer Realität, eine vollkommene Technisierung des Soziallebens, angefangen mit dem Babyphone und endend mit dem virtuellen Friedhof. Das beunruhigt uns. Wenn wir über Gefahren von Künstlicher Intelligenz in der Zukunft sprechen, geht es eigentlich um unsere Gegenwart.
Computersysteme können heute selbst lernen. Ist das nicht eine andere Qualität als ein Babyphone?
Sicherlich, aber der Mainstream der KI-Forscher unterscheidet zu Recht zwischen Maschinenlernen und den übertriebenen Visionen zu Künstlicher Intelligenz. Die Forschung kann sich zum Teil daran orientieren, wie das menschliche Gehirn funktioniert, aber es geht nicht um die Erschaffung neuer Wesen. Viele KI-Forscher sind irritiert über die aktuelle Diskussion. Die fragen sich: Kommt jetzt wieder eine Debatte, die dem Ansehen des Fachs schadet, wie es sie bis Mitte der 1990er Jahre mehrfach gegeben hat?
Aber seitdem hat sich in der Forschung viel getan. Mittlerweile können Geräte sogar unsere Gefühle erfassen und simulieren.
Das stimmt zum Teil. Aber das heißt ja nicht, dass uns etwas gegenüber sitzt, das selbst fühlt. Im Alltag gibt es schon KI, die Gefühle simuliert: Datingportale nutzen zum Beispiel Bots, die dem Nutzer antworten, und der denkt, er spricht mit seiner Traumfrau. Aber dieser Bot ist doch trotzdem nicht jemand, der sich fragt, warum er existiert und ob es einen Gott gibt.
Die Künstliche Intelligenz kann also unkontrollierbar werden, aber nicht die Macht ergreifen.
„Die Macht ergreifen“, das ist so eine typische Vermenschlichung. Es gibt das Gedankenspiel des Philosophen Bostrom von einer Künstlichen Intelligenz, die erschaffen wurde, um Büroklammern herzustellen. Und dann ordnet diese Künstliche Intelligenz alles dem Ziel unter, Büroklammern herzustellen. Das endet in einem Universum, das vollständig in Büroklammern umgearbeitet ist.
Klingt unwahrscheinlich.
Ja, aber es können Systeme geschaffen werden, denen Ziele eingebaut sind, und wir Menschen unterwerfen uns solchen Systemen. Das kann auch eine positive Vision sein.
Eine Büroklammern-Maschine ist ja nicht die gefährlichste Vision. Auch im Militär wird an der KI geforscht. In einem[6][offenen Brief] hat der berühmte Physiker Stephen Hawking zusammen mit mehr als 16.000 anderen Wissenschaftlern vor einer „dritten Revolution“ in der Waffentechnik gewarnt – nach dem Schwarzpulver und der Nukleartechnik.
Die Beunruhigung ist verständlich, weil es um existenzielle Entscheidungen geht – Leben oder Tod. Wenn wir an diese Geräte Entscheidungen übertragen, hat das im militärischen Bereich eine andere Qualität als eine Konsumempfehlung.
Wo sollten wir der KI Grenzen setzen?
Wir sollten keine Entscheidungen, bei denen es um Leben und Tod geht, durch technische Prozesse ersetzen. So neu ist das Problem aber nicht.
Warum?
Schon heute ist es Realität, etwa in der Medizin oder an der Börse, dass Entscheidungen auf der Basis technisch erzeugter Handlungsempfehlungen getroffen werden. Der Mensch versteht nicht, wie es zu den Empfehlungen kommt, und muss sich darauf verlassen.
Wir haben die Grenze also längst überschritten.
Ja. Aber weiterhin wichtig ist, dass solche Prozesse möglichst transparent sind. Das wäre eine Art ethische Leitlinie. Das ist in der Realität allerdings nicht immer möglich. Wenn wir sehr schnell eine Entscheidung treffen müssen, dann vertrauen wir darauf, dass Technik von gutwilligen Menschen so eingerichtet wurde, dass wir geeignete Entscheidungsgrundlagen erhalten. Aber dann bleibt es trotzdem noch unsere Entscheidung, was wir tun.
Im 19. Jahrhundert haben Arbeiter Maschinen zerstört, weil sie Angst hatten, überflüssig zu werden. Kommt der Kampf zwischen Mensch und Maschine zurück?
Nein, es ist auch heute noch ein Kampf zwischen Menschen um Ressourcen. Wir müssen uns die Frage stellen, was wir aus dem technischen Fortschritt und dem Produktivitätszuwachs machen. Wir sind nah dran, dass fast alle stupiden Arbeiten von Maschinen übernommen werden können. Klar ist, dass viele Jobs wegfallen und durch Technik ersetzt werden, um Kosten zu sparen. Es ist eine politische Frage, wie wir damit umgehen.
11 Sep 2015
LINKS
[1] http://www.tab-beim-bundestag.de/de/
[2] http://www.taz.de/!5056686/
[3] http://www.taz.de/!5040153/
[4] http://www.taz.de/!5214394/
[5] http://www.faz.net/aktuell/feuilleton/buecher/nick-bostrom-zukunftsdenker-die-superintelligenz-ist-gar-nicht-super-13329615.html
[6] http://futureoflife.org/AI/open_letter_autonomous_weapons
AUTOREN
Kersten Augustin
Bigna Fink
Cyborg
Technologie
Schwerpunkt Künstliche Intelligenz
Computer
ARTIKEL ZUM THEMA
Neues Buch von Nick Bostrom: Würde in der Matrix
Der Blick des Philosophen und Politikberaters Nick Bostrom in die Zukunft gleicht einer Science-Fiction. Mit beängstigenden Implikationen.
Astrophysiker warnt vor Weltuntergang: Hawking misstraut dem Fortschritt
Eindringlich warnt Stephen Hawking vor den tödlichen Gefahren des Fortschritts – ob künstliche Intelligenz oder Gentechnik. Und nennt sich trotzdem Optimist.
Künstliche Intelligenz: Professor Helbing und seine Mission
Dirk Helbing will mit künstlicher Intelligenz die Welt handhabbar machen. Der Physiker knüpft dazu seit Jahren weltweit ein Netzwerk.
US-Studie zu Fliegengehirnen: Was Fliegen riechen
Banane oder Jasmin? WissenschaftlerInnen können dank leuchtender Moleküle nachweisen, was Fliegen riechen und fühlen.
Künstliche Intelligenz: Mensch, gib mir deine Daten
Die Entwicklung künstlicher Intelligenz ist ein altes Militärprojekt. Nun sprechen Forscher von einer Revolution. Gefahr oder Chance?
Bodyhacking: „Der Körper wird digital stimuliert“
Die italienische Hackerin Tatiana Bazzichelli fordert mehr Lust beim Hacken. Ein Gespräch über Cyborgs, Sex-Toys und politische Neugier.
Robotik und Gesellschaft: Revolution der Maschinenwesen
Autonom agierende Maschinen werden in vielen Bereichen den Menschen ersetzen. Sie sollen Pflegedienste übernehmen und Kampfroboter sein.
Künstliche Intelligenz im Turing-Test: „Captain Cyborg“
Angeblich hat ein Computer den Turing-Test bestanden und künstliche Intelligenz bewiesen. Doch es sind Zweifel angebracht.
Mensch und Maschine: Terminator mit menschlichem Antlitz
Schritt für Schritt bauen sie ihren Körper mit Technik aus. Sogenannte Cyborgs erfreuen sich in Berlin einer kleinen, aber regen Community.
Eintauchen bei den Gehörlosen: Zwischen Genozid und Cyborgs
Gehörlose diskutieren im Netz rege über ihr Verhältnis zum Rest der Gesellschaft. Gibt es ein Recht auf Taubheit? Oder sollte man gleich Cyborg werden?
Verschmelzen von Körper und Maschine: Wir Cyborgs
Die Datenbrille Google Glass zeigt, wie wenig Technik und Mensch noch trennt. Doch die Symbiose aus Körper und Maschine geht noch viel weiter. Ein kurzer Scan.