Gesendet am 14. November 2010 im Kulturjournal, Bayern 2

PLUG & PRAY – ein Film über künstliche Intelligenz

Joseph Weizenbaum

Joseph Weizenbaum image © Claus Biegert


Die Welt von heute: ein Chaos von Prozessen, die sich gegenseitig behindern oder sich voneinander entfernen; dazwischen immer wieder Individuen und Initiativen, die daran arbeiten, aus der Kopflosigkeit einen Ausweg zu finden. Dieses heillose Durcheinander hat einen seriösen Namen: Paradigmenwechsel.

Die Hopi-Indianer, zuhause auf dem Colorado-Plateau im Inneren Nordamerikas, haben eine Jahrtausende alte Prophezeiung, die eine derartige Wendezeit weissagt. Diese Phase der Umwälzung heißt in der Hopi-Sprache Koyanisquatsi.

Mit Koyanisquatsi wird ein Zustand beschrieben, der aus dem Gleichgesicht geraten ist und der nach einem neuen Gleichgewicht sucht.

Und so werden wir Koyanisquatsi erkennen: Kürbisse mit heißer Asche fallen vom Himmel und bringen den Tod; Menschen gehen in den Weltraum und landen auf dem Mond; das Wetter ändert sich und ebenso die Lage unseres Planeten; ein unsichtbares Netz umspannt die Erde; die Menschen laufen ohne Köpfe umher und verlieren die Orientierung; in der Folge werde sich die Menschheit auf einem Zickzackkurs bewegen und vergessen, was für das Leben von Bedeutung ist.

Die Tod bringenden Kürbisse wurden von den Hopi im August 1945 gedeutet: als die amerikanischen Atombomben auf die japanischen Städte Hiroshima und Nagasaki abgeworfen wurden. Über Klimaveränderungen und Bewegungen der Pole schreiben inzwischen die naturwissenschaftlichen Magazine. Das unsichtbare Netz um den Erdball könnten auch wir interpretieren: www. – the World Wide Web. Und die kopflosen Menschen im Zickzack-Kurs sind unschwer als die Protagonisten einer Welt zu erkennen, die aus den Fugen ist.

Der amerikanische Filmemacher Godfrey Reggio hat in den achtziger Jahren einen Film geschaffen, dem er den Titel "Koyanisquatsi" gab. Darin führt er uns eine Zivilisation vor Augen, die sich in der Beschleunigung verirrt; die Musik von Philip Glass trug mit dazu bei, Koyanisquatsi zum Kultfilm werden zu lassen.

Der deutsche Regisseur Jens Schanze hat mit "Plug & Pray" jetzt einen Dokumentarfilm beigesteuert, der uns in die Labore der künstlichen Intelligenz führt. Und der auch das Zeug hat, Kult zu werden. "Plug & Pray" – in Anlehnung an den lockeren Werbespruch "plug & play", doch statt anschalten und los spielen, heißt es oft abwarten, was der Computer tun wird.

Was ist künstliche Intelligenz? Diese Frage müssen wir uns stellen, denn: Wenn das Computerprogramm unseres Geschirrspülautomaten seine Wassermenge nach der Verschmutzung der Teller bestimmt, dann haben wir bereits zugelassen, dass die künstliche Intelligenz in unser Leben eingedrungen ist. Also Vorsicht mit voreiliger Distanzierung und Verweigerung; künstliche Intelligenz hat längst unseren Alltag und unseren Arbeitsplatz erobert. Doch der Münchner Dokumentarfilmer Jens Schanze führt uns in Japan, Italien, Deutschland und in den USA in die Etagen der Robotic: Etagen, die sich in den Wolken befinden und von denen aus der Blick auf die Erde vernebelt ist. Er führt uns in Labore, die eine eigene Welt darstellen, die wenig mit unserer Welt gemein hat. Abgeschieden sitzen hier die Erfinder, die das Heil im künstlichen Menschen sehen; die es als dringlich erachten, endlich Roboter wie Mitbürger zu betrachten; die Millionenetats verbrauchen, um Menschensurrogate zu erschaffen.

Jens Schanze war nah an ihnen dran; was treibt diese Menschen an?

JENS SCHANZE
(P&P 30:11) Es gab eine Besucherin mal, auf dem Festival in Seattle, wo der Film lief, also, das ist doch unglaublich wozu einen die Angst vor dem Tod bringen kann. Das ist die Antwort auf diese Frage... Ich glaube, dass das in der Tiefe ein unglaublich starkes Motiv sein muss, wenn man diese Art von Technologie verfolgt, also wie Kurzweil es macht. Die Überwindung des Todes, und es auch so konkret benennt, wie das gehen soll, und was für eine Erlösung für die Menschheit das sein wird, dann kann das eigentlich nur das große Motiv sein.

AUTOR
Raymond Kurzweil, geboren 1948, gilt als führender Kopf der künstlichen Intelligenz, er hat 19 Ehrendoktortitel, seine für Blinde entwickelten Maschinen, die Texte laut lesen und übersetzen können, führte zu einer engen Freundschaft mit dem blinden Musiker Steve Wonder. Daraus entstand die Arbeit an künstlichen Klängen und 1984 stellte Kurzweil den ersten Synthesizer vor. Keyboards heißen sie heute und sind aus der Musikindustrie nicht mehr wegzudenken. Kurzweil ist inzwischen auf dem Weg zu Höherem, Komplizierterem.

RAYMOND KURZWEIL:
I discovered the computer at age 12, today every 12 year old uses a computer. But back then there were may be only a dozen computers in NYC. But I had the idea very early on that computers could simulate everything else that we care about: could simulate Music, could simulate art, could simulate virtual reality environments, could re-create human intelligence which is the most important phenomena in the world, and ultimately amplify our intelligence. And I point out that we already have today many examples of what I call "narrow artificial intelligence": flying and landing airplanes, guiding intelligent weapon systems, making billions of dollars of financial decisions every day, automatically diagnosing illnesses, and put it 20 years, around 2029, computers will match the full range of human intelligence; so we will be more machine like then biological. When I say this, people say, I don't wanna become a machine. But they are thinking of today's machines ... I am talking about a machine which is just as sidle, just as complex , just as endearing, just as emotional as human beings, and even more so, and even more exemplary then our moral, emotional and spiritual intelligence. We're gonna merge with this technology, we are going to become hybrids of biological and non-biological intelligence and ultimately will become a million of times smarter than we are today. And that's our destiny.

VOICE OVER:
Ich habe den Computer entdeckt, als ich 12 war. Heute hat ja jeder 12jährige einen PC. Damals gab es in New York City vielleicht ein Dutzend Computer. Ich hatte damals schon die Vorstellung, dass Computer alles simulieren können, was uns wichtig ist: Musik, Kunst, virtuelle Realität, und menschliche Intelligenz, das bedeutendste Phänomen auf der Welt. Es gibt heute schon viele Beispiele für, was ich "begrenzte künstliche Intelligenz" nenne: damit werden Flugzeuge geflogen und gelandet, Waffensysteme geleitet, finanzielle Entscheidungen in Millionenhöhe getroffen, automatisch Krankheiten diagnostiziert. Lassen wir noch 20 Jahre vergehen, sagen wir 2029, da werden Computer so intelligent wie Menschen sein. Und wir selbst werden dann mehr Maschinen sein als biologische Wesen. Wenn ich das sage reagieren viele Leute mit Abwehr und sagen: Ich will doch keine Maschine sein. Doch sie denken dann an die Maschinen wie wir sie heute haben... Aber ich spreche nicht über die heutigen Maschinen. Ich spreche über Maschinen, die ebenso raffiniert und komplex sind wie ein Mensch, ebenso liebenswert und ebenso gefühlvoll. Vielleicht sogar noch besser und vorbildlicher was unsere moralische, emotionale und spirituelle Intelligenz betrifft. Wir werden mit dieser Technologie verschmelzen. Wir werden Hybridwesen sein aus biologischer und nicht-biologischer Intelligenz. In der Folge werden wir millionenfach klüger sein als wir heute sind. Das ist unsere Bestimmung.

WEIZENBAUM: (P&P 18:29)
Brauchen wir das?

AUTOR:

Das war die Frage eines alten Mannes. Immer wieder richtet Schanze seine Kamera auf ihn, der immer wieder dieselbe Frage stellt:

WEIZENBAUM:
Brauchen wir das?

AUTOR:
Es ist der Computerpionier Joseph Weizenbaum, ein deutscher Jude, dessen Eltern

(P&P 32:45) WEIZENBAUM
Drei Sachen sind zusammen gekommen. Eins war die Civil Rights Bewegung in Amerika, die mit einem Mal in Blut und Schlägereien mündete, dann war der Vietnam-Krieg der so offensichtlich ungerecht und ungerechtfertigt war, und dann die enge Verbindung zwischen dem MIT und dem Pentagon, Waffenentwicklung, Strategieentwicklung, und dann kam Eliza und da musste ich mich fragen, was machen wir hier eigentlich? Dann kam eine Zeit von, fast würde ich sagen, Despair, Verzweiflung, wenn ich bei MIT war, da war ich Professor für Computer Science und musste es lehren und alles das, ich benutze jetzt das Wort "musste" als ob ich es gar nicht wollte, okay, die Lehre war fein, das hat mich nicht gestört, aber dann kam eine Zeit, da konnte ich einen Computer gar nicht berühren, I was sick of it, ich konnte es einfach nicht, und ich war Professor in Computer Science am MIT, umgeben von Computern.

(P&P 34:20) AUTOR:
Die Europäische Kommission möchte mit Robotern unter anderem die rückläufige Geburtenrate in den EU-Ländern ausgleichen. Sie hat 400 Millionen Euro bereit gestellt, damit Forscher eine neue Generation von Robotern entwickeln.

Bis 2030 will das Pentagon 160 Milliarden Dollar in den Aufbau einer weitgehend automatisierten "Future Combat Force" investieren. Deutschland möchte als drittgrößter Rüstungsexporteur Anschluss an diesen Markt halten.

Raymond Kurzweil hat im Silicon Valley auf dem gelände der NAS eine Universität gegründet. Ihre Mission ist, die Menschheit auf die zunehmende Geschwindigkeit der technologischen Entwicklung vorzubereiten. Hauptsponsor der privaten Hochschule ist die Internetsuchmaschine Google.

O-TON FILM (P&P 14:00 japanische Computerstimme)
AUTOR
Der Paradigmenwechsel wird einher gehen mit einem babylonisches Wortgewirr. Das stammt aus keiner Prophezeiung. Zu diesem Schluss kommt man, wenn das Verstanden-werden als unerreichte Ziel erscheint. Josef Weizenbaum wollte einmal einem japanischen Roboter-Ingenieur klar machen, dass er im Alter nicht von einem Roboter gepflegt werden wolle, da er keine Maschine um sich haben möchte. Da würde ich mir lieber, sagte Weizenbaum, einen Hund anschaffen. Kein Problem, sagte der Japaner, wir können dir einen künstlichen Hund bauen. 18:40 Sie war nie ein Kind.... Brauchen wir das?

(P&P 33:14) WEIZENBAUM
Wir müssen den Zeitgeist ändern. Wir müssen die Ehrfurcht vor dem Leben verstärken. Wir müssen Bescheidenheit einführen und nicht das Gott-spielen, was besonders in der Robotik und der Computer-Science so oft auftaucht. Wir müssen unsere Werte ändern, Kooperation statt Konjunktur, also, wir freuen uns, wenn die Zeitungen melden, das der Wachstum in Deutschland dieses Jahr ist um 5 % gewachsen, das ist viel besser als letztes Jahr, als es nur 4.5 Prozent waren. Nein! Es muß ein Ende zu dem Wachstum geben. Man braucht die Einsicht, dass ein bescheideneres Leben kann zu einer viel besseren Lebensqualität führen. Wir müssen die Konsumgesellschaft abschaffen.



JENS SCHANZE
0:39 Die Tatsache, dass in unserem Film keine einzige Frau vorkommt, ist schon ein mehr oder minder repräsentatives Bild, wie es in der Realität aussieht 1: 35 Der einzige Wegweiser, den ich hatte war Joseph Weizenbaum. Die Begegnung mit ihm stand am Anfang der Beschäftigung mit dieser Thematik... 2:00 ...ohne ihn würde es diesen Film nicht geben.

JENS SCHANZE
5:00 ... sein großer Wunsch war ja, nochmal ans MIT eingeladen zu werden , um dort eine Vorlesung zu halten, und zwar nicht vor denen, die dem kritischen Denken eh gewogen sind, sondern vor den Technokraten; und die Einladung ist niemals erfolgt.

6:50 Er war mit Sicherheit ein Solitär. Weil ich niemanden anderen Kenne, der so in die Computer_Szene involviert war, und dann von innen heraus, auf Grund seiner praktischen Erfahrungen eine kritische Haltung entwickelt hat und deswegen natürlich auch eine sehr hohe Glaubwürdigkeit entwickeln konnte, weil er absolut wusste, wovon er spricht. Und solche gibt es nur ganz, ganz wenig, weil so wie er das auch erlebt hat, in der Regel bedeutet, dass die aktive wissenschaftliche Laufbahn in dem Moment beendet ist, wo du anfängst, dich kritisch gegenüber deiner eigenen Gemeinde gegenüber zu äußern. Du kriegst schlicht und einfach kein Geld mehr.

JENS SCHANZE
13:30 Mein Wahrnehmung ist, dass die alle so spezialisiert sind, dass sie eine spezialisierte Leidenschaft besitzen für einen ganz kleinen Ausschnitt des Lebens, oder einen kleinen Ausschnitt der Welt... so wie ich sie wahrgenommen habe, ist für sie dieser kleine Ausschnitt die Welt, oder das Universum, und alles andere wird bestenfalls zu Kenntnis genommen ohne dass es eine Rolle spielt bei den Überlegungen, die sie anstellen...möglicherweise wird es gar nicht zu Kenntnis genommen.

JENS SCHANZE
15:13 Die Erfahrungen, die wir während der Dreharbeiten gemacht haben, die bestätigen das, denn mein Gefühl ist, dass die große Vielfalt und Reichhaltigkeit des Lebens in diesen Laboren vollkommen ignoriert wird.

NEIL GERSHENFELD (P&P 41:50)
This research is being done at the Center for Bits and Atoms of MIT which loves to explore the boundary between physical Science and Computer Science. What we are trying to do is, create life in engineered materials. This is the real emobdyment of nanorobotics.

VOICE OVER:
Wir hier im Center for Bits and Atoms am MIT erkunden die Grenze zwischen den Naturwissenschaften und Computerwissenschaft. Wir versuchen Leben in technischen Materialen zu erschaffen. Das ist Sinn und Zweck von Nano-Robotics.

NEIL GERSHENFELD (P&P 43:30)
The answer in your body is debugging. There is the immune system in your body that checks, is there something that you consider foreign. And the ultimate debugging is death: weather you live to reproduce or die, because of bugs in your construction. What we are looking at, is the mathematics of optimization into these devices. Since we are creating new systems we don't wonna wait a billion years for evolution.

KURZWEIL (P&P 46:05)
It's great to deploy financial resources to help the world. But we need to invest into the right ideas. And in my view it is really only technology that has the scale to address the pressing problems we have today. 25 years from now, what now fits into a cell phone will fit into the size of a blood cell. We will have millions of computerized devices in our blood stream keeping us healthy. There is already dozens of experiments in animals with the first generation of devices that could replace our biological red blood cells. And it brings up an interesting observation about biology. While biology is very integrate and very clever it's also very suboptimal compared to what we are ultimately able to design with nanotechnology. Nanotechnology is designing things on the molecular level. And a conservative analysis of this ... indicates that if you replace a portion of your blood cells with these robotic devices you could do an Olympic sprint in 15 minutes without taking a breath or sit on the bottom of your pool for four hours... we will get there in 20 years (47:11).

WEIZENBAUM
Brauchen wir das?

(P&P 56:49)
Ein berühmter Philosoph, Dan Danett, in Amerika, der ist heute einer der führend en Personen in dem Bereich Philosophie und Computing, und der hat mal gesagt, wir müssen unsere Ehrfurcht vor dem Leben loswerden bevor wir mehr Fortschritte in der KI machen. Sowas bekämpfe ich – und das muss bekämpft werden! – und rufe nach Vernunft und Bescheidenheit und Respekt für das Leben.

JAPAN (P&P 1:15:25)
Wenn ein Roboter etwas anstellt, wird heutzutage der Ingenieur verantwortlich gemacht oder der Operator. Denn noch kann ein Roboter nicht selbstständig handeln. Aber wenn sich die künstliche Intelligenz entwickelt, wird auch die Zeit kommen, in der Roboter Verantwortung für ihr Handeln tragen.

KURZWEIL (P&P 1:19:00)
How long do you go without changing the software on your personal computer? Probably not more than a few months. But we have software inside our bodies that is thousands of years old. And it is out of date. It's desolate. Now health and medicine has become a computerized information technology. So we will be able to go beyond our biological limitations, creating systems in the size of our cells that are not biological like nanorobots, nanobots.... 25 years from now we will have millions or billions of these blood cell devices going inside of our bloodstream, correcting DNA errors, destroying cancer cells, destroying bacteria and viruses, moving debris, basically keeping us healthy on the cellular level. So deceases won't get to the point of being deceases. As soon as a single cell manifests some problem, these Nanobots will correct it and keep us really at vital health at all times. At that point we will be able not only to stop the aging process but even reverse it so we can stay young and vital really indefinitely.

KURZWEIL (P&P 1:22:55)
The idea that we have to die, that death is a good thing, these are things that come from religion. Religion emerged in pre-scientific times. One major role of religion is, to deal with this impending tragedy that we die. So we rationalize this tragedy, and that's really what it is, oh, death is really a good thing. Then we look at the natural world and we see that everything dies and we think okay, that must be a good thing. But actually, human beings have always been the species that goes beyond natural order. We are not like all the other animals. And that's what technology enables us to do.

WEIZENBAUM

Sowas bekämpfe ich – und das muss bekämpft werden! – und rufe nach Vernunft und Bescheidenheit und Respekt für das Leben.