Joseph WeizenbaumJoseph Weizenbaum, Pressefoto »Rebel at Work«

Joseph Weizenbaum (8.1.1923 – 5.3.2008) gilt als einer der wirklich großen Pioniere der Computerei. Er war sich der primär militärischen Verwendung immer bewusst – »Meine Karriere verdanke ich Stalin« – und hat bis zuletzt davor gewarnt. 2007 hielt er seinen letzten Vortrag in München …

 

Joseph Weizenbaum, Computer-Pionier und -Kritiker

+

München 2007

Wer an München denkt, denkt an das jährliche Massenbesäufnis zu Ehren des späteren Königs Ludwig (des Ersten, weniger bekannten) und seiner Gemahlin Therese von Sachsen, an protzige Fußballstadien und teure Geschäfte, und natürlich an die seit 1946 unangefochten das Bundesland regierende »Katholische Einheitspartei« mit all ihren Ja-Sagern.

Wer an US-Amerikaner denkt, denkt an stromlinien-glatte Verfechter einer idiotischen Politik, mit dem Hintergrundwissen, das sie gerade mal für ihr Fachgebiet brauchen; Fremdsprachen gehören eher nicht dazu.

Doch das Bild täuscht – in München gibt es Intellektuelle (immerhin gibt es drei Universitäten), ebenso unter US-Bürgern. Weizenbaum war jedenfalls das absolute Gegenteil des Vorurteils-Amerikaners. Er sprach am 10. Mai 2007 im Audimax der TU auf Einladung des Verbandes Deutscher Ingenieure und diskutierte anschließend mit den Gästen (der Saal war mit ca. 1000 Leuten voll) – insgesamt fast vier Stunden lang. Viele Dinge kann man nachlesen; es gibt einige Bücher von ihm. Ich möchte mich deshalb einfach auf ein paar besonders interessante Punkte beschränken.

Zur Person

Anekdote am Rande
Weizenbaums vierjährige Tochter: »Kannst du mir sagen, wie spät es ist? Aber erkläre mir bitte nicht, wie die Uhr funktioniert …«

An das Rednerpult trat ein sehr alter großer Mann mit langen weißen Haaren, dessen Vortrag – auf Deutsch und ganz ohne Computer-Präsentations-Piffpaff – nicht eine Sekunde langweilig war und so gar nicht zum biologischen Alter des Vortragenden passte. Sofort entstand eine Atmosphäre der Sympathie. Die Fragen aus der Zuhörerschaft (bunt gemischt, von interessierten Schülern bis zu Ingenieuren im Ruhestand) wurden nicht moderiert, JW ging auf alle Themen ein.

Zur Biografie

Die Familie Weizenbaum konnte 1936 aus dem judenfeindlichen Nazi-Deutschland emigirieren. JW wurde dazu gefragt, und antwortete sinngemäß, für ihn persönlich sei die Auswanderung in die USA eine große Chance gewesen, und über diese Diktatur damals gäbe es ja wirklich nichts zu reden. Er stellte die Gegenfrage, ob es denn überhaupt eine sinnvolle Alternative dazu gäbe, sich als Kosmopolit zu sehen. Daraufhin hörte man förmlich deutliche Nachdenk-Geräusche aus dem Auditorium – alleine das war die Veranstaltung wert.

 

+

KI, »Künstliche Intelligenz«

Welche Entscheidungen darf man Computern überlassen?

Ein Doktorand erzählte einmal von einer Aufgabenstellung: Auf einem Bildschirm spielen ein Mädchen und ein Bär Ball. Eine Person im Raum ruft in das System hinein, dass der Bär »Danke« sagen soll, wenn er den Ball erhalte, was der Bär auch prompt tut. Diesen Vorgang gelte es zu programmieren.

Die Wirklichkeit sieht allerdings anders aus: Der Bär ist der Rechner eines Kampf-Jets, und spielt nicht Ball, sondern analysiert Truppenbewegungen am Boden und gibt seine Resultate an den Piloten weiter. Der Pilot sagt dem Computer: »wenn du Gegner siehst, schieße ungefragt« – solche komplexen Aufgabenstellungen richtig zu interpretieren und auszuführen, ist die in Wahrheit zu lösende Aufgabenstellung.

Tatsächlich stellte sich heraus, dass das Projekt von der USAF in Auftrag gegeben und bezahlt wurde.

Analog ist klar, was hinter fußballspielenden Robotern steht …

Eliza

JW hat schon 1965 ein Programm vorgestellt, das einen Dialog mit einem Analysten simuliert. Wir haben das online zum ausprobieren: »Eliza«. Die erschreckende Reaktion darauf war, dass Leute, sogar solche »vom Fach«, glaubten, die dumme Maschine verstünde sie tatsächlich. Der Traum von der »starken KI« in dem Sinne, dass es vielleicht einmal gelingt, dass die Maschine wie ein menschliches Wesen funktioniert, war schon damals stärker als der Verstand, der doch wohl eindeutig verneinen muss, dass so ein Programm mehr als nur einen Teilaspekt simulieren kann. Weizenbaum verneint, dass dies jemals gelingen kann und stellt auch hier die Sinnfrage. Der Computer habe bestimmt seine Berechtigung, könne allerdings keinesfalls alle Probleme lösen und sei schon gar kein Instrument der Allmacht, auch wenn das manchen Menschen vielleicht so gefiele. Jedenfalls wird der Computer überschätzt, ihm werden Aufgaben anvertraut, denen er nicht gewachsen ist, und das ist nicht gerade ungefährlich.

Weizenbaums Kritik am Begriff »künstliche Intelligenz«

Somit ist das Thema »Starke Ki« vom Tisch, es bleibt also die »Schwache KI« übrig. Doch hier von Intelligenz zu sprechen, ist deutlich übertrieben. Es handelt sich letztlich um Programmiertechniken, die ohne Eingreifen eines Dritten die Resultate ihres Wirkens beurteilen und Korrekturen vornehmen – etwa in Form einer Maschine, die die Abnutzung des Werkzeugs (etwa eines Schleifsteins) selbsttätig überprüft und dann die Parameter entsprechend neu berechnet (also die Koordinaten nach der Abnutzung des Werkzeugs korrigiert).

An einer Anwendung, die in beide Klassifizierungen nicht genau passt, sind militärische Systeme zur Analyse und zum »Verstehen« komplexer Befehle; siehe Beispiel oben. JW bezweifelt, dass es für die Menschheit wirklich gut ist, solche Dinge zu entwickeln und auch hier derartige Macht in die »Hände« des Computers zu legen.

Andererseits vertrat er die Auffassung, mit dem Scheitern bestimmter Projekte (etwa Computer, die Lehrer ersetzen), sei das Projekt »KI« keineswegs tot: Bei Schachprogrammen und rechnergesteuerten Navigations- und Landehilfen in Verkehrsflugzeugen könne man noch am ehesten von »KI« reden, dort habe sie auch ihre Berechtigung. Mit den SF-Vorstellungen der Schaffung eines Computerwesens mit eigener Persönlichkeit und selbstbestimmten Denkvermögen habe das jedoch überhaupt nichts zu tun; damit sei auch der Begriff »KI« genau genommen obsolet.

Mehrfach wies JW auf die führende Rolle militärischer Verwendung bei der Entwicklung des Computers hin. Anders als das bekannte Zitat »Meine Karriere verdanke ich Stalin« vermuten lässt, stellte er immer wieder die Rolle des Beteiligten und dessen Verantwortung heraus. Welche Grenze darf überschritten werden, welche nicht, und wo liegt überhaupt die Grenze?

»Der Unterschied zwischen Mittag und Mitternacht ist einfach zu erklären, die Grenze zwischen Tag und Nacht hingegen nicht

Interessanterweise kam die Frage, wo z.B. in der medizinischen Anwendung (KI in der Prothetik) die Grenze zwischen Mensch und Maschinen-Mischwesen bzw. Maschine liege, von einem Schüler aus dem Publikum.

 

+

Computer und Wissen

JW pflegte seinen Studenten Aufgaben zu stellen, auf die man spontan eine Antwort hat, die aber bei genauerer Betrachtung nicht ganz richtig ist. Ein Beispiel:

Wer hat nun Recht?

»Ich frage einen Studenten, ob die Sonne um die Erde kreist oder die Erde um die Sonne. Er antwortet, natürlich kreise die Erde um die Sonne, das wisse man ja. Frage ich einen Menschen, der nie auf einer Schule war, antwortet dieser, natürlich kreise die Sonne um die Erde, das sehe man ja schließlich jeden Tag. Welcher der beiden hat nun Recht?«

Wie wohl die meisten Leser hier, antworteten auch seine Studenten sowie das Auditorium des Vortrags, der Student aus der Geschichte hätte Recht. Doch weit gefehlt … der Sachverhalt ist in der Tat komplizierter, wie JW erläutert:

»Mit der inhaltlichen Antwort hatten beide teilweise Recht, mit der Begründung lagen beide daneben. Sonne und Erde umkreisen sich gegenseitig, das hätte der Student wissen müssen, – wo der Schwerpunkt des Systems liegt, war nicht gefragt. Der physikalische Laie dagegen hat beobachtet, dass die Erde um ihre Achse rotiert und das Beobachtete falsch interpretiert – mit der Drehung der Himmelskörper umeinander hat diese rein gar nichts zu tun«.

Weizenbaums Kritik bezog sich im Vortrag immer wieder um das Vereinfachen von Zusammenhängen und die daraus resultierenden Fehler, was insbesondere beim »denken-lassen« durch den Computer sich zu immer größeren Fehlern aufsummiert – und dennoch sind wir geneigt, die Maschine für unfehlbar zu halten und deren Ergebnisse nicht zu hinterfragen.

Ein Beispiel, das man auch in Weizenbaums Büchern nachlesen kann – er gab solche Aufgaben gerne seinen Studenten: Wir suchen online Wissen über die Ameise¹. Was haben wir? 700000 Treffer, ja, incl. koplettem Datensatz des Genoms. Aber was wissen wir damit über die Ameise, darüber, wie sie lebt usw? Wir haben also eine große Anzahl an teils richtigen, teils falschen und teils irrelevanten (z.B. über einen hydraulischen Hubwagen) Daten, aber mit »Wissen« hat das nichts zu tun. Deshalb sei auch der Sinn von Computern im Unterricht fraglich – andere Dinge seien viel wichtiger zu lernen.

 

+

Zukunft der Menschheit

Auf die Frage nach seiner Meinung zur CO2-Problematik meinte JW, über Wege und Methoden könne man sicher diskutieren, aber nicht über die Tatsache, dass eine Lösung her muss: »Egal wie der Einzelne das bewerten mag – so wie jetzt, mit all der Verschwendung, kann es doch nicht weiter gehen«.

Er wies noch auf die Geschwindigkeit der Entwicklung hin – sieben Jahre von der Entdeckung der Kernspaltung bis zur Atombombe beispielsweise – und auf die Sorge, dass die Menschheit mit der Erkenntnis damit verbundener Probleme und dem Gegensteuern nicht Schritt halten kann.

Mag sich diese Zusammenfassung von der des VDI unterscheiden – sie ist eben nicht abgeschrieben, sondern stammt von einem anderen Teilnehmer der Veranstaltung. Vollständig können jedenfalls beide nicht sein.

 

+

Literatur

 

+

Links

 

Vgl. a. den Artikel zu »Eliza« (s. Inhalt)

 

 

+

Anmerkung

... zu »Wer hat nun Recht?« (Computer und Wissen)

Betrachtet man das Sonnensystem im Ganzen, so bewegen sich Planeten und Sonne um ein gemeinsames gravitatives Zentrum (Baryzentrum). Dies liegt, je nach relativer Stellung der großen Planeten Jupiter und Saturn, die meißte Zeit außerhalb der Sonne. Insofern trifft die Aussage zu, dass sich Sonne und ein jeweils betrachteter Planet gegenseitig umkreisen – die Sonne ist definitiv nicht Mittelpunkt der Kreisbewegung, sondern macht diese, wenn auch in wesentlich kleinerem Maßstab, selbst ebenfalls mit.

Ähnliches gilt auch für Erde und Mond: der gemeinsame Schwerpunkt liegt ca. 4700 km vom Erdmittelpunkt entfernt. Also umkreist die Erde das gemeinsahme Baryzentrum mit 4700 km Radius und der Mond mit 385000 km (jeweils gerundete Mittelwerte).

Eine klare Aussage, wer wen umkreist, ist z.B. bei geostationären Satelliten zu treffen. Hier ist das Massenverhältnis so, dass der Satellit den gemeinsamen Schwerpunkt praktisch nicht beeinflusst.