„Denk darüber nach, was du tust“: Warum Jürg Fröhlich will, dass Wissenschaftler Psychologie und Philosophie studieren
Eine geniale Idee, eine clevere Innovation und schliesslich ein chaotisches und zerstörerisches Durcheinander, das der Schöpfer nicht mehr kontrollieren kann … Das ist die Handlung von Goethes „Der Zauberlehrling“. Es ist auch, wie Professor emeritus Jürg Fröhlich betont, eine sehr treffende Warnung für die Wissenschaft unserer Zeit.
Fröhlich, ein theoretischer Physiker, der das ETH-Zentrum für Theoretische Studien gegründet hat, führte die Metapher des Zauberlehrlings in der diesjährigen John-von-Neumann-Vorlesung unter dem Thema „Wissenschaft und die (Un-)Verantwortung von Wissenschaftlern“ ein. In der Vorlesung betrachtete er von Neumann selbst als brillanten Mathematiker und Informatiker, aber auch als jemand, dessen Arbeit dazu beitrug, zerstörerische Kräfte in der Welt zu entfesseln.
Wir hatten das Vergnügen, mit ihm zu sprechen, um das Thema weiter zu vertiefen.
„Es ist sehr wichtig, Studierende mit den grossen Problemen und Gefahren zu konfrontieren, denen die moderne Welt gegenübersteht, und ihnen bewusst zu machen, welche Verantwortung wir alle tragen, um die Zukunft unserer Spezies zu sichern“, sagt Fröhlich. „Richard Feynman, eines der Mitglieder des Manhattan-Projekts, gab zu, dass die Wissenschaftler in Los Alamos, die die ersten Atomwaffen entwickelten, den grossen Fehler begangen hatten, das Projekt nach der Niederlage Deutschlands nicht zu stoppen. Er fügte hinzu, dass er aus dieser Erfahrung gelernt habe, dass man seine Motivation für das eigene Handeln ständig hinterfragen sollte.“
Fröhlich fährt fort: „Das lässt sich in meinen Augen lehren. Man kann sich daran gewöhnen, darüber nachzudenken, was man tut, und zu entscheiden, ob es mit dem eigenen moralischen Kompass vereinbar ist.“
Klingt das melodramatisch? Möglicherweise erscheint die Entwicklung von Atomwaffen bereits wie längst vergangene Geschichte. Die jungen Wissenschaftler von heute richten ihre Aufmerksamkeit eher auf Innovationen, die enger mit unserem Alltag verwoben sind, ohne zu erkennen, dass auch diese sehr gefährlich sein können.
Fröhlich nennt als Beispiele die Social-Media- und die KI-Branche. In beiden Fällen haben Persönlichkeiten, die massgeblich an der Entwicklung dieser neuen Technologien beteiligt waren, ihr Bedauern zum Ausdruck gebracht. Der Gründungspräsident von Facebook, Sean Parker, hat sich gegen die sozialen Medien gewandt und sich selbst als „Verweigerer aus Gewissensgründen“ bezeichnet, als er berichtete, dass der bewusste Denkprozess hinter dem Aufbau des Social-Media-Riesen war: „Lasst uns eine Schwachstelle in der menschlichen Psychologie ausnutzen“ (um die Nutzer süchtig zu machen). Und natürlich hat Geoffrey Hinton, einer der „Paten der KI“, seine Besorgnis über mögliche unbeabsichtigte Folgen geäussert. Wie kommt es, dass diese hochintelligenten Menschen sich wissentlich der Entwicklung solch gefährlicher Werkzeuge verschrieben haben?
Die engstirnige Sichtweise der naturwissenschaftlichen Bildung
Für Lernende in MINT-Fächern, so argumentiert Fröhlich, „werden Dinge wie Psychologie, Ideengeschichte oder die Geschichte der guten und schlechten Entwicklungen, die aus dem wissenschaftlichen Fortschritt hervorgehen, nicht wirklich unterrichtet. Und die meisten Menschen haben keine Ahnung von den Kräften, die sie antreiben; Selbstreflexion wird nicht gefördert. Ich halte das für einen wirklich grossen Fehler. Es wird kein Versuch unternommen, die Persönlichkeit und den Charakter junger Menschen zu formen.“
Fröhlich selbst interessierte sich als junger Mann sehr für Psychologie und erwog sogar eine Karriere in der Medizin und Psychiatrie. Nachdem er sich stattdessen für Physik entschieden hatte, besuchte er regelmässig Vorlesungen zu Fächern ausserhalb der Naturwissenschaften. „In der zweiten Hälfte der 1960er Jahre war das durchaus üblich. An der ETH lehrten herausragende Professoren für Geschichte, Philosophie und Psychologie. Unser Interesse an solchen Fächern ging mit politischem Engagement einher. Ich glaube, das fehlt heute.“
“Früher”, so argumentiert er, „lag mehr Wert auf die Persönlichkeitsentwicklung und den Erwerb einer Art moralischen Kompasses. Heutzutage konzentrieren wir uns zu sehr auf das rein rationale Verstehen und die Manipulation der Welt und vernachlässigen dabei grob den Versuch, die grundlegenden irrationalen Kräfte zu verstehen, die das menschliche Verhalten antreiben.“
“Das könnte sich ändern. Es fällt auf, dass an vielen renommierten, technikorientierten Universitäten (Stanford, Cornell und MIT fallen mir da ein) Ethik und soziale Verantwortung allmählich einen wichtigen Teil des Lehrplans ausmachen. Vielleicht ist das eine natürliche Folge der sich ausbreitenden Krisen, die wir überall um uns herum beobachten können.”
Wie Fröhlich sagt: „Ich kann mir kaum vorstellen, dass junge Menschen sich der Vielzahl sehr schwerwiegender, ungelöster Probleme, mit denen wir konfrontiert sind, nicht bewusst sind. Mit einer so chaotischen, unvorhersehbaren Welt konfrontiert zu sein, sollte einen dazu zwingen, über den Tellerrand des eigenen Fachgebiets hinauszuschauen und aufzunehmen, was andere Menschen über den aktuellen Zustand der Welt zu sagen haben.“
Diese schwerwiegenden Probleme erstrecken sich über zahlreiche Lebensbereiche. „Der Krieg ist noch nicht überholt“, betont Fröhlich. „Frieden, Freiheit, wirtschaftliche und soziale Gerechtigkeit sowie Wohlstand lassen sich nicht allein mit Hilfe von Spieltheorie, Computeralgorithmen und KI erreichen. Es ist wichtig, sich nicht nur all der grossen Probleme und Bedrohungen bewusst zu sein, sondern auch jene Entwicklungen zu berücksichtigen und zu fördern, die Hoffnung wecken.“
Am Abgrund
Im Januar dieses Jahres stellte das Wissenschafts- und Sicherheitsgremium des Bulletin of the Atomic Scientists die Doomsday Clock auf 85 Sekunden vor Mitternacht ein – so nah wie noch nie zuvor – und führte dabei eine Reihe von Bedrohungen an, die nicht nur die Möglichkeit eines Atomkriegs umfassen, sondern auch Risiken durch Klimawandel, Biotechnologie, KI und mehr. Auch Fröhlich hat das Gefühl, dass die Menschheit „am Abgrund steht“: Er beendete seinen John-von-Neumann-Vortrag mit einer Folie, die das Barockgemälde Der Baum des Lebens zeigt, das in der Kathedrale von Segovia hängt. In dieser Allegorie findet in den Ästen eines Baumes ein lebhaftes Festmahl statt – doch der Baum droht umzustürzen, da eine skelettartige Todesgestalt den Stamm fast vollständig durchgehackt hat.
„Die Präsenz von Atomwaffen in vielen Ländern, darunter Nordkorea und möglicherweise der Iran – das ist absolut beängstigend. Die Gefahr eines Atomkriegs ist nie verschwunden, sie hat nur zugenommen. Und jetzt gibt es ganz konkrete Gefahren durch eskalierende Kriege, wie die andauernden Konflikte in der Ukraine und im Nahen Osten.“
Doch auch die unkontrollierte technologische Entwicklung birgt auch enorme Gefahren, warnt er.
„Ich denke dabei an autonome, nicht-menschliche Akteure in der modernen Kriegsführung (Kampfroboter, Leitsysteme für Drohnen und Raketen, militärische Hardware im Weltraum, usw.), Überwachungsinstrumente (Kameras mit Gesichtserkennung), versteckte Datensätze, die anhand von Millionen von Menschen trainiert wurden, Instrumente zur Manipulation von Meinungen und Entscheidungen, Werkzeuge für Mathematik und Naturwissenschaften, deren Ergebnisse niemand durchschaut, Anwendungen von KI in Medizin und Pharmakologie, die niemand versteht – ganz allgemein die Ersetzung menschlichen Verständnisses, menschlicher Entscheidungsfindung und menschlichen Handelns durch KI-Werkzeuge, die kein Mensch wirklich kontrolliert.“
Also: Was genau ist die Verantwortung von Wissenschaftlern? Fröhlich zitiert ein lateinisches Sprichwort: „Quidquid agas, prudenter agas et respice finem.“ (Was auch immer du tust, tu es mit Bedacht und bedenke das Ende.) Vor diesem Hintergrund, so schlägt er vor, ist es entscheidend, die Hoffnung nicht aufzugeben, dass wir alle – sei es in der wissenschaftlichen Arbeit, bei der Entscheidungsfindung, im Management oder in der Politik – die Chance haben, zur Verbesserung der Weltlage beizutragen.
Und die Verantwortung der Wissenschaft: Studierende dazu anzuleiten, dies ernst zu nehmen.
Die jährliche John-von-Neumann-Vorlesung wird vom NCCR Automation und dem Zurich Center for Market Design der Universität Zürich organisiert. Seit 2020 laden wir führende Forscher aus den Bereichen Spieltheorie, Informatik und anderen Fachgebieten ein, in denen von Neumann eine Vorreiterrolle spielte. Frühere Interviews findest du hier:
