“Rifletti su ciò che fai”: perché Jürg Fröhlich vuole che gli scienziati studino psicologia e filosofia
Un’idea brillante, un’innovazione ingegnosa e, alla fine, un caos distruttivo che il creatore non riesce a controllare… È questa la trama de “L’apprendista stregone” di Goethe. Ed è anche, come sottolinea il professore emerito Jürg Fröhlich, un monito molto Appropriato allla scienza dei nostri tempi.
Fröhlich, fisico teorico e fondatore del Centro di Studi Teorici del Politecnico federale di Zurigo (ETH), ha introdotto la metafora dell’apprendista stregone nella conferenza John von Neumann di quest’anno, dal titolo «La scienza e l’(ir)responsabilità degli scienziati». Nella conferenza, ha descritto lo stesso von Neumann come un brillante matematico e informatico, ma anche come un uomo il cui lavoro ha contribuito a scatenare forze distruttive nel mondo. Abbiamo avuto il piacere di parlare con lui per approfondire il tema.
«È molto importante mettere gli studenti di fronte ai grandi problemi e ai pericoli che il mondo moderno sta affrontando, e renderli consapevoli della responsabilità che tutti noi abbiamo nel garantire il futuro della nostra specie», dice Fröhlich. «Richard Feynman, uno dei membri del Progetto Manhattan, ha ammesso che gli scienziati di Los Alamos, mentre sviluppavano le prime armi nucleari, hanno commesso il grave errore di non interrompere il progetto dopo la sconfitta della Germania. Ha poi aggiunto di aver imparato da quell’esperienza che bisogna riconsiderare continuamente le proprie motivazioni nel fare qualcosa».
Fröhlich continua: «Sai, questo si può insegnare. Le persone possono abituarsi all’idea di dover riflettere su ciò che stanno facendo e decidere se è compatibile con la loro bussola morale».
Sembra melodrammatico? È possibile che lo sviluppo delle armi atomiche sembri ormai storia antica. Le nuove generazioni di scienziate e scienziati tendono a rivolgere la loro attenzione a innovazioni più strettamente intrecciate alla nostra vita quotidiana, senza rendersi conto che anche queste possono essere molto pericolose.
Fröhlich cita i social media e il settore dell’intelligenza artificiale. In entrambi i casi, alcune figure chiave che hanno guidato lo sviluppo di queste nuove tecnologie hanno espresso il proprio rammarico. Il presidente fondatore di Facebook Sean Parker ha voltato le spalle ai social media, definendosi un “obiettore di coscienza” e spiegando che il ragionamento consapevole alla base della creazione del gigante dei social media era: «Sfruttiamo una vulnerabilità della psicologia umana» (per rendere gli utenti dipendenti). E naturalmente Geoffrey Hinton, uno dei “padri dell’IA”, ha espresso preoccupazione per le possibili conseguenze indesiderate. Com’è possibile che queste persone così intelligenti abbiano potuto dedicarsi consapevolmente alla creazione di strumenti così pericolosi?
La visione miope dell’educazione scientifica
A chi studia materie STEM, sostiene Fröhlich, “cose come la psicologia, la storia delle idee, la storia degli sviluppi positivi e negativi scaturiti dal progresso scientifico, non vengono davvero insegnate. E la maggior parte delle persone non ha idea delle forze che le guidano, l’introspezione non viene incoraggiata. Penso che sia un errore davvero grave. Non c’è alcun tentativo di formare la personalità e il carattere delle giovani generazioni.”
Lo stesso Fröhlich da giovane era molto interessato alla psicologia e aveva persino pensato di intraprendere una carriera in medicina e psichiatria. Avendo invece scelto la fisica, frequentava regolarmente lezioni su materie che andavano oltre le scienze esatte. «Nella seconda metà degli anni ’60, era una cosa piuttosto comune. All’ETH insegnavano professori eccezionali di storia, filosofia e psicologia. Il nostro interesse per queste materie andava di pari passo con l’attivismo politico. Penso che oggi questo manchi.»
In passato, sostiene, «c’era più attenzione allo sviluppo della personalità e all’acquisizione di una sorta di bussola morale.
Oggi ci concentriamo troppo sulla comprensione e la manipolazione puramente razionali del mondo, trascurando gravemente il tentativo di comprendere le forze irrazionali fondamentali che guidano il comportamento umano.»
La situazione forse sta cambiando. È sorprendente che in molte università prestigiose e orientate alla tecnologia (mi vengono in mente Stanford, Cornell e MIT), l’etica e la responsabilità sociale stiano iniziando a costituire una parte importante del programma di studi. Forse questo è il risultato naturale delle crisi sempre più diffuse che vediamo ovunque intorno a noi.
Come dice Fröhlich: «Trovo davvero difficile immaginare che i giovani non siano consapevoli della moltitudine di problemi gravissimi e irrisolti che stiamo affrontando. Trovarsi di fronte a un mondo così caotico e imprevedibile dovrebbe spingere a guardare oltre la propria materia e ad ascoltare ciò che gli altri hanno da dire sullo stato attuale del mondo».
Questi gravi problemi si estendono a molteplici ambiti della vita. «La guerra non è stata resa obsoleta», sottolinea Fröhlich. «La pace, la libertà, la giustizia economica e sociale e la prosperità non si realizzeranno solo con l’aiuto della teoria dei giochi, degli algoritmi informatici e dell’intelligenza artificiale. È importante non solo essere consapevoli di tutti i grandi problemi e delle minacce, ma anche considerare e incoraggiare quegli sviluppi che infondono speranza».
In bilico sull’orlo del precipizio
A gennaio di quest’anno, il Comitato per la Scienza e la Sicurezza del Bulletin of the Atomic Scientists ha impostato l’Orologio dell’Apocalisse a 85 secondi dalla mezzanotte, il valore più vicino mai registrato, citando una serie di minacce che comprendono non solo la possibilità di una guerra nucleare, ma anche i rischi legati al cambiamento climatico, alle biotecnologie, all’intelligenza artificiale e altro ancora. Anche Fröhlich ritiene che l’umanità sia «in bilico»: ha concluso la sua conferenza John von Neumann con una diapositiva che mostrava il dipinto barocco L’Albero della Vita, esposto nella Cattedrale di Segovia. In questa allegoria, tra i rami di un albero si sta svolgendo un vivace banchetto – ma l’albero sta per crollare, poiché una figura scheletrica della Morte ne ha tagliato il tronco quasi completamente.
«La presenza di armi nucleari in molti paesi, tra cui la Corea del Nord e forse l’Iran, è assolutamente spaventosa. La minaccia di una guerra nucleare non è mai scomparsa, ma è solo andata crescendo. E ora ci sono minacce molto concrete legate all’escalation dei conflitti, come le guerre in corso in Ucraina e in Medio Oriente».
Ma lo sviluppo tecnologico incontrollato comporta anche pericoli enormi, avverte.
«Penso agli agenti autonomi non umani utilizzati nella guerra moderna (robot da combattimento, sistemi di guida per droni e missili, hardware militare nello spazio, ecc.), strumenti di sorveglianza (telecamere con riconoscimento facciale), set di dati nascosti addestrati su milioni di persone, strumenti che servono a manipolare opinioni e decisioni, strumenti per fare matematica e scienza con risultati che nessuno riesce a comprendere appieno, applicazioni dell’IA in medicina e farmacologia che nessuno capisce – in generale, la sostituzione della comprensione, del processo decisionale e dell’azione umana con strumenti di IA che nessun essere umano controlla davvero.”
Allora: qual è esattamente la responsabilità degli scienziati? Fröhlich cita un proverbio latino: «Quidquid agas, prudenter agas et respice finem.» (Qualunque cosa tu faccia, fallo con saggezza e considera le conseguenze.) Tenendo presente questo, suggerisce, è fondamentale non rinunciare alla speranza che, mentre ci dedichiamo al lavoro scientifico, al processo decisionale, alla gestione e alla politica, tutti noi abbiamo la possibilità di contribuire a migliorare lo stato del mondo.
E la responsabilità del mondo accademico: formare le giovani menti a prendere sul serio tutto questo.
La conferenza annuale John von Neumann è organizzata dall’NCCR Automation e dallo Zurich Center for Market Design dell’Università di Zurigo.
Dal 2020 invitiamo ricercatori di spicco nel campo della teoria dei giochi, dell’informatica e in altri settori in cui Von Neumann era un punto di riferimento. Puoi trovare le interviste precedenti qui:
