Sfida 2: automazione responsabile
Poiché l’automazione ha un impatto sempre maggiore su tutti gli aspetti della società, la nostra sfida è quella di guidare questi sviluppi in una direzione socialmente responsabile. La seconda sfida fondamentale della nostra ricerca attuale è lo sviluppo di linee guida, strumenti e pratiche per garantire l’equità, la privacy, la sicurezza e la protezione delle soluzioni di automazione.
Questa sfida viene affrontata in due temi. Il primo esamina l’impatto dell’automazione sulla società, considerando la progettazione responsabile in termini di bene pubblico più ampio. Spostiamo la nostra prospettiva dai singoli sistemi di controllo alle più ampie implicazioni a livello sociale. Ciò comporta l’identificazione degli effetti dell’automazione sugli obiettivi sociali, la definizione di parametri da ottimizzare (come l’equità e la sostenibilità) e infine la creazione di metodi di progettazione alternativi che incorporino tali parametri.
Analizziamo anche le questioni etiche fondamentali alla base della ricerca di NCCR Automation. Tutti coloro che sono soggetti alle decisioni dei sistemi automatizzati devono essere trattati allo stesso modo o alcuni gruppi meritano maggiore attenzione? Ad esempio, i pedoni sono utenti della strada più vulnerabili degli occupanti di automobili e i bambini sono più vulnerabili degli adulti. Nella progettazione e nell’integrazione di sistemi automatizzati, dobbiamo conformarci ai paradigmi esistenti (ad esempio, in materia di fiducia e privacy) o svilupparne di nuovi per adattarli alle possibilità e ai vantaggi emergenti? Quale livello di compromesso è accettabile o auspicabile nel bilanciare valori come la privacy con i benefici dei sistemi basati sui dati?
Tema 2.1: design responsabile
Responsabili del tema: Andrea Censi, Emilio Frazzoli
Un tempo l’automazione era vista come una «tecnologia nascosta». In un’epoca in cui tutto è interconnesso, elettrificato e dotato di intelligenza, dobbiamo esaminare l’impatto dell’automazione sulla società e valutare se sia positivo o meno.
Il nostro approccio al «design responsabile» può essere riassunto come segue:
• Un ampliamento degli orizzonti: la nostra ricerca è impegnata a esaminare l’impatto dell’automazione al di là dei sistemi di controllo isolati, indagando le sue implicazioni a livelli infrastrutturali e sociali più ampi.
• Una prospettiva sociale: spostiamo il nostro punto di vista dalle prestazioni di un singolo sistema di controllo (che spesso implica gli obiettivi di massimizzazione dei profitti di un’azienda) a uno incentrato sul bene pubblico più ampio.
• Identificazione degli obiettivi sociali che sono influenzati dall’automazione e definizione dei parametri per ottimizzare in termini di sostenibilità, equità, riduzione delle esternalità ecc.
• Creare metodi di progettazione alternativi che incorporino i nuovi parametri sociali.
Questa ricerca abbraccia tutte le diverse aree applicative che rientrano nell’ambito di NCCR Automation; stiamo cercando di trovare ciò che è comune tra le applicazioni. Idealmente, i lavori più disparati possono convergere in un’unica teoria dell’automazione responsabile che prescriva modi sistematici per incorporare i parametri di responsabilità nei problemi di progettazione e controllo dei sistemi.
Filone A: co-progettazione del sistema orientata alla sostenibilità
Collaboratori: A. Censi, E. Frazzoli, S. Mastellone
Questo filone si occupa della co-progettazione di controllo e piattaforma in modo olistico per perseguire obiettivi di sostenibilità di un sistema come la massimizzazione della durata o la minimizzazione delle esternalità nella produzione e nel funzionamento.
Filone B: meccanismi equi per sistemi energetici sostenibili
Collaboratori: S. Bolognani, F. Dörfler, A. Hannák, G. Hug
Affrontiamo le sfide principali nel contesto emergente dei sistemi energetici altamente rinnovabili e distribuiti, concentrandoci sulla necessità di co-progettare meccanismi automatizzati e incentivi economici per garantire un approvvigionamento equo, efficiente e affidabile della flessibilità dalle reti di distribuzione.
Filone C: economie del karma per un accesso giusto ed equo alle risorse pubbliche
Collaboratori: S. Bolognani, A. Censi, F. Dörfler, E. Frazzoli, H. Nax
L’idea del karma è emersa nella nostra ricerca come soluzione per un’allocazione equa ed efficiente delle risorse comuni. Il karma è un contatore pubblico non monetario che tiene traccia del consumo individuale di risorse: può essere scambiato solo secondo regole di equità nel contesto di un processo di offerta. Vogliamo estendere l’applicazione del karma dalle sue origini nel controllo della mobilità e della congestione a tutti gli altri domini di NCCR Automation e studiare l’interazione di più economie del karma.
Tema 2.2: sviluppare l’etica dell’automazione – nuovi paradigmi di equità e fiducia
Responsabili del tema: Bernice S. Elger, David Shaw
Una domanda chiave che emerge dalla ricerca di NCCR Automation è se tutti coloro che sono soggetti alle decisioni dei sistemi automatizzati debbano essere trattati allo stesso modo o se i più vulnerabili meritino una maggiore protezione o priorità in nome della giustizia. Ad esempio, i pedoni sono utenti della strada più vulnerabili degli occupanti di automobili e i bambini sono più vulnerabili degli adulti.
I sistemi automatizzati possono essere integrati nella società in modo conforme ai paradigmi sociali preesistenti (tra cui la fiducia, la spiegabilità e la privacy) oppure secondo nuovi paradigmi che potrebbero rivelarsi più etici, considerati i potenziali vantaggi dell’automazione. Quando è necessario un compromesso per raggiungere l’efficienza (sacrificando la privacy dei dati, per esempio), dobbiamo imparare quale livello di compromesso è accettabile o desiderabile. Nell’ambito di questo tema, indaghiamo su due domande chiave: che cos’è l’equità nel contesto dell’automazione? E come dovrebbero essere modificati i paradigmi etici esistenti, tra cui la fiducia, la spiegabilità e la privacy, per i sistemi automatizzati?
Filone A: impatto della conoscenza in materia di energia e automazione sulla disponibilità locale di flessibilità
Collaboratori: P. Heer, D. Shaw
La transizione verso un sistema energetico più elettrificato, più distribuito e più automatizzato comporta sfide specifiche in termini di competenze e conoscenze. Ad esempio, gli utenti finali dell’energia non sono in genere consapevoli dell’impatto e delle implicazioni delle loro azioni sull’infrastruttura del sistema energetico, il che limita la potenziale flessibilità del relativo consumo. Vogliamo affrontare il problema da due punti di vista: come possiamo aumentare la conoscenza delle parti coinvolte in materia di energia e automazione? E come possiamo rendere più interpretabile il comportamento dell’automazione?
Filone B: definizioni di equità nel controllo
Collaboratori: A. Hannák, D. Shaw
A oggi, nonostante la grande attenzione per l’argomento, non c’è ancora un accordo comune su come definire l’equità nell’apprendimento automatico (ovvero come le decisioni automatizzate che riguardano gli individui possano essere considerate «giuste»). Stiamo studiando non solo come arrivare alla definizione più adatta, ma anche come trasferire tale definizione alla teoria del controllo.
Filone C: problemi etici nel processo decisionale guidato dall’intervento umano
Collaboratori: G. Ferrari Trecate, D. Shaw
Le questioni etiche importanti legate alla raccolta di input umani per i sistemi automatizzati vanno dalla privacy e dal consenso (che limitano l’efficienza e l’affidabilità) a possibili problemi di equità se vengono offerti incentivi per incoraggiare la condivisione dei dati. Analizziamo sia ciò che può essere realizzato all’interno dei paradigmi etici esistenti sia come questi paradigmi possono essere modificati per facilitare una migliore progettazione del sistema.
Vedi le pubblicazioni correlate e i dataset nonché le notizie.
