Défi n° 2: l’automation responsable

responsible automation

Alors que l’impact de l’automation sur tous les aspects de la société devient de plus en plus marqué, notre défi consiste à prendre un rôle de premier plan en guidant ces évolutions dans une direction socialement responsable. Le deuxième défi fondamental de notre recherche actuelle consiste à développer les orientations, les outils et les pratiques permettant de garantir l’équité, le respect de la vie privée, la sécurité et la sûreté des solutions d’automation.

Nous abordons ce défi dans deux thèmes distincts. Le premier examine l’impact de l’automation sur la société, en considérant la conception responsable dans le sens de l’intérêt général. Nous changeons de perspective et ne considérons plus uniquement des systèmes de contrôle individuels, mais aussi leurs implications sociétales au sens large. Cela demande d’identifier les effets de l’automation sur les objectifs sociaux, de définir les paramètres à optimiser (comme l’équité et la durabilité) et, enfin, de créer des méthodes de conception alternatives qui intègrent ces paramètres.

Dans le cadre du second thème, nous étudions également les questions éthiques fondamentales qui sous-tendent la recherche du PRN Automation. Toutes les personnes soumises aux décisions des systèmes automatisés doivent-elles être traitées de la même manière, ou certains groupes méritent-ils davantage d’attention? Par exemple, dans un environnement routier, les piétons sont des usagers plus vulnérables que les occupants des véhicules, et les enfants plus vulnérables que les adultes. Lors de la conception et de l’intégration des systèmes automatisés, devons-nous nous conformer aux paradigmes existants (par exemple, en matière de confiance et de respect de la vie privée) ou en définir de nouveaux pour intégrer de nouvelles possibilités et de nouveaux avantages? Quel est le niveau de compromis acceptable – ou souhaitable – pour trouver l’équilibre entre certaines valeurs (comme le respect de la vie privée) et les avantages des systèmes guidés par les données? 

Découvrez nos recherches en détail.

Thème 2.1: Une conception responsable

Il fut un temps où l’automation était considérée comme une «technologie invisible». Aujourd’hui, tout est interconnecté, électrique et doté d’intelligence: nous devons examiner l’impact de l’automation sur notre société et nous demander si celui-ci est positif.

Notre approche de la «conception responsable» peut être résumée comme suit:

• Élargir les horizons: nos travaux ont pour but d’examiner l’impact de l’automation au-delà des systèmes de contrôle isolés, en considérant ses implications à des niveaux infrastructurels et sociétaux plus larges.

• A Adopter une perspective sociétale: plutôt que de considérer la performance d’un seul système de contrôle (souvent conçu dans le but de maximiser les bénéfices d’une entreprise), nous changeons de point de vue pour nous concentrer sur le bien public au sens large.

• Identifier des objectifs de société affectés par l’automation et définir des paramètres à optimiser en termes de durabilité, d’équité, de réduction des externalités, etc.

• Créer des méthodes de conception alternatives qui intègrent les nouveaux paramètres sociétaux.

Ces recherches couvrent l’ensemble des domaines d’application qui entrent dans le champ du PRN Automation; nous cherchons à identifier les convergences entre les applications. Dans l’idéal, des travaux hétérogènes peuvent converger vers une théorie unique de l’automation responsable, prescrivant des moyens systématiques d’incorporer des mesures de responsabilité dans les problèmes de conception et de contrôle des systèmes.

Axe A: une co-conception axée sur la durabilité

Contributeurs: A. Censi, E. Frazzoli, S. Mastellone

Cet axe est consacré à la co-conception holistique de contrôleurs et de plates-formes pour poursuivre des objectifs de durabilité d’un système donné: par exemple, maximiser la durée de vie ou minimiser les externalités lors de la fabrication et de l’exploitation.

Axe B: des mécanismes équitables pour des systèmes énergétiques durables

Contributeurs: S. Bolognani, F. Dörfler, A. Hannák, G. Hug

Nous abordons des défis majeurs dans le contexte émergent des systèmes énergétiques hautement renouvelables et distribués, en nous concentrant sur la nécessité de co-concevoir des mécanismes automatisés et des incitations économiques pour garantir un approvisionnement en flexibilité qui soit équitable, efficace et fiable à partir des réseaux de distribution.

Axe C: les «économies Karma» pour un accès juste et équitable aux ressources publiques

Contributeurs: S. Bolognani, A. Censi, F. Dörfler, E. Frazzoli, H. Nax

L’idée de Karma est apparue dans nos travaux comme une solution pour allouer des ressources communes de façon équitable et efficace. Karma est un mécanisme de décompte non monétaire permettant de suivre la consommation individuelle des ressources: les «points Karma» ne peuvent être échangés que dans le cadre d’enchères, selon des règles préservant l’équité. Nous souhaitons aller au-delà du contrôle de la mobilité et du trafic routier, étendre l’application de Karma à tous les autres domaines du PRN Automation et étudier les interactions entre plusieurs économies Karma.

 

Thème 2.2: Une automation plus éthique: nouveaux paradigmes d’équité et de confiance

L’une des questions clés qui ressort de la recherche du PRN Automation est de savoir si toutes les personnes soumises aux décisions des systèmes automatisés doivent être traitées de la même manière, ou si les plus vulnérables méritent une meilleure protection ou une priorisation par souci d’équité. Par exemple, dans un environnement routier, les piétons sont des usagers plus vulnérables que les occupants des véhicules, et les enfants plus vulnérables que les adultes.

Les systèmes automatisés peuvent être intégrés dans la société conformément à des paradigmes existants (notamment en matière de confiance, d’explicabilité et de respect de la vie privée) ou à de nouveaux paradigmes potentiellement plus éthiques, compte tenu des avantages potentiels de l’automation. Lorsqu’il est nécessaire de faire un compromis (par exemple, renoncer à la confidentialité des données) pour parvenir à l’efficacité, nous devons impérativement déterminer dans quelle mesure celui-ci est acceptable ou souhaitable. Dans le cadre de ce thème, nous étudions deux questions essentielles: comment définir l’équité dans le contexte de l’automation? Et comment les paradigmes éthiques existants, notamment en matière de confiance, d’explicabilité et de protection de la vie privée, doivent-ils être modifiés pour les systèmes automatisés?

Axe A: impact de l’éducation des parties prenantes sur la flexibilité de l’approvisionnement local

Contributeurs: P. Heer, D. Shaw

Le passage à un système énergétique plus électrifié, plus distribué et plus automatisé s’accompagne de défis spécifiques en matière d’éducation. Par exemple, les utilisateurs·ices final·e·s d’énergie ne sont généralement pas conscient·e·s de l’impact et des implications de leurs actes sur l’infrastructure d’un système énergétique, ce qui limite la flexibilité potentielle de leur consommation d’énergie. Nous souhaitons aborder le problème sous deux angles: comment améliorer les connaissances des parties prenantes en matière d’énergie et d’automation? Et comment rendre le comportement automatisé plus facile à interpréter?

Axe B: définitions de l’équité dans le domaine du contrôle

Contributeurs: A. Hannák, D. Shaw

À ce jour, malgré un intérêt soutenu pour le sujet, il n’existe toujours pas de consensus sur la définition de l’équité dans l’apprentissage automatique (c’est-à-dire sur la manière dont les décisions automatisées qui affectent des individus peuvent être considérées comme «équitables»). Nous cherchons à savoir comment parvenir à la définition la plus appropriée, mais aussi comment transférer cette définition à la théorie du contrôle.

Axe C: questions éthiques dans la prise de décision informée par l’humain

Contributeurs: G. Ferrari Trecate, D. Shaw

De la protection de la vie privée et du consentement (qui limite l’efficacité et la fiabilité) à l’équité (lorsque des incitations sont proposées pour encourager le partage des données), la collecte de données humaines pour les systèmes automatisés soulève des questions éthiques majeures. Nous voulons savoir ce qu’il est possible d’accomplir dans le cadre des paradigmes éthiques existants, et déterminer comment ces paradigmes peuvent être modifiés pour améliorer la conception des systèmes.