"Dans de nombreux projets du PRN, il y a des aspects éthiques passionnants"

NCCR Automation: Au sein du PRN Automation, où la plupart des projets de recherche sont issus du génie électrique ou de l'informatique, vos recherches sur l'éthique se distinguent. Quel est le rapport entre éthique et automation ?

David Shaw: En philosophie, il y a le classique dilemne du tramway - un scénario hypothétique dans lequel un tramway en fuite est sur le point de heurter et de tuer un certain nombre de personnes sur la voie, mais un conducteur ou un spectateur peut intervenir et détourner le véhicule pour qu'il ne tue qu'une seule personne sur une autre voie. Dans certaines situations, par exemple lorsqu'une collision ne peut être évitée, les véhicules autonomes devront potentiellement prendre des décisions similaires. La question est alors de savoir comment un algorithme devrait décider. Quel type de données devrait être pris en compte dans de telles décisions ? Il s'agit de questions éthiques. De la philosophie appliquée, en quelque sorte.

Pourquoi le PRN Automation se prête-t-il à l'étude de ces questions ?

L'une des raisons est que répondre à ce type de questions nécessite non seulement une compréhension de l'éthique, mais également des connaissances sur ce qui est faisable d'un point de vue technique. Par conséquent, ma collègue Bernice Elger et moi-même avons voulu collaborer avec des informaticiens et des théoriciens du contrôle travaillant sur des sujets similaires. Un autre aspect est que nous avons appris de nos précédentes recherches qu'il existe dans la société un désir de confiance et de fiabilité dans l'intelligence artificielle et l'automation. Ce désir ne se limite pas aux véhicules autonomes. De ce point de vue, l'expertise technique diversifiée qu'offre le PRN nous a semblé être un environnement idéal pour travailler sur ces sujets.

Quel serait votre résultat idéal ?

Le premier objectif serait de développer un cadre éthique pour la gouvernance des véhicules autonomes. Mais nous espérons également apporter une contribution éthique chaque fois que cela sera nécessaire dans le cadre des différents projets du PRN. Décider de la meilleure marche à suivre dans un scénario donné concerne toutes sortes de domaines, de la gestion du trafic à la distribution d'énergie.

Pouvez-vous nous donner un exemple ?

Dans le domaine de l'approvisionnement en électricité, par exemple, il peut arriver que la demande de différents secteurs de la société ne puisse pas être satisfaite simultanément. Cette situation a été décrite dans un récent rapport de la Confédération sur les possibles pénuries d'électricité en Suisse dès 2025. Il existe donc des scénarios très réels dans lesquels des décisions doivent être prises concernant l'allocation des ressources. Ces décisions comportent toujours des aspects éthiques.

Vous avez mentionné le désir de confiance et de fiabilité dans l'automation. Les sciences techniques ont-elles ignoré ce désir ? Si oui, pourquoi ?

Pas nécessairement. Mais les personnes travaillant dans les domaines techniques pensent souvent que ce sur quoi elles travaillent n'est pas lié à l'éthique. Pour moi, l'éthique est la science de la moralité. Il s'agit d'optimiser les choses pour obtenir de meilleurs résultats. Si davantage de personnes pensaient à l'éthique en ces termes, elles se rendraient peut-être compte plus rapidement que leur travail comporte en fait des aspects éthiques. Dans presque tous les projets du PRN, il y a des aspects et des questions éthiques passionnants. Je me réjouis donc de nombreuses collaborations intéressantes.