Challenge 2: Verantwortungsbewusste Automatisierung

responsible automation

Da die Automatisierung einen immer stärkeren Einfluss auf alle Bereiche der Gesellschaft hat, besteht unsere Herausforderung darin, diese Entwicklungen in eine sozial verantwortliche Richtung zu lenken. Die zweite grundlegende Herausforderung unserer aktuellen Forschungsarbeit liegt in der Entwicklung von Leitlinien, Werkzeugen und Praktiken, um Gerechtigkeit, Datenschutz, Sicherheit sowie den Schutz von Automatisierungslösungen zu gewährleisten.

Dieser Herausforderung nehmen wir uns in zwei Themengebieten an. Das erste untersucht die Auswirkungen der Automatisierung auf die Gesellschaft unter Berücksichtigung von Ansätzen des verantwortungsbewussten Designs im Sinne des Allgemeinwohls. Wir verlagern unsere Perspektive von individuellen Steuerungssystemen auf die umfassenderen Auswirkungen auf gesellschaftlicher Ebene. Dabei geht es darum, die Auswirkungen der Automatisierung auf soziale Ziele zu identifizieren, Metriken zu definieren, die es zu optimieren gilt (z. B. Fairness und Nachhaltigkeit), und zu guter Letzt, basierend auf diesen Metriken, alternative Designmethoden zu entwickeln.

Ausserdem untersuchen wir zentrale ethische Fragen im Zusammenhang mit der Forschungsarbeit des NFS Automation. Wir stellen uns beispielsweise die Frage, ob alle, die von Entscheidungen betroffen sind, die von automatisierten Systemen gefällt werden, gleichbehandelt werden sollen oder ob bestimmte Gruppen gegebenenfalls mehr Aufmerksamkeit verdienen. Beispielsweise sind Personen, die zu Fuss unterwegs sind, gefährdetere Verkehrsteilnehmende als Autolenkende, oder Kinder sind gefährdeter als Erwachsene. Wir fragen uns, ob wir uns bei der Konzeption und Integration automatisierter Systeme an bestehenden Paradigmen (zum Beispiel in Bezug auf Vertrauen und Datenschutz) orientieren sollten oder ob wir neue entwickeln sollten, um neuen Möglichkeiten und Vorteilen gerecht zu werden. Welches Mass an Kompromiss ist akzeptabel oder wünschenswert, wenn es darum geht, Werte wie Datenschutz gegen die Vorteile datengetriebener Systeme abzuwägen?

Thema 2.1: Verantwortungsbewusstes Design

Früher galt die Automatisierung als eine «verborgene Technologie». In einer Zeit, in der jedoch alles vernetzt und elektrifiziert ist und in der Intelligenz überall integriert ist, sehen wir es als unsere Aufgabe, die Auswirkungen der Automatisierung auf die Gesellschaft zu untersuchen und zu evaluieren, ob diese Entwicklungen positiv oder negativ sind.

Unser Ansatz für verantwortungsbewusstes Design kurz zusammengefasst:

• Horizonterweiterung: In unserer Forschungsarbeit untersuchen wir sowohl die Auswirkungen der Automatisierung über die Grenzen isolierter Steuerungssysteme hinaus als auch ihre Auswirkungen auf infrastruktureller und gesellschaftlicher Ebene in einem grösseren Rahmen.

• Gesellschaftliche Perspektive: Wir verlagern unseren Blickwinkel von der Leistung eines einzelnen Steuerungssystems (das oft auf die gewinnmaximierenden Ziele eines Unternehmens schliessen lässt) auf eines, das auf das Allgemeinwohl ausgerichtet ist.

• Identifikation gesellschaftlicher Ziele, bei denen Automatisierung eine Rolle spielt, und Definition von Metriken zur Optimierung von Nachhaltigkeit, Fairness, der Reduktion externer Faktoren usw.

• Erarbeiten alternativer Designmethoden unter Berücksichtigung neuer gesellschaftlicher Metriken.

Diese Forschungsarbeit umfasst alle vielfältigen Anwendungsbereiche im Rahmen der Forschungsarbeit des NFS Automation; wir suchen nach Gemeinsamkeiten zwischen den einzelnen Anwendungsbereichen. Im Idealfall lassen sich unterschiedliche Arbeiten in einer einheitlichen Theorie für eine verantwortungsbewusste Automatisierung zusammenfassen, die vorschreibt, wie Metriken hinsichtlich sozialer Verantwortung systematisch in das Systemdesign integriert und für Steuerungsprobleme berücksichtigt werden.

Ansatz A: Nachhaltigkeitsorientiertes Co-Design von Systemen

Mitwirkende: A. Censi, E. Frazzoli, S. Mastellone

Dieser Ansatz befasst sich mit dem ganzheitlichen Co-Design von Steuerungen und Plattformen. Im Fokus stehen dabei die Nachhaltigkeitsziele eines Systems, z. B. die Maximierung der Lebensdauer oder die Minimierung externer Effekte bei der Herstellung und im Betrieb des Systems.

Ansatz B: Gerechte Mechanismen für nachhaltige Energiesysteme

Mitwirkende: S. Bolognani, F. Dörfler, A. Hannák, G. Hug

Wir befassen uns mit zentralen Herausforderungen hinsichtlich hochgradig erneuerbaren und dezentralen Energiesystemen, die zunehmend an Bedeutung gewinnen. Dabei konzentrieren wir uns auf das Co-Design automatisierter Mechanismen und wirtschaftlicher Anreize, um eine faire, effiziente und zuverlässige Beschaffung von Flexibilität aus Verteilnetzen sicherzustellen.

Ansatz C: «Karma-Ökonomie» für fairen und gerechten Zugang zu öffentlichen Ressourcen

Mitwirkende: S. Bolognani, A. Censi, F. Dörfler, E. Frazzoli, H. Nax

In unserer Forschungsarbeit hat sich die Idee von Karma als mögliche Lösung für eine faire und effiziente Verteilung gemeinsamer Ressourcen herauskristallisiert. Karma ist ein nicht monetärer öffentlicher Zähler, der den individuellen Ressourcenverbrauch misst: Dieser kann ausschliesslich im Rahmen eines Bietverfahrens und unter Einhaltung definierter Fairnessregeln eingetauscht werden. Ursprünglich wurde Karma in der Mobilität und in der Überlastungssteuerung eingesetzt. Wir aber möchten den Einsatz von Karma auf alle Gebiete des NFS Automation ausweiten und die Wechselwirkung zwischen unterschiedlichen «Karma-Ökonomien» untersuchen.

 

Thema 2.2: Entwicklung eines Ethikkodex für Automatisierung: Neue Paradigmen für Gerechtigkeit und Vertrauen

Eine zentrale Frage, die sich aus der Forschungsarbeit des NFS Automation ergibt, ist, ob alle, die von Entscheidungen durch automatisierte Systeme betroffen sind, gleichbehandelt werden sollen oder ob die am stärksten gefährdeten Personen im Namen der Gerechtigkeit mehr Schutz oder eine höhere Priorisierung verdient hätten. Beispielsweise sind Personen, die zu Fuss unterwegs sind, gefährdetere Verkehrsteilnehmende als Autolenkende, oder Kinder sind gefährdeter als Erwachsene.

Automatisierte Systeme können so in die Gesellschaft integriert werden, dass sie einerseits den bereits bestehenden gesellschaftlichen Paradigmen entsprechen (einschliesslich Vertrauen, Erklärbarkeit und Datenschutz) oder andererseits mit neuen Paradigmen übereinstimmen, die sich angesichts der potenziellen Vorteile der Automatisierung als ethischer erweisen könnten. Wenn ein Kompromiss erforderlich ist, um Effizienz zu erreichen (zum Beispiel auf Kosten des Datenschutzes), müssen wir herausfinden, welches Mass an Kompromiss akzeptabel oder wünschenswert ist. Unter diesem Thema untersuchen wir zwei Schlüsselfragen: Was ist Fairness im Kontext der Automatisierung? Und wie sollten bestehende ethische Paradigmen, einschliesslich Vertrauen, Erklärbarkeit und Datenschutz, für automatisierte Systeme modifiziert werden?

Ansatz A: Auswirkung der Kompetenzen im Umgang mit Energie und Automatisierung auf die Bereitstellung lokaler Flexibilität

Mitwirkende: P. Heer, D. Shaw

Der Übergang zu einem stärker elektrifizierten, stärker dezentralisierten und stärker automatisierten Energiesystem ist mit spezifischen Herausforderungen an die Kompetenz im Umgang mit Energie und Automatisierung verbunden. Beispielsweise sind sich Endverbrauchende von Energie der Auswirkungen und Folgen ihrer Handlungen auf die Energieinfrastruktur in der Regel nicht bewusst, was sich limitierend auf die potenziell mögliche Flexibilität des Energieverbrauchs auswirkt. Diesem Problem wollen wir uns aus zwei Blickwinkeln annehmen: Wie können wir das Verständnis für den Umgang mit Energie und Automatisierung aller Beteiligten verbessern? Und wie können wir das Verhalten automatisierter Systeme besser interpretierbar machen?

Ansatz B: Definitionen von Fairness in der Steuerung

Mitwirkende: A. Hannák, D. Shaw

Obwohl das Thema grosse Aufmerksamkeit geniesst, ist man sich noch immer nicht einig, wie Fairness im Bereich «Machine Learning» definiert werden soll (das heisst, wie automatisierte Entscheidungen, die Individuen betreffen, als «fair» betrachtet werden können). Wir untersuchen nicht nur, wie wir die geeignetste Definition finden können, sondern auch, wie sich diese auf die Steuerungstheorie übertragen lässt.

Ansatz C: Ethische Fragestellungen hinsichtlich «Human-informed Decision Making»

Mitwirkende: G. Ferrari Trecate, D. Shaw

Beim Sammeln menschlicher Eingaben in automatisierte Systeme kommt es zu einer Reihe wichtiger ethischer Fragestellungen. Diese reichen vom Datenschutz und von Einwilligungserklärungen (die die Effizienz und Zuverlässigkeit beeinträchtigen) bis hin zu möglichen Bedenken hinsichtlich Fairness, wenn Anreize geschaffen werden, die den Austausch von Daten fördern. Wir untersuchen, was innerhalb bestehender ethischer Paradigmen erreicht werden kann und wie diese Paradigmen unter Umständen modifiziert werden könnten, um Verbesserungen im Systemdesign zu erleichtern.

 

Themenverwandte Publikationen und Datensätze und News.