Jedes Jahr werden in vielen Anwendungsbereichen des täglichen Lebens mehr und mehr autonome, intelligente, Software Systeme eingesetzt. Diese autonomen Systeme werden oft auch als „autonome Agenten“ bezeichnet. Bei aktuell eingesetzten Systemen ist häufig noch ein Mensch dafür zuständig, wenn der autonome Agent in eine kritische Situation gerät. Bei autonomen Fahrfunktionen beispielsweise, muss in der Regel die Fahrerin zu jedem Zeitpunkt fähig sein die Kontrolle über das Fahrzeug zu übernehmen.
Für eine Zukunft mit vollautonomen Agenten müssen diese Agenten befähigt werden solche Entscheidungen autark zu treffen. Dieses bedeutet, dass wir das Bauchgefühl, mit welchem wir Menschen häufig Entscheidungen in spontanen Situationen treffen, auf autonome Agenten übertragen müssen. Diese bedeutet im Wesentlichen, dass ein autonomer Agent in einem gewissen Maß befähigt werden sollte moralische Regeln gegeneinander abzuwägen. Um einen Rettungswagen vorbeizulassen, ist es beispielsweise erlaubt auf einen Grünstreifen auszuweichen, auch wenn dieses normalerweile durch eine Regel verboten ist.
Um moralische autonome Agenten zu entwickeln gibt es verschiedene Aspekte zu beachten, welche in diesem Proseminar diskutiert werden

• Definition von Moral: Welcher Art von moralischer Theorie sollte der Agent folgen? Der des Einsatzlandes oder des Herstellerlandes?
• Definitionen von Autonomen Agenten (z.B. Belief Desire Intention Agents)
• Spieltheorie als möglicher Ansatz für kooperative Handlungen mehrerer Autonomer Agenten (z.B. Public Good Games)
• Grenzen moralischer Agenten: In welchen kritischen Situationen muss ein Agent moralisch entscheiden und wann muss weiterhin ein Mensch zu Rate gezogen werden?
• Wie sollten autonome Agenten in der Rechtssprechung behandelt werden?
• „unconscious/ cultural bias“: Ein autonomer Agent darf nicht voreingenommen gegenüber einer bestimmten Gruppe Menschen sein
• Nutzen und Chancen, aber auch Probleme und Risiken bei der Nutzung von selbstlernenden Systemen

Ablauf des Proseminars:
In der ersten Vorlesungswoche findet ein Termin statt, bei dem die wählbaren Themen vorgestellt werden. Es werden ausreichend viele Themen gestellt, um eine faire Themenwahl sicherzustellen. Die Vorträge werden in einem Blockserminar am Ende der Vorlesungszeit gehalten und vor dem Blockseminar wird eine etwa 5-Seitige Ausarbeitung abgegeben.