Slide 1
Slide 1 text
Eine Professionsethik für
Programmierer*innen?
Juli 2018
twitter: @algoethik & @carlahustedt
Slide 2
Slide 2 text
Algorithmisches System zur
Verteilung von Patient*innen auf
Betten – mögliche Ziele:
• bestmögliche Auslastung des
Krankhauses
• größtmögliche Abrechenbarkeit der
Leistungen bei Versicherungen
• höchstmögliche Versorgungsqualität
für die Patient*innen
• Renommee einer Institution
04.07.2018 |
Eine Professionsethik für Programmierer*innen? 2
Ein System – viele mögliche Ziele
Slide 3
Slide 3 text
3
Die Entscheidung über die Ziele algorithmischer Systeme,
Werteabwägungen werden NICHT von Programmierer*innen getroffen
Eine Professionsethik für Programmierer*innen greift zu kurz
Eine Professionsethik für Programmierer*innen? 04.07.2018 |
Wir brauchen eine prozessbezogene Professionsethik/
einen Gütekriterienkatalog für algorithmische Prozesse
Slide 4
Slide 4 text
Entwicklung eines Gütekriterienkatalogs für
ADM-Systeme
04.07.2018 | 4
+
Eine Professionsethik für Programmierer*innen?
1. Workshop zur Definition von Zielgruppe und Inhalten
2. Analyse bestehender Gütekriterienkataloge
3. Expert*innenkonsultation durch Telefoninterviews
4. Arbeitspapier + Workshop zur Entwicklung einer Implementationsstrategie
5. Breiter Beteiligungsprozess
Slide 5
Slide 5 text
Die Entwicklung von ADM Systemen: Viele Phasen, viele
Beteiligte → breite Zielgruppe
5
Eine Professionsethik für Programmierer*innen?
Personen, die über den Zweck und
die Ziele eines solchen Prozesses
entscheiden, den Prozess
gestalten.
Personen, die einen Algorithmus
testen, weiterentwickeln oder
Anpassen.
Personen, die den Prozess
anwenden oder über die Art der
Anwendung entscheiden.
Personen, die einen
Algorithmus programmieren.
Personen, die die Daten
sammeln, bündeln und pflegen.
Personen, die designen, wie
algorithmische Ergebnisse
Anwender*innen präsentiert werden.
04.07.2018 |
Icon by: Vectors Market; Flaticon.com
Icon by: Becris; Flaticon.com
Icon by; Freepic Flaticon.com
Icon by; Freepic Flaticon.com
Icon by; Freepic Flaticon.com
Icon by; Freepic Flaticon.com
Slide 6
Slide 6 text
Analyse bestehender Gütekriterienkataloge
04.07.2018 | 6
Eine Professionsethik für Programmierer*innen?
“Principles for Accountable Algorithms & Social Impact
Statement for Algorithms”
“Asilomar AI Principles”
“Principles for Algorithmic Transparency and Accountability”
Slide 7
Slide 7 text
Analyse bestehender Gütekriterienkataloge – formelle Merkmale
04.07.2018 | 7
Eine Professionsethik für Programmierer*innen?
Slide 8
Slide 8 text
Analyse bestehender Gütekriterienkataloge – inhaltliche Merkmale
04.07.2018 | 8
Eine Professionsethik für Programmierer*innen?
Slide 9
Slide 9 text
Analyse bestehender Gütekriterienkataloge – Implementierung
04.07.2018 | 9
Eine Professionsethik für Programmierer*innen?