What makes an algorithm ethical? December2018 twitter: @algoethik & @carlahustedt

Algorithmen gehen uns alle an! Whatmakes an algorithm ethical? 2 07.12.2018 |

Chancen Effizienz Komplexitätsmanagement Konsistenz Fairness 07.12.2018 | 3 Whatmakes an algorithm ethical?

Algorithmen skalieren menschliche Entscheidungen 07.12.2018 | 4 MEHR TEILHABE FÜR ALLE VERSTÄRKTE SOZIALE UNGERECHTIGKEIT ALGORITHMISCHE SYSTEME Whatmakes an algorithm ethical?

WAS KÖNNEN WIR TUN? Eine Professionsethik für Programmierer:innen? 07.12.2018 | Whatmakes an algorithm ethical? 6

Viele Entwicklungsphasen, viele Beteiligte → Prozessbezogene Professionethik #algorules 7 Whatmakes an algorithm ethical? Personen, die über den Zweck und die Ziele eines solchen Prozesses entscheiden, den Prozess gestalten. Personen, die einen Algorithmus testen, weiterentwickeln oder Anpassen. Personen, die den Prozess anwenden oder über die Art der Anwendung entscheiden. Personen, die einen Algorithmus programmieren. Personen, die die Daten sammeln, bündeln und pflegen. Personen, die designen, wie algorithmische Ergebnisse Anwender:innen präsentiert werden. 07.12.2018 |

Entwicklung eines Gütekriterienkatalogs für algorithmische Systeme 07.12.2018 | 8 + Whatmakes an algorithm ethical? 1. Workshop zur Definition von Zielgruppe und Inhalten 2. Analyse bestehender Gütekriterienkataloge 3. Expert:innenkonsultation durch Telefoninterviews 4. Arbeitspapier + Workshop zur Entwicklung einer Implementationsstrategie 5. Breiter Beteiligungsprozess

Man muss das Rad nicht neu erfinden: Analyse bestehender Gütekriterienkataloge 07.12.2018 | 9 Whatmakes an algorithm ethical? “Principles for Accountable Algorithms & Social Impact Statement for Algorithms” “Asilomar AI Principles” “Principles for Algorithmic Transparency and Accountability”

07.12.2018 | Whatmakes an algorithm ethical? 10 Blick über den Tellerrand: Was macht eine Professionsethik erfolgreich? Medizin Soziale Arbeit Journalismus Öffentlichkeits- arbeit Werbung Ingenieurwesen

Erfolgsfaktoren erfolgreicher Professionsethiken: #1 Historische Tradition 07.12.2018 | Whatmakes an algorithm ethical? 11 #6 Institutionalisierung #5 Sensibilisierung durch Berufsausbildung #4 Homogenität der Gruppe #3 Sitz im Leben #2 Persönliches Anliegen #7 Sanktionen #8 Materieller Hintergrund #9 Wissenschaftliche Reflexion #10 Langfristiges Engagement

1. Kompetenz aufbauen Die Funktionsweisen und Wirkungen von Algorithmen müssen verstanden werden. 2. Verantwortung zuweisen Für die Wirkungen eines algorithmischen Systems muss eine natürliche Person verantwortlich sein. 3. Ziele und erwartete Wirkung nachvollziehbar machen Die Ziele und die erwartete Wirkung eines Algorithmus müssen nachvollziehbar gemacht werden. 4. Sicherheit gewährleisten Der Einsatz von algorithmischen Systemen muss sicher sein. Die 8 #algorules: 07.12.2018 | 12 Whatmakes an algorithm ethical? 5. Transparenz erhöhen Der Einsatz eines algorithmischen Systems muss gekennzeichnet sein. 6. Beherrschbarkeit sichern Der Einsatz von algorithmischen Systemen muss beherrschbar sein. 7. Wirkung überprüfen (lassen) Die Auswirkungen eines algorithmischen Systems auf den Menschen müssen regelmäßig überprüft werden. 8. Korrigierbarkeit herstellen Entscheidungen eines Algorithmus dürfen nie unumkehrbar sein.

Offene Fragen: ▪Braucht es eine akteurs- oder eine sektorspezifische Personalisierung der Kriterien? ▪Was ist der Geltungsbereich des Gütekriterienkatalogs? ▪Wie kann der Katalog mit bestehenden berufsethischen Leitlinien kombiniert werden? ▪Wie kann der Katalog in Arbeitsprozesse integriert werden? ▪Wie kann Verbindlichkeit geschaffen werden? 07.12.2018 | Whatmakes an algorithm ethical? 13

BACKUP 07.12.2018 | 14

Bildquellen: Fotos von Unsplash.com Icons von Flaticon.com − Vectors Market − Becris − Freepic 11.12.2018 | Titel der Präsentation 20