Share
Embed
What Makes An Algorithm Ethical
Carina
December 11, 2018
Transcript
14 slides
-
Algorithmen skalieren menschliche Entscheidungen 07.12.2018 | 4 MEHR TEILHABE FÜR
ALLE VERSTÄRKTE SOZIALE UNGERECHTIGKEIT ALGORITHMISCHE SYSTEME Whatmakes an algorithm ethical? -
WAS KÖNNEN WIR TUN? Eine Professionsethik für Programmierer:innen? 07.12.2018 |
Whatmakes an algorithm ethical? 6 -
Viele Entwicklungsphasen, viele Beteiligte → Prozessbezogene Professionethik #algorules 7 Whatmakes
an algorithm ethical? Personen, die über den Zweck und die Ziele eines solchen Prozesses entscheiden, den Prozess gestalten. Personen, die einen Algorithmus testen, weiterentwickeln oder Anpassen. Personen, die den Prozess anwenden oder über die Art der Anwendung entscheiden. Personen, die einen Algorithmus programmieren. Personen, die die Daten sammeln, bündeln und pflegen. Personen, die designen, wie algorithmische Ergebnisse Anwender:innen präsentiert werden. 07.12.2018 | -
Entwicklung eines Gütekriterienkatalogs für algorithmische Systeme 07.12.2018 | 8 +
Whatmakes an algorithm ethical? 1. Workshop zur Definition von Zielgruppe und Inhalten 2. Analyse bestehender Gütekriterienkataloge 3. Expert:innenkonsultation durch Telefoninterviews 4. Arbeitspapier + Workshop zur Entwicklung einer Implementationsstrategie 5. Breiter Beteiligungsprozess -
Man muss das Rad nicht neu erfinden: Analyse bestehender Gütekriterienkataloge
07.12.2018 | 9 Whatmakes an algorithm ethical? “Principles for Accountable Algorithms & Social Impact Statement for Algorithms” “Asilomar AI Principles” “Principles for Algorithmic Transparency and Accountability” -
07.12.2018 | Whatmakes an algorithm ethical? 10 Blick über den
Tellerrand: Was macht eine Professionsethik erfolgreich? Medizin Soziale Arbeit Journalismus Öffentlichkeits- arbeit Werbung Ingenieurwesen -
Erfolgsfaktoren erfolgreicher Professionsethiken: #1 Historische Tradition 07.12.2018 | Whatmakes an
algorithm ethical? 11 #6 Institutionalisierung #5 Sensibilisierung durch Berufsausbildung #4 Homogenität der Gruppe #3 Sitz im Leben #2 Persönliches Anliegen #7 Sanktionen #8 Materieller Hintergrund #9 Wissenschaftliche Reflexion #10 Langfristiges Engagement -
1. Kompetenz aufbauen Die Funktionsweisen und Wirkungen von Algorithmen müssen
verstanden werden. 2. Verantwortung zuweisen Für die Wirkungen eines algorithmischen Systems muss eine natürliche Person verantwortlich sein. 3. Ziele und erwartete Wirkung nachvollziehbar machen Die Ziele und die erwartete Wirkung eines Algorithmus müssen nachvollziehbar gemacht werden. 4. Sicherheit gewährleisten Der Einsatz von algorithmischen Systemen muss sicher sein. Die 8 #algorules: 07.12.2018 | 12 Whatmakes an algorithm ethical? 5. Transparenz erhöhen Der Einsatz eines algorithmischen Systems muss gekennzeichnet sein. 6. Beherrschbarkeit sichern Der Einsatz von algorithmischen Systemen muss beherrschbar sein. 7. Wirkung überprüfen (lassen) Die Auswirkungen eines algorithmischen Systems auf den Menschen müssen regelmäßig überprüft werden. 8. Korrigierbarkeit herstellen Entscheidungen eines Algorithmus dürfen nie unumkehrbar sein. -
Offene Fragen: ▪Braucht es eine akteurs- oder eine sektorspezifische Personalisierung
der Kriterien? ▪Was ist der Geltungsbereich des Gütekriterienkatalogs? ▪Wie kann der Katalog mit bestehenden berufsethischen Leitlinien kombiniert werden? ▪Wie kann der Katalog in Arbeitsprozesse integriert werden? ▪Wie kann Verbindlichkeit geschaffen werden? 07.12.2018 | Whatmakes an algorithm ethical? 13 -
Bildquellen: Fotos von Unsplash.com Icons von Flaticon.com − Vectors Market
− Becris − Freepic 11.12.2018 | Titel der Präsentation 20