KI-Transparenz aus Verantwortung

Transcript

1. KI-TRANSPARENZ AUS VERANTWORTUNG 6. Mai 2019 twitter: @carlahustedt & @algoethik
2. Fehler in algorithmischen Systemen sind immer menschliche Fehler. Transparenz ist eine Grundvoraussetzung für den verantwortungsvollen Einsatz von KI-Systemen. 06.05.2019 | KI-Transparenz aus Verantwortung 2
3. AGENDA WAS soll Transparenz erreichen? WELCHE SYSTEME sollen transparent gemacht werden? WIE soll Transparenz geschaffen werden? Handlungsempfehlungen 06.05.2019 | KI-Transparenz aus Verantwortung 3
4. Transparenz ist kein Selbstzweck, sondern ein wirkungsvoller Hebel zum Erreichen verschiedener Ziele: Transparenz befähigt Betroffene ihr Verhalten anzupassen, um Entscheidungen zu beeinflussen. Transparenz ist für Betroffene und ihre Vertreter*innen eine unverzichtbare Grundlage, um Rechtsverletzungen zu identifizieren und ihre Rechte durchzusetzen. Transparenz ermöglicht gesellschaftliche Diskussionen über Werte und Normen, die algorithmischen Entscheidungsprozessen zugrunde liegen. Transparenz schafft individuelles Vertrauen und gesellschaftliche Akzeptanz für algorithmische Entscheidungsprozesse. 06.05.2019 | KI-Transparenz aus Verantwortung 4
5. Nicht jedes algorithmische System ist eine Black Box. 06.05.2019 | KI-Transparenz aus Verantwortung 5 Nicht jede Black Box muss geöffnet werden.
6. Wir brauchen unterschiedliche Arten von Transparenz: 06.05.2019 | KI-Transparenz aus Verantwortung 6 • Kennzeichnung • Nachvollziehbarkeit • Überprüfbarkeit
7. Zu viel Transparenz ist für Vertrauen genauso schädlich, wie zu wenig Transparenz. 06.05.2019 | KI-Transparenz aus Verantwortung 7
8. Handlungsempfehlung 1: Interdisziplinäre Forschung zu KI-Transparenz fördern. 06.05.2019 | KI-Transparenz aus Verantwortung 8
9. Handlungsempfehlung 2: Transparenz-Anforderungen ausweiten und in staatliche Vergabestandards aufnehmen. 06.05.2019 | KI-Transparenz aus Verantwortung 9
10. Handlungsempfehlung 3: Aufsichtsbehörden und zivilgesellschaftliche Watchdog- Organisationen stärken. 06.05.2019 | KI-Transparenz aus Verantwortung 10
11. Vielen Dank für Ihre Aufmerksamkeit! 06.05.2019 | KI-Transparenz aus Verantwortung 11
12. Bildquellen Alle Fotos von https://unsplash.com/: Bild auf Slide 2: Daniel McCullough Bild auf Slide 5: Christian Fregnan Bild auf Slide 6: Markus Spiske Bild auf Slide 7: Owen Beard Bild auf Slide 11: Rock‘n Roll Monkey 06.05.2019 | KI-Transparenz aus Verantwortung 12