Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Wenn Maschinen Menschen bewerten: Was zu tun ist, um Teilhabe zu stärken

Eb29a07f49b3256adf8cb2fdee6ad160?s=47 klischka
November 23, 2017

Wenn Maschinen Menschen bewerten: Was zu tun ist, um Teilhabe zu stärken

Eb29a07f49b3256adf8cb2fdee6ad160?s=128

klischka

November 23, 2017
Tweet

More Decks by klischka

Other Decks in Technology

Transcript

  1. Wenn Maschinen Menschen bewerten: Was zu tun ist, um Teilhabe

    zu stärken Berlin, 23. November 2017 Konrad Lischka
  2. Chancen erkennen, Herausforderungen verstehen. Dabei schadet das Trugbild Mensch vs.

    Maschine. 23.11.2017 | Was zu tun ist, um Teilhabe zu stärken 2 Maschinen sind nicht per se fairer als Menschen. Vielleicht konsistenter. Aber auch konsistent diskriminierend. Menschen entscheiden nicht per se fairer als Maschinen. Beispiele: Arbeitsmarkt, Wohnungsmarkt.
  3. 23.11.2017 | Was zu tun ist, um Teilhabe zu stärken

    3 Chance: Der Mensch nutzt Maschinen für bessere Entscheidungen und mehr Teilhabe
  4. Um Chancen und Herausforderungen zu erkennen, müssen wir gesellschaftliche Angemessenheit

    diskutieren (können). 23.11.2017 | Was zu tun ist, um Teilhabe zu stärken 4 Übergreifend: Was geschieht? Ziele: Was optimiert ADM? Umsetzung: Gut implementiert? Mein Anspruch: Teilhabe stärken  Mensch im Mittelpunkt  gleichberechtigte Einbeziehung in politische Willensbildung  faire Partizipation an sozialer, kultureller, wirtschaftlicher Entwicklung 1. Beforschbarkeit fördern 2. staatliche Kompetenz aufbauen 3. Anspruch an gesellschaftliche Angemessenheit diskutieren und sichern 4. Qualität von Systemen und Zielerreichung überprüfen 5. Diversität von Ansätzen und Betreibern stärkt Gemeinwohl. Ideen befeuern und entwickeln Vielfalt: Ansätze, Betreiber
  5. 23.11.2017 | Was zu tun ist, um Teilhabe zu stärken

    5 Übergreifend: Beforschbarkeit und staatlicher Kompetenzaufbau
  6. Für Beforschbarkeit und Öffentlichkeit braucht es mehr als Transparenz. 23.11.2017

    | Was zu tun ist, um Teilhabe zu stärken 6 Grundlagen schaffen (Beispiele)  Informationspflichten wie Hinweispflicht auf algorithmische Bewertung  Auskunftsrechte für Bewertete  Recht auf Zweitmeinung  Verbandsklagerechte  Transparenz von Zielen, Methoden, Output  Meldepflichten (wie z.B. in der Medizin)  Datenzugang für Forschende Umsetzung fördern  Wissenschaft: Werkzeuge und Methoden für Recherchen, Expertise für Einordnung von Fällen.  Zivilgesellschaftliche Wächter als Beschwerdeinstanzen mit niedrigen Zugangshürden, für Aggregation und Verifikation, Storytelling und Bottom-up-Mobilisierung
  7. Positive, gemeinwohlfördernde Gestaltung umfasst mehr als Abwehr und Nachsorge durch

    Regulierung. Staat in Doppelrolle. 23.11.2017 | Was zu tun ist, um Teilhabe zu stärken 7 Ermöglicher einer positiven Ordnung zu kontrollierender ADM-Anwender Bekannte Herausforderung, Beispiel: Schaffen einer positive Ordnung für Meinungsvielfalt.
  8. Wir brauchen vielfältige Expertise, wie wir algorithmische Entscheidungsfindung in den

    Dienst der Gesellschaft stellen. 23.11.2017 | Was zu tun ist, um Teilhabe zu stärken 8 USA Deutschland ?
  9. 23.11.2017 | Was zu tun ist, um Teilhabe zu stärken

    9 Gesellschaftliche Angemessenheit der implementierten Ziele sichern
  10. 23.11.2017 | Was zu tun ist, um Teilhabe zu stärken

    10 Diskurs über gesellschaftliche Angemessenheit während der Entwicklung führen Erprobte Messgrößen übertragen, z.B. Armutskennzahlen aus Demographic and Health Survey für Analyse via Satellitenfotos fachöffentlich Öffentliche Konsultationen bei Konstruktion von Entscheidungssysteme. Analog z.B. zu Beteiligungsverfahren in der Stadtplanung mit potenziell Betroffenen Transparenz der Ziele, Modellierung und Methoden. z.B. durch Folgenabschätzung, Verträglichkeitsprüfung (vgl. Bau / Umwelt) gesellschaftlich breit
  11. Reflexion der gesellschaftlichen Angemessenheit institutionalisieren 23.11.2017 | Was zu tun

    ist, um Teilhabe zu stärken 11 © flickr/ magicatwork, Rilee Yandt, CC BY-NC-ND 2.0 “Ethics” by Mark Morgan is licensed under CC BY 2.0 Pressekodex & Presserat: Reflektion von Fallbeispielen ergänzt Kodex. klinische Ethik-Komitees: Fallbesprechung in interdisziplinären Teams. Freiwillige Ethikinstitutionen Professionsethik als Pflichtteil universitärer Informatik- Ausbildung (wie z.B. Pflichtvorlesungen Medizinethik) Kompetenzvermittlung Medizin: Ethikkommissionen an Unis & bei berufsständischen Vereinigungen. Bei bestimmter Forschung Zustimmung gesetzlich vorgeschrieben Ethikkommissionen
  12. 23.11.2017 | Was zu tun ist, um Teilhabe zu stärken

    12 Umsetzung prüfen, erklären und falsifizieren
  13. Transparenz allein schafft keine Öffentlichkeit. Überprüfbarkeit sichert nicht Überprüfung. Deshalb

    braucht es vielfältige Wächter-Institutionen. 23.11.2017 | Was zu tun ist, um Teilhabe zu stärken 13 Neben Forschung und Zivilgesellschaft zum Teil vlt. auch institutionalisierte Aufsicht. Vorbilder: Sven Teschke CC BY-SA 3.0 de Medikamentenzulassung Baugenehmigung Kfz-Zulassung Deutsche Akkreditierungsstelle Vorab Bundesstelle für Flugunfalluntersuchung Nachträglich Lebensmittelkontrolle Finanzaufsicht Wirtschaftsprüfer Rechnungshöfe Fortwährend
  14. Vielfalt der Ansätze und Betriebsmodelle sichern 23.11.2017 | Was zu

    tun ist, um Teilhabe zu stärken 14
  15. 23.11.2017 | Was zu tun ist, um Teilhabe zu stärken

    15 Ansätze System-Vielfalt: Wenn es viele richtige Operationalisierungen eines sozialen Konzepts gibt, sind unterschiedliche Systeme sinnvoll. Öffentliche Förderprogramme wie z.B. Prototype Fund für gemeinwohlförderliche ADM-Projekte Entwicklung fürs Gemeinwohl Unterschiedliche Relevanzkonzepte in Sprachversionen, unterschiedliche Zulassungsverfahren (z.B. Bot Approvals Group) Wikipedia-Bots Im öffentlichen Sektor z.B. analog zu Nachhaltigkeit. Je nach Einsatzgebiet vielleicht absolute Vielfalt verpflichtend (analog zu Zweitgutachter) Vielfalt als Vergabekriterium
  16. 23.11.2017 | Was zu tun ist, um Teilhabe zu stärken

    16 “Ethics” by Mark Morgan is licensed under CC BY 2.0 Ansätze Trainingsdaten: Gemeinwohl taugt nicht immer zum Geschäftsmodell. Deshalb braucht es vielfältige Betreibermodelle & Ziele. Vorbild Projekt Common Voice der Mozilla Foundation. Basis für Spracherkennung für alle. Trainingsdatenallmende Biobanken an Universitäten sammeln Proben und Spenderinfos für Forschung Datentreuhänder Öffentlich nutzbare Daten aus öffentlich geförderter Forschung generieren Open Access für Trainingsdaten
  17. Zusammenfassung: Fünf To dos und Ansätze für den Anfang 1.

    Beforschbarkeit und Öffentlichkeit algorithmischer Entscheidungsfindung sichern.  z.B. durch Datenzugang, Auskunftsrechte, Meldepflichten, Wissenschaft und Wächter 2. Staatlicher Kompetenzaufbau zum Gestalten einer positiven Ordnung.  z.B. nach Vorbild der Obama-Kommission, z.B. in Agentur 3. Diskurs über Angemessenheit der implementierten Ziele  z.B. durch Instrumente wie Verträglichkeitsprüfung, institutionalisierte Professionsethik 4. Qualität der Umsetzung in Systemen prüfen  z.B. durch Wächter-Organisationen 5. Vielfalt der Ziele, Systeme und Betreibermodelle sichern – auch als Teil staatlicher Daseinsvorsorge.  z.B. durch Förderprogramme für gemeinwohlorientierte Entwicklung, öffentliche Vergabe, zugängliche Trainingsdaten 23.11.2017 | Was zu tun ist, um Teilhabe zu stärken 17
  18. www.bertelsmann-stiftung.de Besuchen Sie uns auch auf Danke! Slides: www.algorithmenethik.de @algoethik

    konrad.lischka@bertelsmann-stiftung.de