Wenn Maschinen Menschen bewerten: Was zu tun ist, um Teilhabe zu stärken Berlin, 23. November 2017 Konrad Lischka

Chancen erkennen, Herausforderungen verstehen. Dabei schadet das Trugbild Mensch vs. Maschine. 23.11.2017 | Was zu tun ist, um Teilhabe zu stärken 2 Maschinen sind nicht per se fairer als Menschen. Vielleicht konsistenter. Aber auch konsistent diskriminierend. Menschen entscheiden nicht per se fairer als Maschinen. Beispiele: Arbeitsmarkt, Wohnungsmarkt.

23.11.2017 | Was zu tun ist, um Teilhabe zu stärken 3 Chance: Der Mensch nutzt Maschinen für bessere Entscheidungen und mehr Teilhabe

Um Chancen und Herausforderungen zu erkennen, müssen wir gesellschaftliche Angemessenheit diskutieren (können). 23.11.2017 | Was zu tun ist, um Teilhabe zu stärken 4 Übergreifend: Was geschieht? Ziele: Was optimiert ADM? Umsetzung: Gut implementiert? Mein Anspruch: Teilhabe stärken  Mensch im Mittelpunkt  gleichberechtigte Einbeziehung in politische Willensbildung  faire Partizipation an sozialer, kultureller, wirtschaftlicher Entwicklung 1. Beforschbarkeit fördern 2. staatliche Kompetenz aufbauen 3. Anspruch an gesellschaftliche Angemessenheit diskutieren und sichern 4. Qualität von Systemen und Zielerreichung überprüfen 5. Diversität von Ansätzen und Betreibern stärkt Gemeinwohl. Ideen befeuern und entwickeln Vielfalt: Ansätze, Betreiber

23.11.2017 | Was zu tun ist, um Teilhabe zu stärken 5 Übergreifend: Beforschbarkeit und staatlicher Kompetenzaufbau

Für Beforschbarkeit und Öffentlichkeit braucht es mehr als Transparenz. 23.11.2017 | Was zu tun ist, um Teilhabe zu stärken 6 Grundlagen schaffen (Beispiele)  Informationspflichten wie Hinweispflicht auf algorithmische Bewertung  Auskunftsrechte für Bewertete  Recht auf Zweitmeinung  Verbandsklagerechte  Transparenz von Zielen, Methoden, Output  Meldepflichten (wie z.B. in der Medizin)  Datenzugang für Forschende Umsetzung fördern  Wissenschaft: Werkzeuge und Methoden für Recherchen, Expertise für Einordnung von Fällen.  Zivilgesellschaftliche Wächter als Beschwerdeinstanzen mit niedrigen Zugangshürden, für Aggregation und Verifikation, Storytelling und Bottom-up-Mobilisierung

Positive, gemeinwohlfördernde Gestaltung umfasst mehr als Abwehr und Nachsorge durch Regulierung. Staat in Doppelrolle. 23.11.2017 | Was zu tun ist, um Teilhabe zu stärken 7 Ermöglicher einer positiven Ordnung zu kontrollierender ADM-Anwender Bekannte Herausforderung, Beispiel: Schaffen einer positive Ordnung für Meinungsvielfalt.

Wir brauchen vielfältige Expertise, wie wir algorithmische Entscheidungsfindung in den Dienst der Gesellschaft stellen. 23.11.2017 | Was zu tun ist, um Teilhabe zu stärken 8 USA Deutschland ?

23.11.2017 | Was zu tun ist, um Teilhabe zu stärken 9 Gesellschaftliche Angemessenheit der implementierten Ziele sichern

23.11.2017 | Was zu tun ist, um Teilhabe zu stärken 10 Diskurs über gesellschaftliche Angemessenheit während der Entwicklung führen Erprobte Messgrößen übertragen, z.B. Armutskennzahlen aus Demographic and Health Survey für Analyse via Satellitenfotos fachöffentlich Öffentliche Konsultationen bei Konstruktion von Entscheidungssysteme. Analog z.B. zu Beteiligungsverfahren in der Stadtplanung mit potenziell Betroffenen Transparenz der Ziele, Modellierung und Methoden. z.B. durch Folgenabschätzung, Verträglichkeitsprüfung (vgl. Bau / Umwelt) gesellschaftlich breit

Reflexion der gesellschaftlichen Angemessenheit institutionalisieren 23.11.2017 | Was zu tun ist, um Teilhabe zu stärken 11 © flickr/ magicatwork, Rilee Yandt, CC BY-NC-ND 2.0 “Ethics” by Mark Morgan is licensed under CC BY 2.0 Pressekodex & Presserat: Reflektion von Fallbeispielen ergänzt Kodex. klinische Ethik-Komitees: Fallbesprechung in interdisziplinären Teams. Freiwillige Ethikinstitutionen Professionsethik als Pflichtteil universitärer Informatik- Ausbildung (wie z.B. Pflichtvorlesungen Medizinethik) Kompetenzvermittlung Medizin: Ethikkommissionen an Unis & bei berufsständischen Vereinigungen. Bei bestimmter Forschung Zustimmung gesetzlich vorgeschrieben Ethikkommissionen

23.11.2017 | Was zu tun ist, um Teilhabe zu stärken 12 Umsetzung prüfen, erklären und falsifizieren

Transparenz allein schafft keine Öffentlichkeit. Überprüfbarkeit sichert nicht Überprüfung. Deshalb braucht es vielfältige Wächter-Institutionen. 23.11.2017 | Was zu tun ist, um Teilhabe zu stärken 13 Neben Forschung und Zivilgesellschaft zum Teil vlt. auch institutionalisierte Aufsicht. Vorbilder: Sven Teschke CC BY-SA 3.0 de Medikamentenzulassung Baugenehmigung Kfz-Zulassung Deutsche Akkreditierungsstelle Vorab Bundesstelle für Flugunfalluntersuchung Nachträglich Lebensmittelkontrolle Finanzaufsicht Wirtschaftsprüfer Rechnungshöfe Fortwährend

Vielfalt der Ansätze und Betriebsmodelle sichern 23.11.2017 | Was zu tun ist, um Teilhabe zu stärken 14

23.11.2017 | Was zu tun ist, um Teilhabe zu stärken 15 Ansätze System-Vielfalt: Wenn es viele richtige Operationalisierungen eines sozialen Konzepts gibt, sind unterschiedliche Systeme sinnvoll. Öffentliche Förderprogramme wie z.B. Prototype Fund für gemeinwohlförderliche ADM-Projekte Entwicklung fürs Gemeinwohl Unterschiedliche Relevanzkonzepte in Sprachversionen, unterschiedliche Zulassungsverfahren (z.B. Bot Approvals Group) Wikipedia-Bots Im öffentlichen Sektor z.B. analog zu Nachhaltigkeit. Je nach Einsatzgebiet vielleicht absolute Vielfalt verpflichtend (analog zu Zweitgutachter) Vielfalt als Vergabekriterium

23.11.2017 | Was zu tun ist, um Teilhabe zu stärken 16 “Ethics” by Mark Morgan is licensed under CC BY 2.0 Ansätze Trainingsdaten: Gemeinwohl taugt nicht immer zum Geschäftsmodell. Deshalb braucht es vielfältige Betreibermodelle & Ziele. Vorbild Projekt Common Voice der Mozilla Foundation. Basis für Spracherkennung für alle. Trainingsdatenallmende Biobanken an Universitäten sammeln Proben und Spenderinfos für Forschung Datentreuhänder Öffentlich nutzbare Daten aus öffentlich geförderter Forschung generieren Open Access für Trainingsdaten

Zusammenfassung: Fünf To dos und Ansätze für den Anfang 1. Beforschbarkeit und Öffentlichkeit algorithmischer Entscheidungsfindung sichern.  z.B. durch Datenzugang, Auskunftsrechte, Meldepflichten, Wissenschaft und Wächter 2. Staatlicher Kompetenzaufbau zum Gestalten einer positiven Ordnung.  z.B. nach Vorbild der Obama-Kommission, z.B. in Agentur 3. Diskurs über Angemessenheit der implementierten Ziele  z.B. durch Instrumente wie Verträglichkeitsprüfung, institutionalisierte Professionsethik 4. Qualität der Umsetzung in Systemen prüfen  z.B. durch Wächter-Organisationen 5. Vielfalt der Ziele, Systeme und Betreibermodelle sichern – auch als Teil staatlicher Daseinsvorsorge.  z.B. durch Förderprogramme für gemeinwohlorientierte Entwicklung, öffentliche Vergabe, zugängliche Trainingsdaten 23.11.2017 | Was zu tun ist, um Teilhabe zu stärken 17

www.bertelsmann-stiftung.de Besuchen Sie uns auch auf Danke! Slides: www.algorithmenethik.de @algoethik [email protected]