Maschine. 23.11.2017 | Was zu tun ist, um Teilhabe zu stärken 2 Maschinen sind nicht per se fairer als Menschen. Vielleicht konsistenter. Aber auch konsistent diskriminierend. Menschen entscheiden nicht per se fairer als Maschinen. Beispiele: Arbeitsmarkt, Wohnungsmarkt.
diskutieren (können). 23.11.2017 | Was zu tun ist, um Teilhabe zu stärken 4 Übergreifend: Was geschieht? Ziele: Was optimiert ADM? Umsetzung: Gut implementiert? Mein Anspruch: Teilhabe stärken Mensch im Mittelpunkt gleichberechtigte Einbeziehung in politische Willensbildung faire Partizipation an sozialer, kultureller, wirtschaftlicher Entwicklung 1. Beforschbarkeit fördern 2. staatliche Kompetenz aufbauen 3. Anspruch an gesellschaftliche Angemessenheit diskutieren und sichern 4. Qualität von Systemen und Zielerreichung überprüfen 5. Diversität von Ansätzen und Betreibern stärkt Gemeinwohl. Ideen befeuern und entwickeln Vielfalt: Ansätze, Betreiber
| Was zu tun ist, um Teilhabe zu stärken 6 Grundlagen schaffen (Beispiele) Informationspflichten wie Hinweispflicht auf algorithmische Bewertung Auskunftsrechte für Bewertete Recht auf Zweitmeinung Verbandsklagerechte Transparenz von Zielen, Methoden, Output Meldepflichten (wie z.B. in der Medizin) Datenzugang für Forschende Umsetzung fördern Wissenschaft: Werkzeuge und Methoden für Recherchen, Expertise für Einordnung von Fällen. Zivilgesellschaftliche Wächter als Beschwerdeinstanzen mit niedrigen Zugangshürden, für Aggregation und Verifikation, Storytelling und Bottom-up-Mobilisierung
Regulierung. Staat in Doppelrolle. 23.11.2017 | Was zu tun ist, um Teilhabe zu stärken 7 Ermöglicher einer positiven Ordnung zu kontrollierender ADM-Anwender Bekannte Herausforderung, Beispiel: Schaffen einer positive Ordnung für Meinungsvielfalt.
10 Diskurs über gesellschaftliche Angemessenheit während der Entwicklung führen Erprobte Messgrößen übertragen, z.B. Armutskennzahlen aus Demographic and Health Survey für Analyse via Satellitenfotos fachöffentlich Öffentliche Konsultationen bei Konstruktion von Entscheidungssysteme. Analog z.B. zu Beteiligungsverfahren in der Stadtplanung mit potenziell Betroffenen Transparenz der Ziele, Modellierung und Methoden. z.B. durch Folgenabschätzung, Verträglichkeitsprüfung (vgl. Bau / Umwelt) gesellschaftlich breit
braucht es vielfältige Wächter-Institutionen. 23.11.2017 | Was zu tun ist, um Teilhabe zu stärken 13 Neben Forschung und Zivilgesellschaft zum Teil vlt. auch institutionalisierte Aufsicht. Vorbilder: Sven Teschke CC BY-SA 3.0 de Medikamentenzulassung Baugenehmigung Kfz-Zulassung Deutsche Akkreditierungsstelle Vorab Bundesstelle für Flugunfalluntersuchung Nachträglich Lebensmittelkontrolle Finanzaufsicht Wirtschaftsprüfer Rechnungshöfe Fortwährend
15 Ansätze System-Vielfalt: Wenn es viele richtige Operationalisierungen eines sozialen Konzepts gibt, sind unterschiedliche Systeme sinnvoll. Öffentliche Förderprogramme wie z.B. Prototype Fund für gemeinwohlförderliche ADM-Projekte Entwicklung fürs Gemeinwohl Unterschiedliche Relevanzkonzepte in Sprachversionen, unterschiedliche Zulassungsverfahren (z.B. Bot Approvals Group) Wikipedia-Bots Im öffentlichen Sektor z.B. analog zu Nachhaltigkeit. Je nach Einsatzgebiet vielleicht absolute Vielfalt verpflichtend (analog zu Zweitgutachter) Vielfalt als Vergabekriterium
16 “Ethics” by Mark Morgan is licensed under CC BY 2.0 Ansätze Trainingsdaten: Gemeinwohl taugt nicht immer zum Geschäftsmodell. Deshalb braucht es vielfältige Betreibermodelle & Ziele. Vorbild Projekt Common Voice der Mozilla Foundation. Basis für Spracherkennung für alle. Trainingsdatenallmende Biobanken an Universitäten sammeln Proben und Spenderinfos für Forschung Datentreuhänder Öffentlich nutzbare Daten aus öffentlich geförderter Forschung generieren Open Access für Trainingsdaten
Beforschbarkeit und Öffentlichkeit algorithmischer Entscheidungsfindung sichern. z.B. durch Datenzugang, Auskunftsrechte, Meldepflichten, Wissenschaft und Wächter 2. Staatlicher Kompetenzaufbau zum Gestalten einer positiven Ordnung. z.B. nach Vorbild der Obama-Kommission, z.B. in Agentur 3. Diskurs über Angemessenheit der implementierten Ziele z.B. durch Instrumente wie Verträglichkeitsprüfung, institutionalisierte Professionsethik 4. Qualität der Umsetzung in Systemen prüfen z.B. durch Wächter-Organisationen 5. Vielfalt der Ziele, Systeme und Betreibermodelle sichern – auch als Teil staatlicher Daseinsvorsorge. z.B. durch Förderprogramme für gemeinwohlorientierte Entwicklung, öffentliche Vergabe, zugängliche Trainingsdaten 23.11.2017 | Was zu tun ist, um Teilhabe zu stärken 17