Wie User Experience das Vertrauen in KI aufbaut

Künstliche Intelligenz ist die automatische Beförderung für jeden Mitarbeiter: Wer digitale Assistenten im Beruf nutzt, wird zum Vorgesetzten und muss Aufgaben zwischen sich und der Maschine delegieren. Deshalb müssen Nutzer ein stärkeres Vertrauen zu einer Software aufbauen. Für eine vertrauensvolle Nutzung und einen echten Mehrwert sind aber klare Leitlinien zur KI-Nutzung nötig. Global Player wie SAP, Google und Microsoft haben diese bereits für sich aufgestellt und dienen als Rahmen dieses Vortrages.
UX Engineers sind für die Entwicklung KI-basierter Software in einer verantwortungsvollen Position: Wie kann das User Interface als einzige Schnittstelle zwischen Nutzer und KI das Vertrauen vermitteln, das für eine erfolgreiche Zusammenarbeit notwendig ist? Der Vortrag stellt anhand von Beispielen einige praktische Designtipps und Richtlinien vor, wie verständliche UIs für KI-basierte Software gestaltet werden.

Transcript

1. View Slide

2. View Slide

3. View Slide

4. „Im Prinzip könnten wir eine Art von Superintelligenz
   erschaffen, die menschliche Werte achtet (…).
   Jedoch scheint es, als hätten wir nur einen Schuss
   frei. Sobald eine unfreundliche Superintelligenz
   existiert, wird sie uns davon abhalten, sie zu ersetzen
   oder ihre Präferenzen zu ändern. Dann wäre unser
   Schicksal besiegelt.“
   — Nick Bostrom (2014)
   Bildquelle: https://www.zeit.de/2016/21/nick-bostrom-oxford-philosoph-kuenstliche-intelligenz
   

   View Slide

5. „Die Demokratie und der freie Markt werden zusammenbrechen, sobald Google und Facebook uns
   besser kennen als wir selbst und die Macht von einzelnen Menschen auf Netzwerke von
   Algorithmen übergeht. Die meisten von uns werden nicht darüber entscheiden können, wie die
   Technologie unser Leben beeinflusst, weil sie sie nicht verstehen. “
   — Yuval Noah Harari (2015)
   Bildquelle: https://www.haberturk.com/sapiensin-yazari-yuval-noah-harari-biz-3018deki-davosun-neandartelleri-sayiliriz-1822830
   

   View Slide

6. „Wenn ich einen Tipp abgeben müsste, was
   die größte Bedrohung unserer Existenz ist,
   dann ist es vermutlich KI. Wir müssen also
   sehr vorsichtig sein. Mit künstlicher Intelligenz
   beschwören wir den Teufel.“
   — Elon Musk (2014)
   Bildquelle: http://time.com/4069120/elon-musk-apple-watch-car-apology/
   

   View Slide

7. View Slide

8. KILL
   

   View Slide

9. Bildquellen: https://revengeofthefans.com/2018/02/21/new-filming-start-date-for-terminator-6-revealed/, https://screenrant.com/the-matrix-makes-no-sense-plot-holes/
   

   View Slide

10. Bildquelle: https://www.usnews.com/news/blogs/at-the-edge/2015/10/29/artificial-intelligence-may-kill-us-all-in-30-years
    

    View Slide

11. View Slide

12. Quelle: https://www.ibm.com/thought-leadership/smart/de-de/watson/ai-stories/bradesco/
    

    View Slide

13. Quelle: https://www.ibm.com/thought-leadership/smart/de-de/watson/ai-stories/woodside/
    

    View Slide

14. Quelle: https://www.ibm.com/watson/stories/ejgallo/
    

    View Slide

15. Bildquelle: https://cdn.aerzteblatt.de/bilder/2017/11/img137657616.jpg, Quelle: https://www.computerwoche.de/a/was-sie-zum-thema-ki-wissen-muessen,3544140
    

    View Slide

16. Quelle: https://www.pwc.de/de/digitale-transformation/ki-als-innovationsbeschleuniger-in-unternehmen-whitepaper.pdf
    

    View Slide

17. View Slide

18. View Slide

19. View Slide

20. View Slide

21. View Slide

22. View Slide

23. View Slide

24. View Slide

25. View Slide

26. View Slide

27. View Slide

28. View Slide

29. Quellle: A. Moritz, F. Rimbach; “Soft Skills für Young Professionals: Alles, was Sie für Ihre Karriere brauchen“, 4. Auflage, Offenbach a.M., GABAL Verlag, 2006.
    

    View Slide

30. „Vertrauen bezeichnet die subjektive Überzeugung (…) von
    der Richtigkeit, Wahrheit von Handlungen, Einsichten und
    Aussagen bzw. der Redlichkeit von Personen. (…) Zum
    Vertrauen gehört auch die Überzeugung der Möglichkeit
    von Handlungen und der Fähigkeit zu Handlungen.“
    — Wikipedia
    DIVSI – Deutsches Institut für Vertrauen und Sicherheit im Internet
    

    View Slide

31. Bildquelle: https://www.republik.ch/2018/06/06/maschinen-sind-unsere-diener-nicht-umgekehrt
    Quelle: N. Bostrom, E. Yudkowsky, “The Ethics of Artificial Intelligence”. In “Cambridge Handbook of Artificial Intelligence”, Cambridge University Press, 2003
    

    View Slide

32. View Slide

33. Aufgabenangemessenheit
    Erwartungskonformität
    Selbstbeschreibungsfähigkeit
    Lernförderlichkeit
    Fehlertoleranz
    Steuerbarkeit
    Individualisierbarkeit
    

    View Slide

34. Aufgabenangemessenheit
    Erwartungskonformität
    Selbstbeschreibungsfähigkeit
    Lernförderlichkeit
    Fehlertoleranz
    Steuerbarkeit
    Individualisierbarkeit
    

    View Slide

35. Aufgabenangemessenheit
    Erwartungskonformität
    Selbstbeschreibungsfähigkeit
    Lernförderlichkeit
    Fehlertoleranz
    Steuerbarkeit
    Individualisierbarkeit
    

    View Slide

36. Aufgabenangemessenheit
    Erwartungskonformität
    Selbstbeschreibungsfähigkeit
    Lernförderlichkeit
    Fehlertoleranz
    Steuerbarkeit
    Individualisierbarkeit
    

    View Slide

37. Aufgabenangemessenheit
    Erwartungskonformität
    Selbstbeschreibungsfähigkeit
    Lernförderlichkeit
    Fehlertoleranz
    Steuerbarkeit
    Individualisierbarkeit
    

    View Slide

38. Aufgabenangemessenheit
    Erwartungskonformität
    Selbstbeschreibungsfähigkeit
    Lernförderlichkeit
    Fehlertoleranz
    Steuerbarkeit
    Individualisierbarkeit
    

    View Slide

39. Aufgabenangemessenheit
    Erwartungskonformität
    Selbstbeschreibungsfähigkeit
    Lernförderlichkeit
    Fehlertoleranz
    Steuerbarkeit
    Individualisierbarkeit
    

    View Slide

40. Aufgabenangemessenheit
    Erwartungskonformität
    Selbstbeschreibungsfähigkeit
    Lernförderlichkeit
    Fehlertoleranz
    Steuerbarkeit
    Individualisierbarkeit
    

    View Slide

41. Aufgabenangemessenheit
    Erwartungskonformität
    Selbstbeschreibungsfähigkeit
    Lernförderlichkeit
    Fehlertoleranz
    Steuerbarkeit
    Individualisierbarkeit
    

    View Slide

42. UX
    

    View Slide

43. Wir stehen vor der gesellschaftlichen Herausforderung unsere Werte in Algorithmen abzubilden.
    Der Mensch muss dabei im Zentrum unserer Bemühungen stehen.
    

    View Slide

44. View Slide