Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Machine Learning 101

Machine Learning 101

Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer 
an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt
 von Kai Spriestersbach, B.Sc. E-Commerce.

Kai Spriestersbach

January 28, 2021
Tweet

More Decks by Kai Spriestersbach

Other Decks in Education

Transcript

  1. Machine Learning 101
    Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer 

    an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt

    von Kai Spriestersbach, B.Sc. E-Commerce

    View Slide

  2. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    ML101: Agenda & Referent
    1. Grundlegende Konzepte

    1. Supervised Learning

    2. Unsupervised Learning

    3. Reinforcement Learning

    2. Einstieg in ML

    1. Hürden in der Praxis

    2. Wie lerne ich ML?
    Kai Spriestersbach, B.Sc. E-Commerce

    View Slide

  3. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Grundlegende Konzepte

    View Slide

  4. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Äpfel und Birnen
    color: #b72522
    curvature: .32
    height: .35
    width: .37
    color: #d9dd67
    curvature: .62
    height: .46
    width: .36

    View Slide

  5. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Alles Statistik oder was?
    ID color curvature height width
    1 #b62321 0.33 0.31 0.38
    2 #b72522 0.32 0.35 0.37
    3 #d9dd67 0.62 0.46 0.36
    4 #d8de68 0.55 0.41 0.37

    View Slide

  6. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Drei unterschiedliche Ansätze
    Machine Learning
    Supervised Learning
    Aufgaben getrieben
    Unsupervised Learning
    Daten getrieben
    Reinforcement Learning
    Belohnungsgetrieben

    View Slide

  7. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    1. Supervised Learning
    Trainiere dir deinen Algorithmus
    Quelle: https://data-science-blog.com/blog/2017/07/02/uberwachtes-vs-unuberwachtes-maschinelles-lernen/
    1.
    2.
    3.

    View Slide

  8. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Supervised Learning
    „Wie lerne ich Äpfel von Orangen zu unterscheiden?“
    Klassi
    f
    i
    kation Regression

    View Slide

  9. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Klassi
    f
    i
    kation
    Das Finden von Grenzen
    Quelle: https://data-science-blog.com/blog/2017/12/20/maschinelles-lernen-klassi
    f
    i
    kation-vs-regression/
    1. Lerndaten 2. ANN „anlernen“ 3. Gewichtungen = Grenze 4. Aktivierungsfunktion

    View Slide

  10. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Regression
    Die Vorhersage von stetigen Werten
    Quelle: https://data-science-blog.com/blog/2017/12/20/maschinelles-lernen-klassi
    f
    i
    kation-vs-regression/

    View Slide

  11. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    2. Unsupervised Learning
    Mit unüberwachtem Lernen verborgene Strukturen identi
    f
    i
    zieren

    Quelle: https://data-science-blog.com/blog/2017/07/02/uberwachtes-vs-unuberwachtes-maschinelles-lernen/

    View Slide

  12. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    2. Unsupervised Learning
    „Wie bringe ich Ordnung in meine LEGO-Kiste?“
    Clustering
    Bild: https://www.amazon.de/LEGO-Steine-Co-6053-Bausteinekiste/dp/B004OT4SKG

    View Slide

  13. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Unsupervised Learning
    „Wie bringe ich Ordnung in meine LEGO-Kiste?“
    Clustering

    View Slide

  14. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    kNN Algorithmus
    Quelle: https://www.kdnuggets.com/2016/01/implementing-your-own-knn-using-python.html
    Gruppen mittels Abständen bestimmen
    1. Datenanalyse 3. Nachbarn
    f
    i
    nden 4. Klassen wählen
    2. Distanzen berechnen

    View Slide

  15. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Deep Neural Networks

    View Slide

  16. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Natürliches Neuron
    Bild: http://
    f
    l
    ickriver.com/photos/msitua/sets/72157622381433565/

    View Slide

  17. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Stimuli / Aktivierungsfunktion
    Quelle: http://www.nature.com/neuro/journal/v15/n11/
    f
    i
    g_tab/nn.3247_F1.html

    View Slide

  18. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Aufbau eines ANN
    Quelle: http://sqlblog.com/blogs/dejan_sarka/archive/2016/01/26/data-mining-algorithms-neural-network.aspx

    View Slide

  19. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Warum Deep?
    Quelle: https://www.datarobot.com/blog/a-primer-on-deep-learning/

    View Slide

  20. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Das Netz lernt in Schichten von Features
    Quelle: https://www.datarobot.com/blog/a-primer-on-deep-learning/

    View Slide

  21. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    3. Reinforcement Learning
    Durch Belohnung und Verstärkung Verbesserungen erreichen

    Quelle: https://medium.freecodecamp.org/an-introduction-to-reinforcement-learning-4339519de419

    View Slide

  22. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Reinforcement Learning
    „Wie bringe ich meinem Sohn ein Brettspiel bei?“
    Genetische Algorithmen Temporal Di
    f
    f
    erence Learning

    View Slide

  23. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Let’s solve Super Mario World

    View Slide

  24. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Deep Neural Network!

    View Slide

  25. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    FSS im Output
    12 Buttons = 12 Output Neurons?

    View Slide

  26. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Input:


    Screen-Capture
    256 x 224 Pixel = 57.344 Pixel

    Mit je 256 Farben

    57.344 Eingangsneuronen

    View Slide

  27. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Was Google kann …
    Ng et. al., „Building High-level Features Using Large Scale Unsupervised Learning“ https://arxiv.org/pdf/1112.6209.pdf

    View Slide

  28. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Ng et. al., „Building High-level Features Using Large Scale Unsupervised Learning“ https://arxiv.org/pdf/1112.6209.pdf
    “The model has 1 billion connections, the dataset has 10 million
    200×200 pixel images downloaded from the Internet…

    We train this network using model parallelism and asynchronous SGD
    on a cluster with 1,000 machines (16,000 cores) for three days”

    View Slide

  29. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Full Screen Capture
    14.680.064 Varianten

    View Slide

  30. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    16 Graustufen?
    917.504 Varianten

    View Slide

  31. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Komplexitätsreduktion!

    View Slide

  32. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Komplexitätsreduktion!
    8.192 Varianten

    View Slide

  33. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce

    View Slide

  34. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    https://www.youtube.com/watch?v=Ipi40cb_RsI
    MariFlow - Self-Driving Mario Kart w/Recurrent Neural Network


    View Slide

  35. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    3. Praktischer Einstieg

    View Slide

  36. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Viele Lösungsansätze…
    Welcher ist „der Richtige“?

    View Slide

  37. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Problem Pre-Processing
    • Feature Subset Selection

    Welche Eigenschaften/Daten sollen wir heranziehen?

    • Diskretisierung

    Aufteilung von Wertebereichen in Intervalle, z.B. Altersgruppen

    • Sampling

    Spart Rechenzeit und Speicherplatz bei zu großen Datenmengen

    • Data Cleaning

    Daten analysiern, aufbereiten, Fehler korrigieren, Dubletten aussortieren

    View Slide

  38. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Problem Pre-Processing
    • Feature Subset Selection

    Welche Eigenschaften/Daten sollen wir heranziehen?

    • Diskretisierung

    Aufteilung von Wertebereichen in Intervalle, z.B. Altersgruppen

    • Sampling

    Spart Rechenzeit und Speicherplatz bei zu großen Datenmengen

    • Data Cleaning

    Daten analysiern, aufbereiten, Fehler korrigieren, Dubletten aussortieren

    View Slide

  39. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Problem Pre-Processing
    • Feature Subset Selection

    Welche Eigenschaften/Daten sollen wir heranziehen?

    • Diskretisierung

    Aufteilung von Wertebereichen in Intervalle, z.B. Altersgruppen

    • Sampling

    Spart Rechenzeit und Speicherplatz bei zu großen Datenmengen

    • Data Cleaning

    Daten analysiern, aufbereiten, Fehler korrigieren, Dubletten aussortieren

    View Slide

  40. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Problem Pre-Processing
    • Feature Subset Selection

    Welche Eigenschaften/Daten sollen wir heranziehen?

    • Diskretisierung

    Aufteilung von Wertebereichen in Intervalle, z.B. Altersgruppen

    • Sampling

    Spart Rechenzeit und Speicherplatz bei zu großen Datenmengen

    • Data Cleaning

    Daten analysiern, aufbereiten, Fehler korrigieren, Dubletten aussortieren

    View Slide

  41. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    Wie lerne ich ML?

    View Slide

  42. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    https://www.kaggle.com/kanncaa1/machine-learning-tutorial-for-beginners
    Lernt python & startet bei kaggle mit dem Tutorial

    View Slide

  43. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    https://eu.udacity.com/course/intro-to-machine-learning--ud120
    Kostenloser Machine Learning Kurs bei Udacity

    View Slide

  44. Gastvortrag im FWPM Web Intelligence bei Prof. Dr. Mario Fischer an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt von Kai Spriestersbach, B.Sc. E-Commerce
    24 hours

    big data

    hackatho
    n


    15/1
    6


    Novembe
    r


    201
    8


    GRÜNDERWERKSTAT
    T


    VOGEL COMMUNICATIONS GROU
    P


    WÜRZBUR
    G


    https://nightcrawl.scoutbee.com/
    Kommt zu Events bei scoutbee

    View Slide