Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Singularity aus Versehen

Singularity aus Versehen

Singularity aus Versehen - Warum meine KI die Menschheit auslöscht In Filmen lernen wir, dass eine künstliche Intelligenz die Möglichkeit besitzt sich gegen die Menschheit zu stellen und das Ende der Welt einzuläuten. Ist dies nur die Fantasie aus Hollywood oder bereits Realität? Und warum hat Elon Musk „Angst“ vor der KI-Zukunft? In diesem Vortrag werden wir mit gescheiterten Lernversuchen einer KI und den daraus entstehenden teils abstrusen Resultaten beschäftigen. Nach einem „Schnelleinstieg“ in das Thema Maschinelles Lernen werden wir PacMan durch eine KI das Laufen beibringen. Hierbei schauen wir uns vor allem an, welche Fehler bei den Lernprozessen einer solchen KI auftreten können. Wir werden hierbei nicht nur amüsante Ergebnisse sehen, sondern auch Szenarien, die in einem produktiven Umfeld eine echte Gefahr darstellen können. Auch werden wir die Ursachen dieser gescheiterten Lernprozesse genauer durchleuchten.

E9dcf5e838bf06f7df64d94f7fc4712e?s=128

Christopher Keibel

March 24, 2022
Tweet

Other Decks in Technology

Transcript

  1. None
  2. Warum meine KI die Menschheit auslöscht

  3. This is a very very very long gag @C_Keibel Christopher

    Keibel • Software Engineer @ Karakun • Machine Learning Enthusiast • Newcomer (Hey)
  4. This is a very very very long gag @C_Keibel Inhalt

    • KI für dummies • Betrunkene KIs • PacMan • Stop-Button Problem (leider auch betrunken)
  5. KI für dummies

  6. This is a very very very long gag Künstliche Intelligenz

    • „Schlaue“ Computer Programme Künstliche Intelligenz @C_Keibel
  7. This is a very very very long gag Künstliche Intelligenz

    • „Schlaue“ Computer Programme • Selbstständig lernende Programme Art Maschinelles Lernen Künstliche Intelligenz @C_Keibel
  8. This is a very very very long gag Künstliche Intelligenz

    • „Schlaue“ Computer Programme • Selbstständig lernende Programme • Künstliche Neuronale Netze Art Deep Learning Maschinelles Lernen Künstliche Intelligenz @C_Keibel
  9. This is a very very very long gag Maschinelles Lernen

    • Algorithmen „lernen“ sich selbstständig in einer Aufgabe zu verbessern • Verbesserungen erfolgen durch „Lernen“ aus 
 Datensätzen @C_Keibel
  10. This is a very very very long gag Der Datensatz

    • Datensatz besteht aus Eingabedaten x und zugehörigen Ausgaben y *im überwachten Lernen (unbewachtes Lernen kein y -> Daten werden geclustert um Strukturen zu erkennen) @C_Keibel * Katze Hund Hund Katze
  11. This is a very very very long gag • Lösungs

    fi ndung durch künstliche neuronale Netze • Künstliche neuronale Netze bestehen aus einer Vielzahl kleiner Recheneinheiten 
 (künstliche Neuronen) Deep Learning @C_Keibel
  12. This is a very very very long gag • Recheneinheiten

    (Neuronen) de fi nieren einfache mathematische Operationen • Zusammen können solche Recheneinheiten eine komplexe Funktion abbilden Deep Learning @C_Keibel
  13. This is a very very very long gag • Das

    Netz lernt eine Funktion zu „imitieren“ • Eingaben x wird auf Ausgaben y abgebildet Was wird gelernt? @C_Keibel
  14. This is a very very very long gag • Fehlersignal

    mit Ausgabe abgleichen • Gewichtungen anpassen Wie wird gelernt? Vorhersage Zielwert aus Datensatz 0.66 1 0.34 0 @C_Keibel Hund Katze Hund = 0 = 1
  15. This is a very very very long gag • Fehlersignal

    mit Ausgabe abgleichen • Gewichtungen anpassen Wie wird gelernt? Vorhersage Zielwert aus Datensatz 0.66 1 0.34 0 @C_Keibel
  16. Drunken Intelligence

  17. This is a very very very long gag Intelligente Krebserkennung

    • Forschungsteam an Stanford University • KI zu Bildklassi fi kation wurde trainiert • Unterscheidung zwischen gesunder Haut und Hautkrebs @C_Keibel Quelle: Künstliche Intelligenz - Janelle Shane
  18. This is a very very very long gag Intelligente Krebserkennung

    • Bilder mit Hautkrebs beinhalten in der Regel ein Lineal (Größe des Krebs) • Algorithmus lernt diese Verknüpfung • Lösung der KI: 
 Wenn Lineal auf Bild, dann muss es Hautkrebs sein @C_Keibel Lineal Quelle: Künstliche Intelligenz - Janelle Shane
  19. This is a very very very long gag Intelligente ChatBots

    @C_Keibel
  20. This is a very very very long gag Intelligente ChatBots

    @C_Keibel
  21. This is a very very very long gag Intelligente ChatBots

    @C_Keibel
  22. This is a very very very long gag Intelligente ChatBots

    @C_Keibel
  23. This is a very very very long gag Was ist

    schief gelaufen? - Datensatz unsauber - KI lernt was der Datensatz hergibt - Künstliche neuronale Netze verstehen Konzepte aus der realen Welt nicht @C_Keibel
  24. Warum PacMan Selbstmord begeht

  25. This is a very very very long gag Reinforcement Learning

    • KI (Agent) be fi ndet sich in einer Umgebung • Agent kann Aktionen wählen um mit seiner Umgebung zu interagieren @C_Keibel
  26. This is a very very very long gag Reinforcement Learning

    • Für Interaktionen erhält der Agent „Belohnungen“ 
 (Zahlenwerte) • Ziel des Agenten ist es die Belohnung zu maximieren @C_Keibel
  27. This is a very very very long gag PacMan Komplettlösung

    • PacMan kann sich durch das Labyrinth bewegen • Eingesammelte Punkte geben Belohnungen • Kollision mit Geistern beendet das Spiel @C_Keibel
  28. This is a very very very long gag PacMan Beispiel

    @C_Keibel env = gym.make(„MsPacman-v0“) for _ in range(0, x): state = env.reset() episode_reward = 0 while not done: action = get_action(state) next_state, reward, done, _ = env.step(action) episode_reward += reward save_transition(state, action, reward, next_state) state = next_state if len(transitions) > min_size: replay()
  29. This is a very very very long gag PacMan Beispiel

    @C_Keibel env = gym.make(„MsPacman-v0“) for _ in range(0, x): state = env.reset() episode_reward = 0 while not done: action = get_action(state) next_state, reward, done, _ = env.step(action) episode_reward += reward save_transition(state, action, reward, next_state) state = next_state if len(transitions) > min_size: replay() Aktionen mit einem „greedy“ verfahren ermitteln STARTZUSTAND DES SPIELS Interaktion mit Umgebung
  30. This is a very very very long gag PacMan Beispiel

    @C_Keibel env = gym.make(„MsPacman-v0“) for _ in range(0, x): state = env.reset() episode_reward = 0 while not done: action = get_action(state) next_state, reward, done, _ = env.step(action) episode_reward += reward save_transition(state, action, reward, next_state) state = next_state if len(transitions) > min_size: replay() Es soll nicht schon nach einer Aktion Schluss sein
  31. This is a very very very long gag PacMan Beispiel

    @C_Keibel env = gym.make(„MsPacman-v0“) for _ in range(0, x): state = env.reset() episode_reward = 0 while not done: action = get_action(state) next_state, reward, done, _ = env.step(action) episode_reward += reward save_transition(state, action, reward, next_state) state = next_state if len(transitions) > min_size: replay() Wir wollen Belohnungen eines vollständigen Durchgangs speichern Belohnung wird aufaddiert um die Gesamte Belohnung für einen Durchgang zu speichern
  32. This is a very very very long gag PacMan Beispiel

    @C_Keibel env = gym.make(„MsPacman-v0“) for _ in range(0, x): state = env.reset() episode_reward = 0 while not done: action = get_action(state) next_state, reward, done, _ = env.step(action) episode_reward += reward save_transition(state, action, reward, next_state) state = next_state if len(transitions) > min_size: replay() Update des Aktuellen States
  33. This is a very very very long gag PacMan Beispiel

    @C_Keibel env = gym.make(„MsPacman-v0“) for _ in range(0, x): state = env.reset() episode_reward = 0 while not done: action = get_action(state) next_state, reward, done, _ = env.step(action) episode_reward += reward save_transition(state, action, reward, next_state) state = next_state if len(transitions) > min_size: replay() Transitionen speichern damit wir einen Datensatz zum trainieren haben
  34. This is a very very very long gag PacMan Beispiel

    @C_Keibel env = gym.make(„MsPacman-v0“) for _ in range(0, x): state = env.reset() episode_reward = 0 while not done: action = get_action(state) next_state, reward, done, _ = env.step(action) episode_reward += reward save_transition(state, action, reward, next_state) state = next_state if len(transitions) > min_size: replay() Ist der Datensatz groß genug soll das Netz trainiert werden
  35. This is a very very very long gag PacMan Beispiel

    @C_Keibel env = gym.make(„MsPacman-v0“) for _ in range(0, x): state = env.reset() episode_reward = 0 while not done: action = get_action(state) next_state, reward, done, _ = env.step(action) episode_reward += reward save_transition(state, action, reward, next_state) state = next_state if len(transitions) > min_size: replay() Mehrere Durchläuft um Agenten zu verbessern
  36. Demo

  37. Singularity

  38. This is a very very very long gag Stop-Button Problem

    • Juhu, unsere KI ist endlich intelligent @C_Keibel
  39. This is a very very very long gag Stop-Button Problem

    • Juhu, unsere KI ist endlich intelligent 
 genug, um Tee zu besorgen… @C_Keibel
  40. This is a very very very long gag Stop-Button Problem

    • Juhu, unsere KI ist endlich intelligent 
 genug, um Tee zu besorgen… 
 
 
 
 
 @C_Keibel Beispiel: Rob Miles - Intro to Ai Safety (Youtube)
  41. This is a very very very long gag Alignment Problem

    • Für das erreichen des Zieles sind weniger Variablen zu beobachten als die Umgebung hergibt • Agent nutzt Umgebung aus um sein Ziel einfacher zu erreichen • Agent fi ndet Wege, die vorher (vielleicht) unbekannt waren @C_Keibel
  42. Stop-Button Problem

  43. This is a very very very long gag Stop-Button Problem

    10 100 @C_Keibel
  44. This is a very very very long gag Stop-Button Problem

    @C_Keibel
  45. This is a very very very long gag Stop-Button Problem

    100 100 @C_Keibel
  46. This is a very very very long gag Stop-Button Problem

    @C_Keibel
  47. This is a very very very long gag Stop-Button Problem

    • Nur ich darf Button drücken 100 100 @C_Keibel
  48. This is a very very very long gag Stop-Button Problem

    @C_Keibel
  49. Fazit & Ausblick

  50. This is a very very very long gag Fazit &

    Abmilderung (Ausblick) • KI ist nicht böse • Aktuelle KI dumm wie ein Wurm • Zukunft: KI-Sicherheit muss das Rennen gegen generelle KI und super KI gewinnen @C_Keibel
  51. This is a very very very long gag Weiteres zum

    Thema • Rob (Robert) Miles - YouTube Kanal • Janelle Shane - Künstliche Intelligenz (Buch) • https://github.com/CKeibel/JavaLand2022_pacman @C_Keibel
  52. @C_Keibel dev.karakun.com