Evolution im Computer

Vortragsfolien für den Vortrag "Evolution im Computer" beim JUG Saxony Day 2018 am 28.09.2018 von Stephan Pirnbaum und Steffen Gemkow.

1. Evolution im Computer
2. Stephan Pirnbaum @spirnbaum Junior-Consultant @buschmais Steffen Gemkow @SteffenGemkow Geschäftsführer @ObjectFab
4. Infinite-Monkey Theorem • Man nehme: ◦ Unendliche Anzahl Affen ◦ Je Affe eine Schreibmaschine ◦ Unendlich Zeit • Man erhalte: ◦ Shakespeares Werke ◦ Ressourcenproblem ◦ Problem mit den Tierschützern https://www.theinfinitemonkeytheorem.com/
5. Methinks it is like a weasel • Gedankenexperiment von Richard Dawkins ◦ Tastatur mit 26 + 1 Tasten (Buchstaben + Space) ◦ Einen Fehler-machenden Copy-Paste-Affen ◦ Eine Ausgangstextsequenz (Zufällig, Länge 28) https://www.worldatlas.com/articles/what-are-the-differences-between-a-stoat-and-a-weasel.html
6. Evolutionäre was?
7. Darwins Evolutionstheorie • 3 Grundthesen ◦ Alles Leben hat sich im Laufe der Zeit entwickelt ◦ Die Weiterentwicklung von Arten erfolgt durch natürliche Selektion ◦ Arten passen sich an die Natur an https://www.dkfindout.com/uk/science/famous-scientists/charles-darwin/
8. Darwins Evolutionstheorie - Grundbegriffe • Individuum ◦ Ein einzelnes Lebewesen oder Ding • Population ◦ Menge aller Individuen einer Art, die untereinander genetisch, physiologisch und räumlich fähig sind, sich fortzupflanzen • Generation ◦ Menge aller Individuen, die den gleichen Abstand zu ihren gemeinsamen Vorfahren haben
9. Darwins Evolutionstheorie - Grundbegriffe • Selektion ◦ Auslese der stärksten bzw. angepasstesten Individuen einer Generation • Kreuzung ◦ Kombination der Erbanlagen zweier Individuen zur Fortpflanzung • Mutation ◦ Zufällige Änderung von Teilen der Erbanlagen
10. Darwins Evolutionstheorie - Algorithmus 1: population = Initiale Population (Generation 0) 2: while (true) do 3: selektion = selektiere ( population ) 4: population = mutiere ( kreuze ( selektion ) )
11. Darwins Evolutionstheorie ist ein Algorithmus zur Optimierung
12. Evolution, aber wie?
13. Evolution, aber wie? Schritt 1: Das Problem
14. Das Problem - Anforderungen • Optimierungsproblem o Mehrere mögliche Lösungen ◦ Lösungen kodierbar ◦ Lösungen bewertbar ◦ Bereitschaft, auf die BESTE Lösung zu verzichten
15. Evolution, aber wie? Schritt 2: Die Kodierung
16. Die Kodierung • Lineare Repräsentation ◦ z.B. Array • Baum-Repräsentation ◦ z.B. Syntaxbaum
17. Die Kodierung - Genotyp vs. Phänotyp • Genotyp ist das Erbbild eines Merkmals • Phänotyp ist das Erscheinungsbild (Ausprägung) eines Merkmals • Genetische Algorithmen: Genotyp != Phänotyp • Evolutionsstrategie: Genotyp = Phänotyp
18. Die Kodierung • “Methinks it is like a weasel” ◦ Lineare Repräsentation → Evolutionsstrategie da Genotyp = Phänotyp
19. Evolution, aber wie? Schritt 3: Die Selektion
20. Die Selektion • Qualität einer Lösung im Kontext des Problems • Höhere Qualität = Höhere Wahrscheinlichkeit für “Vermehrung” • Ein oder mehrere Kriterien, Skalarisierung möglich • Fitnessfunktion
21. Die Selektion - Single vs. Multi Objective • Single Objective Optimization ◦ Lösungsqualität ist von einer skalarisierbaren Eigenschaft abhängig ▪ Direkte Nutzung dieser zur Bewertung ◦ Lösungsqualität ist von mehreren skalarisierbaren Eigenschaften abhängig ▪ Kombination aller Eigenschaften zu einem Skalar notwendig ▪ Gewichtung der Eigenschaften spielt große Rolle für Resultat ◦ (normalisierter) Skalar entspricht der Wahrscheinlichkeit für die Auswahl zur Weiterentwicklung
22. Die Selektion - Single vs. Multi Objective • Multi Objective Optimization ◦ Lösungsqualität ist von mehreren skalarisierbaren Eigenschaften Abhängig ▪ Bei n Eigenschaften → n-dimensionaler Bewertungsraum ▪ Pareto-Front enthält gleich-gute Lösungen ▪ Auswahl aus Pareto-Front gleichwahrscheinlich
23. Evolution, aber wie? Schritt 4: Kreuzung und Mutation
24. Die Kreuzung • Rekombination des Erbmaterials zweier Lösungen • Dient der breiten Exploration des Suchraums • Auswahl zweier Lösungen aus der aktuellen Population ◦ Basierend auf deren Wahrscheinlichkeit (Fitness) • Rekombination beider Lösungen durch Teilen und Zusammensetzen ◦ Mittig oder an zufälliger Position
25. Die Kreuzung
26. Die Mutation • Zufällige Veränderung von Werten abhängig von der Mutationsrate • Höhere Mutationsrate → Mehr Werte werden geändert • Zufällige Auswahl des neuen Werte
27. • Mutationsrate: 10% • Verbesserung, Verschlechterung und keine Veränderung möglich Die Mutation
28. Evolution, und wozu?
29. SARF - Evolutionäre Architekturrecovery • Problem: ◦ Über Jahre gewachsene, stark errodierte Softwaresysteme ◦ Undokumentierte bzw. von Dokumentation abweichende Architektur • Ziel: ◦ Restrukturierung der Anwendung anhand fachlicher Gesichtspunkte • Frage: ◦ Wie sollte das Softwaresystem strukturiert sein?
30. SARF - Evolutionäre Architekturrecovery
31. SARF - Evolutionäre Architekturrecovery • Gesucht: ◦ Sinnvolle Dekomposition des Systems in Komponenten ▪ Dekomposition = Systemzerlegung ▪ Komponente = Menge von Klassen ▪ Kodierung = ? ▪ Sinnvoll = ?
32. SARF - Evolutionäre Architekturrecovery • Kodierbarkeit von Lösungen ◦ Zuordnung von Klassen zu Komponenten ▪ Klasse => Identifiziert durch ID ▪ Komponente => Identifiziert durch ID
33. SARF - Evolutionäre Architekturrecovery • Kodierbarkeit von Lösungen
34. SARF - Evolutionäre Architekturrecovery • Bewertbarkeit von Lösungen ◦ Single-Responsibility Principle => Hohe Kohäsion ◦ Separation of Concerns => Geringe Kopplung 2 Objectives
35. SARF - Evolutionäre Architekturrecovery • Bewertbarkeit von Lösungen ◦ Single- vs. Multi-Objective Optimization ▪ Konkurrierende Objectives, schwer zu gewichten ▪ “Die eine Lösung” existiert nicht Multi-Objective Optimization
36. SARF - Evolutionäre Architekturrecovery • Umsetzung mit Jenetics ◦ Open Source Java Bibliothek ◦ EvolutionStream als Grundlage ▪ Verschiedene vordefinierte Kodierungsarten und Datentypen ▪ Verschiedene Crossover- und Mutationsoperatoren ▪ SOO- und MOO-Unterstützung ▪ Parallelisierbar und umfangreiche Statistiken
37. SARF - Evolutionäre Architekturrecovery • Optimierungen ◦ Optimierende Mutatoren ◦ Optimiertes Startindividuum
38. TTBN - Evolutionäre Befahrbarkeitsprüfung • Schwertransporte planen und genehmigen • Frage: ◦ Kann der Transport durch die Engstelle fahren? • Ziel: ◦ Nachweis §§ © Fotolia 6674750
39. TTBN - Evolutionäre Befahrbarkeitsprüfung • Das Fahrzeug startet von definierter Position und Ausrichtung • Das Fahrzeug folgt einer Leitlinie zum Ziel • Die Leitlinie ist eine Sequenz von X/Y Paaren und damit das GENOM • Eine Leitlinie pro Individuum
40. TTBN - Evolutionäre Befahrbarkeitsprüfung • Bewertbarkeit (Teilaspekte) ◦ Keine Kollisionen mit Hindernissen (KO-Kriterium) ◦ Alle Räder sind auf Fahrbahn (KO-Kriterium) ◦ Eingehaltene Fahrzeugparameter (KO-Kriterium) ◦ Streckenlänge ◦ Lenkmanöver ◦ Ausrichtung an der Zielposition
41. TTBN - Evolutionäre Befahrbarkeitsprüfung • Bewertbarkeit von Lösungen (Fitness) ◦ Gewichtete Summe aus der Bewertung von Teilaspekten • Selektion von Lösungen ◦ Anhand der Fitness in Relation zur Summe aller Fitnesswerte ◦ Anhand der Position in der nach Fitness sortierten Liste ◦ Selektion des unfittesten Individuums muss möglich sein
42. TTBN - Evolutionäre Befahrbarkeitsprüfung • Umsetzung mit eigener Implementierung ◦ volle Flexibilität ◦ Klassen wie: Evolution, Population, Individual, Gene, ... ◦ Methoden wie: evolve, select, mutate, crossOver, … • Realisierung mit AWS Lambda (bis zu 32 Threads gleichzeitig) ◦ Hierarchie und Sequenz von Lambda-Prozessen
43. TTBN - Evolutionäre Befahrbarkeitsprüfung • Achtung Sub-Optima! ◦ Simulated Annealing ◦ Mehrere Populationen
45. Evolutionäre vs. Hochspezialisierte Algorithmen • Evolutionäre Algorithmen sind generischer ◦ Liefern möglicherweise weniger gute Ergebnisse ◦ Brauchen teilweise länger als spezielle Algorithmen ◦ Aber: Nicht für jedes Problem existiert ein passender Optimierungsalgorithmus
46. Wer mag (und kann) das berechnen?
47. EA als Ergänzung ML und AI • Big Data treibt ML und AI voran ◦ Gute und umfangreiche Lern- und Prüfdaten notwendig ◦ Schwierig anpassbar, wenn Ergebnisse “gefühlt” nicht passen • Hohe Komplexität von ML und AI ◦ Für Machbarkeits-Untersuchungen ungeeignet
48. Evolutionäre Algorithmen eignen sich für viele Probleme. Es kommt auf deren Kodierung an!
49. Evolution, und weiter? • Stetige Analyse und Optimierung wichtig ◦ Mutationsrate, Populationsgröße, Anzahl explorierte Generationen ◦ Fitnessfunktion ▪ SOO vs. MOO ▪ Neue Einflussfaktoren ▪ Gewichtung der Kriterien ◦ Performanz und Logging
50. Affen können Shakespeare schreiben.
51. Vielen Dank! http://simpsons.wikia.com/wiki/The_Monkey_Suit