Evolution im Computer

Vortragsfolien für den Vortrag "Evolution im Computer" beim JUG Saxony Day 2018 am 28.09.2018 von Stephan Pirnbaum und Steffen Gemkow.

Transcript

1. Evolution im Computer
2. Stephan Pirnbaum @spirnbaum Junior-Consultant @buschmais Steffen Gemkow @SteffenGemkow Geschäftsführer @ObjectFab
4. Infinite-Monkey Theorem • Man nehme: ◦ Unendliche Anzahl Affen ◦ Je Affe eine Schreibmaschine ◦ Unendlich Zeit • Man erhalte: ◦ Shakespeares Werke ◦ Ressourcenproblem ◦ Problem mit den Tierschützern https://www.theinfinitemonkeytheorem.com/
5. Methinks it is like a weasel • Gedankenexperiment von Richard Dawkins ◦ Tastatur mit 26 + 1 Tasten (Buchstaben + Space) ◦ Einen Fehler-machenden Copy-Paste-Affen ◦ Eine Ausgangstextsequenz (Zufällig, Länge 28) https://www.worldatlas.com/articles/what-are-the-differences-between-a-stoat-and-a-weasel.html
6. Evolutionäre was?
7. Darwins Evolutionstheorie • 3 Grundthesen ◦ Alles Leben hat sich im Laufe der Zeit entwickelt ◦ Die Weiterentwicklung von Arten erfolgt durch natürliche Selektion ◦ Arten passen sich an die Natur an https://www.dkfindout.com/uk/science/famous-scientists/charles-darwin/
8. Darwins Evolutionstheorie - Grundbegriffe • Individuum ◦ Ein einzelnes Lebewesen oder Ding • Population ◦ Menge aller Individuen einer Art, die untereinander genetisch, physiologisch und räumlich fähig sind, sich fortzupflanzen • Generation ◦ Menge aller Individuen, die den gleichen Abstand zu ihren gemeinsamen Vorfahren haben
9. Darwins Evolutionstheorie - Grundbegriffe • Selektion ◦ Auslese der stärksten bzw. angepasstesten Individuen einer Generation • Kreuzung ◦ Kombination der Erbanlagen zweier Individuen zur Fortpflanzung • Mutation ◦ Zufällige Änderung von Teilen der Erbanlagen
10. Darwins Evolutionstheorie - Algorithmus 1: population = Initiale Population (Generation 0) 2: while (true) do 3: selektion = selektiere ( population ) 4: population = mutiere ( kreuze ( selektion ) )
11. Darwins Evolutionstheorie ist ein Algorithmus zur Optimierung
12. Evolution, aber wie?
13. Evolution, aber wie? Schritt 1: Das Problem
14. Das Problem - Anforderungen • Optimierungsproblem o Mehrere mögliche Lösungen ◦ Lösungen kodierbar ◦ Lösungen bewertbar ◦ Bereitschaft, auf die BESTE Lösung zu verzichten
15. Evolution, aber wie? Schritt 2: Die Kodierung
16. Die Kodierung • Lineare Repräsentation ◦ z.B. Array • Baum-Repräsentation ◦ z.B. Syntaxbaum
17. Die Kodierung - Genotyp vs. Phänotyp • Genotyp ist das Erbbild eines Merkmals • Phänotyp ist das Erscheinungsbild (Ausprägung) eines Merkmals • Genetische Algorithmen: Genotyp != Phänotyp • Evolutionsstrategie: Genotyp = Phänotyp
18. Die Kodierung • “Methinks it is like a weasel” ◦ Lineare Repräsentation → Evolutionsstrategie da Genotyp = Phänotyp
19. Evolution, aber wie? Schritt 3: Die Selektion
20. Die Selektion • Qualität einer Lösung im Kontext des Problems • Höhere Qualität = Höhere Wahrscheinlichkeit für “Vermehrung” • Ein oder mehrere Kriterien, Skalarisierung möglich • Fitnessfunktion
21. Die Selektion - Single vs. Multi Objective • Single Objective Optimization ◦ Lösungsqualität ist von einer skalarisierbaren Eigenschaft abhängig ▪ Direkte Nutzung dieser zur Bewertung ◦ Lösungsqualität ist von mehreren skalarisierbaren Eigenschaften abhängig ▪ Kombination aller Eigenschaften zu einem Skalar notwendig ▪ Gewichtung der Eigenschaften spielt große Rolle für Resultat ◦ (normalisierter) Skalar entspricht der Wahrscheinlichkeit für die Auswahl zur Weiterentwicklung
22. Die Selektion - Single vs. Multi Objective • Multi Objective Optimization ◦ Lösungsqualität ist von mehreren skalarisierbaren Eigenschaften Abhängig ▪ Bei n Eigenschaften → n-dimensionaler Bewertungsraum ▪ Pareto-Front enthält gleich-gute Lösungen ▪ Auswahl aus Pareto-Front gleichwahrscheinlich
23. Evolution, aber wie? Schritt 4: Kreuzung und Mutation
24. Die Kreuzung • Rekombination des Erbmaterials zweier Lösungen • Dient der breiten Exploration des Suchraums • Auswahl zweier Lösungen aus der aktuellen Population ◦ Basierend auf deren Wahrscheinlichkeit (Fitness) • Rekombination beider Lösungen durch Teilen und Zusammensetzen ◦ Mittig oder an zufälliger Position
25. Die Kreuzung
26. Die Mutation • Zufällige Veränderung von Werten abhängig von der Mutationsrate • Höhere Mutationsrate → Mehr Werte werden geändert • Zufällige Auswahl des neuen Werte
27. • Mutationsrate: 10% • Verbesserung, Verschlechterung und keine Veränderung möglich Die Mutation
28. Evolution, und wozu?
29. SARF - Evolutionäre Architekturrecovery • Problem: ◦ Über Jahre gewachsene, stark errodierte Softwaresysteme ◦ Undokumentierte bzw. von Dokumentation abweichende Architektur • Ziel: ◦ Restrukturierung der Anwendung anhand fachlicher Gesichtspunkte • Frage: ◦ Wie sollte das Softwaresystem strukturiert sein?
30. SARF - Evolutionäre Architekturrecovery
31. SARF - Evolutionäre Architekturrecovery • Gesucht: ◦ Sinnvolle Dekomposition des Systems in Komponenten ▪ Dekomposition = Systemzerlegung ▪ Komponente = Menge von Klassen ▪ Kodierung = ? ▪ Sinnvoll = ?
32. SARF - Evolutionäre Architekturrecovery • Kodierbarkeit von Lösungen ◦ Zuordnung von Klassen zu Komponenten ▪ Klasse => Identifiziert durch ID ▪ Komponente => Identifiziert durch ID
33. SARF - Evolutionäre Architekturrecovery • Kodierbarkeit von Lösungen
34. SARF - Evolutionäre Architekturrecovery • Bewertbarkeit von Lösungen ◦ Single-Responsibility Principle => Hohe Kohäsion ◦ Separation of Concerns => Geringe Kopplung 2 Objectives
35. SARF - Evolutionäre Architekturrecovery • Bewertbarkeit von Lösungen ◦ Single- vs. Multi-Objective Optimization ▪ Konkurrierende Objectives, schwer zu gewichten ▪ “Die eine Lösung” existiert nicht Multi-Objective Optimization
36. SARF - Evolutionäre Architekturrecovery • Umsetzung mit Jenetics ◦ Open Source Java Bibliothek ◦ EvolutionStream als Grundlage ▪ Verschiedene vordefinierte Kodierungsarten und Datentypen ▪ Verschiedene Crossover- und Mutationsoperatoren ▪ SOO- und MOO-Unterstützung ▪ Parallelisierbar und umfangreiche Statistiken
37. SARF - Evolutionäre Architekturrecovery • Optimierungen ◦ Optimierende Mutatoren ◦ Optimiertes Startindividuum
38. TTBN - Evolutionäre Befahrbarkeitsprüfung • Schwertransporte planen und genehmigen • Frage: ◦ Kann der Transport durch die Engstelle fahren? • Ziel: ◦ Nachweis §§ © Fotolia 6674750
39. TTBN - Evolutionäre Befahrbarkeitsprüfung • Das Fahrzeug startet von definierter Position und Ausrichtung • Das Fahrzeug folgt einer Leitlinie zum Ziel • Die Leitlinie ist eine Sequenz von X/Y Paaren und damit das GENOM • Eine Leitlinie pro Individuum
40. TTBN - Evolutionäre Befahrbarkeitsprüfung • Bewertbarkeit (Teilaspekte) ◦ Keine Kollisionen mit Hindernissen (KO-Kriterium) ◦ Alle Räder sind auf Fahrbahn (KO-Kriterium) ◦ Eingehaltene Fahrzeugparameter (KO-Kriterium) ◦ Streckenlänge ◦ Lenkmanöver ◦ Ausrichtung an der Zielposition
41. TTBN - Evolutionäre Befahrbarkeitsprüfung • Bewertbarkeit von Lösungen (Fitness) ◦ Gewichtete Summe aus der Bewertung von Teilaspekten • Selektion von Lösungen ◦ Anhand der Fitness in Relation zur Summe aller Fitnesswerte ◦ Anhand der Position in der nach Fitness sortierten Liste ◦ Selektion des unfittesten Individuums muss möglich sein
42. TTBN - Evolutionäre Befahrbarkeitsprüfung • Umsetzung mit eigener Implementierung ◦ volle Flexibilität ◦ Klassen wie: Evolution, Population, Individual, Gene, ... ◦ Methoden wie: evolve, select, mutate, crossOver, … • Realisierung mit AWS Lambda (bis zu 32 Threads gleichzeitig) ◦ Hierarchie und Sequenz von Lambda-Prozessen
43. TTBN - Evolutionäre Befahrbarkeitsprüfung • Achtung Sub-Optima! ◦ Simulated Annealing ◦ Mehrere Populationen
45. Evolutionäre vs. Hochspezialisierte Algorithmen • Evolutionäre Algorithmen sind generischer ◦ Liefern möglicherweise weniger gute Ergebnisse ◦ Brauchen teilweise länger als spezielle Algorithmen ◦ Aber: Nicht für jedes Problem existiert ein passender Optimierungsalgorithmus
46. Wer mag (und kann) das berechnen?
47. EA als Ergänzung ML und AI • Big Data treibt ML und AI voran ◦ Gute und umfangreiche Lern- und Prüfdaten notwendig ◦ Schwierig anpassbar, wenn Ergebnisse “gefühlt” nicht passen • Hohe Komplexität von ML und AI ◦ Für Machbarkeits-Untersuchungen ungeeignet
48. Evolutionäre Algorithmen eignen sich für viele Probleme. Es kommt auf deren Kodierung an!
49. Evolution, und weiter? • Stetige Analyse und Optimierung wichtig ◦ Mutationsrate, Populationsgröße, Anzahl explorierte Generationen ◦ Fitnessfunktion ▪ SOO vs. MOO ▪ Neue Einflussfaktoren ▪ Gewichtung der Kriterien ◦ Performanz und Logging
50. Affen können Shakespeare schreiben.
51. Vielen Dank! http://simpsons.wikia.com/wiki/The_Monkey_Suit