1 / 44

Ingo Rechenberg

Ingo Rechenberg. PowerPoint-Folien zur 8. Vorlesung „Evolutionsstrategie I“. Nichtlineare Theorie der (1, l ) - Evolutionsstrategie Fortschritt und Erfolg am Kugelmodell. D ARWIN s Denkschema in maximaler Abstraktion.

kellsie
Download Presentation

Ingo Rechenberg

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript


  1. Ingo Rechenberg PowerPoint-Folien zur 8. Vorlesung „Evolutionsstrategie I“ Nichtlineare Theorie der (1, l) - Evolutionsstrategie Fortschritt und Erfolg am Kugelmodell

  2. DARWINs Denkschema in maximaler Abstraktion Genauere Nachahmung der biologischen Evolution

  3. Basis-Algorithmus der (1,l) - Evolutionsstrategie

  4. d s = n Ergebnis der linearen Theorie mit Tabelle der Fortschrittsbeiwerte Fortschrittsbeiwert Zur Erinnerung

  5. Von der linearen Theorie jlin jkug zur nichtlinearen Theorie Einfachste isotrope nichtlineare Funktion

  6. Qualität/Fitness  Fittness-Landschaft Zur Erinnerung Bergsteigen der Evolution

  7. Eine geometrische Betrachtung für n>> 1 Der bis aufx1 mutierte Nachkomme N‘ erleidet den Rückschritt a Für q<< r darfaauf x1 projiziert werden Mutation der Variablen x2 bis xn a Projektion erlaubt wenn q<<r Wir drehen q um die x1-Achse so, dass q in der Bildschirmebene liegt

  8. Vergleich der theoretischen Ergebnisse am Kugelmodell Die genauere Nachahmung der biologischen Evolution mit l Nachkommen führt überraschend zu einer einfacheren Formel als die simple (1+1)-ES

  9. Bestimmung von Bestimmung von Dimensionsloser Fortschritt j

  10. Tabelle des maximalen Fortschritts parallel l

  11. Tabelle des maximalen Fortschritts parallel seriell l Maximum 0,1352

  12. Optimale Erfolgswahrscheinlichkeit parallel seriell l 0,1352

  13. (1+1) - ES versus (1, l) - ES Vergleich der maximalen Fortschrittsgeschwindigkeiten am Kugelmodell bei seriellem Arbeiten

  14. Das dimensionslose Fortschrittsgesetz Dimensionslose Schrittweite Dimensionslose Fortschrittsgeschwindigkeit mit und folgt das zentrale Fortschrittsgesetz Text

  15. Text

  16. Algorithmus der (1,l) – Evolutionsstrategie mit MSR !

  17. z normalverteilt Flächengleich Logarithmische Normalverteilung

  18. Methoden zur Erzeugung der Variationen x Für l gerade (z.B. l = 10) Für l durch 3 teilbar (z.B. l = 9) Determinisierung Für l beliebig (im Programmiermodus) IF RND <.5 THEN xi = aELSE xi= 1/a Text

  19. Determinisierte mutative Schrittweitenregelung am Kugelmodell Computer-Demonstration

  20. MATLAB-Programm der (1+1) ES v=100; d=1; xe=ones(v,1); qe=sum(xe.^2); for g=1:1000 xn=xe+d*randn(v,1)/sqrt(v); qn=sum(xn.^2); if qn < qe qe=qn; xe=xn; d=d*1.3; else d=d/(1.3^0.25); end semilogy(g,qe,'b.') hold on; drawnow; end Zur Erinnerung

  21. MATLAB-Programm der (1, l) ES

  22. MATLAB-Programm der (1, l) ES Variablenzahl, Nachkommenzahl, Startschrittweite und Variablen-werte des Start-Elters v=100; kk=10; de=1; xe=ones(v,1);

  23. MATLAB-Programm der (1, l) ES Erzeugen der Generationenschleife v=100; kk=10; de=1; xe=ones(v,1); for g=1:1000 end

  24. MATLAB-Programm der (1, l) ES Initialisierung der Qualität im Bestwert-Zwischenspeicher auf nicht verschlechterbaren Wert v=100; kk=10; de=1; xe=ones(v,1); for g=1:1000 qb=1e+20; end

  25. MATLAB-Programm der (1, l) ES Generierung der Nachkommenschleife v=100; kk=10; de=1; xe=ones(v,1); for g=1:1000 qb=1e+20; for k=1:kk end end

  26. MATLAB-Programm der (1, l) ES Deterministische Variation der Mutationsschrittweite v=100; kk=10; de=1; xe=ones(v,1); for g=1:1000 qb=1e+20; for k=1:kk if rand < 0.5 dn=de*1.3; else dn=de/1.3; end end end

  27. MATLAB-Programm der (1, l) ES Erzeugung eines mutierten Nachkommen v=100; kk=10; de=1; xe=ones(v,1); for g=1:1000 qb=1e+20; for k=1:kk if rand < 0.5 dn=de*1.3; else dn=de/1.3; end xn=xe+dn*randn(v,1)/sqrt(v); end end

  28. MATLAB-Programm der (1, l) ES Bestimmung der Qualität des mutierten Nachkommen v=100; kk=10; de=1; xe=ones(v,1); for g=1:1000 qb=1e+20; for k=1:kk if rand < 0.5 dn=de*1.3; else dn=de/1.3; end xn=xe+dn*randn(v,1)/sqrt(v); qn=sum(xn.^2); end end

  29. MATLAB-Programm der (1, l) ES Bei Q-Verbesserung Zwischen-speicherung der Qualität, Schritt-weite und Variablenwerte v=100; kk=10; de=1; xe=ones(v,1); for g=1:1000 qb=1e+20; for k=1:10 if rand < 0.5 dn=de*1.3; else dn=de/1.3; end xn=xe+dn*randn(v,1)/sqrt(v); qn=sum(xn.^2); if qn < qb qb=qn; db=dn; xb=xn; end end end

  30. MATLAB-Programm der (1, l) ES Nachkomme aus dem Bestwert-Zwischenspeicher wird zum Elter der nächsten Generation v=100; kk=10; de=1; xe=ones(v,1); for g=1:1000 qb=1e+20; for k=1:kk if rand < 0.5 dn=de*1.3; else dn=de/1.3; end xn=xe+dn*randn(v,1)/sqrt(v); qn=sum(xn.^2); if qn < qb qb=qn; db=dn; xb=xn; end end qe=qb; de=db; xe=xb; end

  31. MATLAB-Programm der (1, l) ES Darstellung der Qualität als Funktion des seriellen Aufwands Kinderzahl x Generationen v=100; kk=10; de=1; xe=ones(v,1); for g=1:1000 qb=1e+20; for k=1:kk if rand < 0.5 dn=de*1.3; else dn=de/1.3; end xn=xe+dn*randn(v,1)/sqrt(v); qn=sum(xn.^2); if qn < qb qb=qn; db=dn; xb=xn; end end qe=qb; de=db; xe=xb; semilogy(kk*g,qe,'b.') hold on; drawnow; end

  32. Erproben des Programms in MATLAB Kopieren Sie das Programm der vorangegangenen Folie. Öffnen Sie MATLAB und klicken Sie in der Taskleiste auf „File/New/Script“. Fügen Sie das Programm ein und klicken Sie auf das Symbol „Save and Run“ Ändern Sie die Zahl der Kinder von 10 auf 5 [kk=5] und die Zahl der Generationen von 1000 auf 2000 [g=1:2000]. Ändern Sie die Kurvenfarbe von blau auf rot [semilogy(g,qe,′r.')]. Sie werden mit der gleichen Zahl von Funktionsaufrufen g×kk =10000 vielleicht etwas näher an das Optimum herankommen. Wiederholen sie die Prozedur für: [g=1:3333], [kk=3], [semilogy(g,qe,‚g.')] [g=1:500], [kk=20], [semilogy(g,qe,‚y.')] Das Ergebnis: Bei 5 Nachkommen [k=1:5] sollten Sie bei der seriellen Arbeitsweise des Rechners dem Optimum (Nullpunkt) am nächsten kommen. MATLAB R2010a

  33. Drei Fragen zu Beginn eines ES-Experiments 1. Frage nach dem Startpunkt ? 2. Frage nach der Startschrittweite ? 3. Frage nach der Versuchsdauer ? Abgeschlossener Variablenraum

  34. Abstand D zweier Zufallspunkte Eine Zwischenbetrachtung im Hyperkubus im Quadrat D nahezu konstant D sehr verschieden

  35. Theorie: Abstand zweier Zufallspunkte X und Yim Hyperkubus Y D l X l l

  36. Simulation im 600-dimensionalen Hyperwürfel der Kantenlänge l = 20 D1=198,23 D2=201,25 D3=199,61 D4=209,62 D5=205,05

  37. D = Start-Ziel-Entfernung Aus der Theorie „Abstand zweier Zufallspunkte und im Hyperkubus“ folgt Wir wissen nicht wo das Ziel liegt, d. h. es kann an jeder Stelle mit gleicher Wahrscheinlichkeit liegen. Das Ziel kann dann als ein Zufallspunkt 1 aufgefasst werden. Ziel Jeder Startpunkt ist gleich gut/schlecht. Wir starten deshalb auch an einem Zufallspunkt 2. D l Start l Wir nehmen eine isotrope Quadrik (=Kugelmodell) als Qualitätsfunktion im Suchraum des Hyperwürfels an l

  38. mit Zufallsstart Kantenlänge des Hyperwürfels =l

  39. Zur Ableitung der Generationsformel Es mögejimmer im Maximum laufen oder folgt Aus Erlaubter relativer Fehler bezogen auf die Stelllänge Text

  40. Ende www.bionik.tu-berlin.de

  41. In der Formel ist die Fortschrittsgeschwindigkeit j eine Funktion von der Variablenzahl n, dem Höhenlinien-Krümmungsradius r, der Mutationsstreuung sund der Nachkommenzahl l. Nur eine riesige Schar von Diagrammen könnte den Zusammenhang grafisch veranschaulichen. In der dimensionslosen Form mit den universellen ParameternF und D ist der Zusammenhang in einem einzigen Diagramm darstellbar.

  42. Das Fortschrittsfenster der Evolutionsstrategie am Kugelmodell hat eine allge-meinen Erkenntniswert. Man könnte, wenn auch politisch verdreht, wie folgt argumentieren: Rechts vom Evolutionsfenster sitzen die Revolutionäre und links davon die Erzkonservativen. Bei den Revolutionären gibt es Rückschritt, bei den Konservativen kommt es zu Stagnation. Sich für die richtige Schrittweite zu entscheiden; das ist die Kunst, die für den Politiker, Manager und Ingenieur gleichermaßen wichtig ist.

  43. Die Verwendung von logarithmisch normalverteilten Zufallszahlen für die Schritt-weitenmutationen gewährleistet erstens, dass keine sinnlosen negativen Schritt-weiten entstehen können und dass zweitens multiplikative Symmetrie herrscht. Schrittweiten werden genauso häufig verdoppelt wie halbiert, genauso häufig verdreifacht wie gedrittelt usw. Bei der Determinisierung der Schrittweitenmutationen wird diese multiplikative Symmetrie genau gleich auf die Nachkommen aufgeteilt.

  44. Wer mit dem Auto von Berlin Frohnau zum Kurfürstendamm in Berlins Innenstadt fahren möchte und ausrechnen möchte, wie lange die Fahrt dauert, muss a) wissen, wie viele Kilometer es bis zum Kudamm sind und b) wissen, wie schnell auf jedem Streckenabschnitt gefahren werden kann. Genauso ist es auch bei der Vorausberechnung der Generationszahl für eine ES-Optimierung. Die Entfernung zum Ziel ist bekannt: Es ist die Distanz zweier Zufallspunkte in einem Hyper-würfel als Suchraum, wenn voraussetzungsgemäß der Startpunkt zufällig gewählt wird, und wenn das Ziel - weil unbekannt - als zweiter Zufallspunkt interpretiert wird. Es werde angenommen, dass der Suchraum durch eine isotrope Quadrikfunktion (Kugelmodell) ausgefüllt wird. Funktioniert die mutative Schrittweitenregelung, dann ist die Fortschrittsge-schwindigkeit der ES an jeder Position während der Zielannäherung bekannt (j =jmax). Daraus folgt: Es lässt sich eine Mindestgenerationszahl für die Lösung des Optimierungspro-blems ausrechnen.

More Related