Minimieren ohne Ableitungen

1. Minimieren ohne Ableitungen Potentialanpassung mit einem Least-Squares-Algorithmus nach Powell (1965) Peter Brommer

2. Übersicht • Problemstellung • Übliche Verfahren • Ansatz von Powell • Beispielrechnungen • Nächste Schritte Peter Brommer

3. Problemstellung physikalisch • Gesucht: Das Potential (z.B. durch Punkte, zwischen denen interpoliert wird). • Gegeben: Die Wirkung(z.B. durch die Kräfte auf die Atome) • Welches Potential verursacht Kräfte, die den gegebenen am besten entsprechen? Peter Brommer

4. Problemstellung mathematisch • Jedes Potential (xi), i=1..n verursacht Kräfte Fj((xi)), j=1..m auf die ⅓ m Atome. • Ein Potential ist umso besser, je näher die Kräfte den Sollkräften Fjsoll kommen. • Die quadrierten Differenzen zwischen Kraft und Sollkraft werden aufsummiert: Peter Brommer

5. Noch mehr Mathematik • Bei bestmöglicher Übereinstimmung von Sollkräften wird U(xi) minimal. • Damit ist das Problem bestimmt: Gesucht sind {xi}, so dass U(xi) den minimalen Wert annimmt. • Das entspricht dem Auffinden des Minimums einer Funktion imRn. Peter Brommer

6. Ein erster Lösungsweg • Der negative Gradient weist in die Richtung des Minimums. Wenn wir immer dem Gradienten folgen, landen wir irgendwann mal in einem (lokalen) Minimum. Peter Brommer

7. Der Gradienten-Algorithmus • Wir rechnen an einem Startpunkt ξ Rn den Gradienten aus und folgen ihm, bis die Funktion minimal wird. • An dieser Stelle steht der Gradient senkrecht auf der bisherigen Richtung. Wir berechnen den neuen Gradienten und folgen ihm wieder bis zum Minimum. • Diese Schritte werden so lange wiederholt, bis sich die Funktion nicht weiter ändert. Peter Brommer

8. Probleme • Der Gradient muss numerisch bestimmt werden. • Der Algorithmus ist nicht an die spezielle Struktur von U(x) angepasst. • Der Algorithmus „vergisst“ nach jedem Schritt, was er bislang über die Funktion gelernt hat. • Ungünstige „Geländeformen“ führen bisweilen zu umständlichen Wegen. Peter Brommer

9. Unwegsames Gelände xj xi Peter Brommer

10. 1. Verbesserung • Nach der ersten Minimalisierung in Richtung w steht der Gradient senkrecht auf w. • Damit der nächste Schritt in Richtung v nicht diesen ersten Schritt zunichte macht, sollte er so verlaufen, dass der Gradient weiterhin senkrecht auf w steht. • Das ist der Fall, wenn w zu v konjugiert ist:0=w·A·v, A ist die Hessematrix von U(x). Peter Brommer

11. Generalized least squares • Sei die zu minimierende Funktion. • Sei ξ die genäherte Position des Minimums. Wenn das Minimum sich tatsächlich bei ξ+δ befindet, dann ist Peter Brommer

12. Taylor-Entwicklung Peter Brommer

13. Der Ansatz von Powell Seien d(1), d(2),...,d(n) n linear unabhängige Richtungen und γ(k)(i) die Ableitung von u(k) in Richtung d(i) (numerisch bestimmt). Dann ist die Korrektur δ eines genäherten Wertes ξ Peter Brommer

14. Rückführung auf Lin. Gl. Syst. • Damit ist das Problem auf ein lineares Gleichungssystem zurückgeführt; der Lösungsvektor q (und damit δ) wird mit Standardverfahren berechnet. Peter Brommer

15. Eindimensionale Minimierung • Wir wissen jetzt, welche Richtung am vielversprechendsten ist. Wie weit müssen wir gehen? • Eindimensionale Minimierung: Ein Minimum wird erst eingeschachtelt (a<b<c; mit U(b)<U(a), U(c)), dann mit parabolischer Interpolation eingeengt. • Ergebnis: Ein λm, so dass U(ξ+λmδ) minimal. Peter Brommer

16. Der Kreis schließt sich • ξ →ξ+λmδ • Ein d(t) wird durch δ ersetzt, so dass |p(t)·q(t)|=max|p(i)·q(i)|, i=1..n. • γ(k)(t) und p(t) werden aktualisiert. • Das Verfahren wird bis zur Konvergenz wiederholt. • Startwerte: d(i) = Koordinatenrichtungen Peter Brommer

17. Vorteile • Neue Richtungen sind konjugiert zu den bisherigen Suchrichtungen. • Numerische Ableitungen müssen nur am Anfang in großer Zahl berechnet werden. • Verfahren funktioniert auch für viele Variablen und Stützstellen Peter Brommer

18. Powell in Aktion • Beispiel: Lennard-Jones-Potential in fcc-Kristall. • 19 Punkte. • 192 Atome in 6 Konfigurationen (also knapp 600 Kräfte). • Ausgangspunkt des Fits war ein Null-Potential. Peter Brommer

19. Fitten an Lennard-Jones 12 10 8 6 4 2 0 -2 1 1.2 1.4 1.6 1.8 2 2.2 2.4 2.6 2.8 3 3.2 Peter Brommer

20. Skalierung • Die Zeit pro Schritt skaliert linear mit der Zahl der Stützstellen • Lösung des Linearen Gleichungssystems: Skaliert mit n³ (ließe sich zu n² verbessern, da sich immer nur eine Spalte und eine Zeile der Matrix ändern). • Skalierung der Zahl der benötigten Schritte ist noch nicht bekannt. Peter Brommer

21. Was kostet Rechenzeit? • Zahl der Atome wächst nach außen (von 32 auf 192). • Bei relativ kleinem n kostet die Kraftberechnung die meiste Zeit. • Aber: Matrixzerlegung skaliert mit n³! Peter Brommer

22. Schwierigkeiten allgemein • Viele Funktionsaufrufe in der linearen Minimierung, schlechtere Minimierung bedeutet aber mehr Iterationen. • Tendenz zur linearen Abhängigkeit der Richtungsvektoren kann nicht ausgeschlossen werden. • Abbruchbedingungen nicht trivial. Peter Brommer

23. Schwierigkeiten konkret • Kann nur fitten, wenn auch Abhängigkeiten vorhanden. • Nachbartabellen können sehr umfangreich werden, daher hoher Speicherbedarf. • Eichfreiheitsgrade müssen noch implementiert werden. Peter Brommer

24. Wie geht‘s weiter? • Mehr Potentiale • Mehr Konfigurationen • EAM-Potentiale • Eichfreiheitsgrade Und natürlich: • Ab-initio-Daten! Peter Brommer

25. Literatur • M.J.D. Powell, CompJ, 7 (1965), Is. 4 Peter Brommer