Mathematische grundlagen
Download
1 / 110

Mathematische Grundlagen - PowerPoint PPT Presentation


  • 124 Views
  • Uploaded on

Mathematische Grundlagen. Lineare Algebra Matrizenalgebra Einfaches Eigenwertproblem Singulärwertzerlegung Generalisierte Inverse Iterative und numerische Verfahren Differentialrechnung Optimierung. Unbekannte. Konstante. Koeffizienten. Lineare Algebra.

loader
I am the owner, or an agent authorized to act on behalf of the owner, of the copyrighted work described.
capcha
Download Presentation

PowerPoint Slideshow about 'Mathematische Grundlagen' - arissa


An Image/Link below is provided (as is) to download presentation

Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author.While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server.


- - - - - - - - - - - - - - - - - - - - - - - - - - E N D - - - - - - - - - - - - - - - - - - - - - - - - - -
Presentation Transcript
Mathematische grundlagen
Mathematische Grundlagen

  • Lineare Algebra

  • Matrizenalgebra

  • Einfaches Eigenwertproblem

  • Singulärwertzerlegung

  • Generalisierte Inverse

  • Iterative und numerische Verfahren

  • Differentialrechnung

  • Optimierung

Ausgleichungsrechnung I

Gerhard Navratil


Lineare algebra

Unbekannte

Konstante

Koeffizienten

Lineare Algebra

Lösen linearer Gleichungen und Gleichungssysteme

Werkzeug: Matrizenrechnung

Ausgleichungsrechnung I

Gerhard Navratil


Arten von linearen gleichungssystemen
Arten von linearen Gleichungssystemen

Homogenes Gleichungssystem: alle Konstanten gleich Null

Inhomogenes Gleichungssystem: mindestens eine Konstante ungleich Null

Beispielsystem:3 Gleichungen in 3 Unbekannten

Mehr Gleichungen als Unbekannte: Überbestimmt

Mehr Unbekannte als Gleichungen: Unterbestimmt

Ausgleichungsrechnung I

Gerhard Navratil


Begriff algebra
Begriff ‚Algebra‘

Abu Ja'far Muhammad ibn Musa Al-Chwarismi: ‚Hisab al-gabr w'al-muqabala‘ (Wiederherstellen und Zusammenführen) um 800 – Auflösen von Gleichungen

lat. Übersetzung: ‚Algoritmi‘ (Algorithmus)

Algebra später: Lehre vom Auflösen von Gleichungs- und Ungleichungssystemen

Ausgleichungsrechnung I

Gerhard Navratil


Moderne algebra
Moderne Algebra

Beziehungen mathematischer Größen zu-einander – formale Behandlung

Lineare Algebra: n-dimensionaler Vektor-raum und lineare Transformationen in ihm

Algebra auch: mathematische Struktur mit bestimmten Eigenschaften  Menge der Matrizen und ihre Operationen sind eine Algebra

Ausgleichungsrechnung I

Gerhard Navratil


Matrizenalgebra
Matrizenalgebra

Eine (m,n)-Matrix ist eine rechteckige Anordnung von m x n Elementen in m Zeilen und n Spalten.

Ausgleichungsrechnung I

Gerhard Navratil


Dimension einer matrix
Dimension einer Matrix

Definiert durch Anzahl der Spalten und Zeilen

quadratisch, wenn Anzahl der Spalten und Zeilen gleich

rechteckig sonst

(m,1)-Matrix: Spaltenvektor

(1,n)-Matrix: Zeilenvektor

(1,1)-Matrix: Skalar

Ausgleichungsrechnung I

Gerhard Navratil


Elemente der matrix
Elemente der Matrix

Können Variablen, Zahlen aus C (R, Z, N), Polynome, Matrizen etc. sein

Angesprochen über den Index

  • Zeilenindex: Nummer der Zeile

  • Spaltenindex: Nummer der Spalte

    Index: Erst Zeile, dann Spalte angegeben

Ausgleichungsrechnung I

Gerhard Navratil


Gleichungssysteme mit matrizen
Gleichungssysteme mit Matrizen

Gleichungssystem von vorher: Ax=b

  • KoeffizientenmatrixA

  • Unbekanntenvektor x

  • Konstantenvektor b

Ausgleichungsrechnung I

Gerhard Navratil


Schreibweise von matrizen
Schreibweise von Matrizen

Runde und eckige Klammern erlaubt

In der Lehrveranstaltung:Eckige Klammern für Matrizen mit Zahlen

Blockweise auftretende Nullen oft weggelassen (Lesbarkeit)

Ausgleichungsrechnung I

Gerhard Navratil


Alter der matrizenschreibweise
Alter der Matrizenschreibweise

Albrecht Dürer: ‚Die Melancholie‘ (1514)

magisches

Quadrat

Ausgleichungsrechnung I

Gerhard Navratil


Submatrizen
Submatrizen

Jeder Teilblock einer Matrix kann wieder als Matrix aufgefasst werden

P, q, r, s sind Submatrizen

Ausgleichungsrechnung I

Gerhard Navratil


Spezialformen
Spezialformen

  • Nullmatrix: Alle Elemente gleich Null

  • Diagonalmatrix: Nur Hauptdiagonale besetzt

  • Dreiecksmatrix: Dreieck besetzt

    • obere Dreiecksmatrix R oder U

    • untere Dreiecksmatrix L

  • Treppenform: nicht-quadratische Matrizen in Dreiecksform

Ausgleichungsrechnung I

Gerhard Navratil


Symmetrie
Symmetrie

  • Symmetrische Matrix: quadratisch und

  • Schief-symmetrische Matrix: quadratisch und Elemente der Hauptdiagonale gleich Null

Ausgleichungsrechnung I

Gerhard Navratil


Gleichheit von matrizen
Gleichheit von Matrizen

Zwei Matrizen sind gleich, wenn sie

  • vom gleichen Typ sind (die gleiche Dimension haben) und

  • alle Elemente gleich sind, also wenn gilt

Ausgleichungsrechnung I

Gerhard Navratil


Spur einer matrix
Spur einer Matrix

Nur für quadratische Matrizen

Summe der Hauptdiagonal-Elemente

abgekürzt mit ‚tr‘ (engl. ‚trace‘)

Ausgleichungsrechnung I

Gerhard Navratil


Determinante einer matrix

Minor

Submatrix nach Streichen der i-ten Zeile

und k-ten Spalte, auch Streichungsmatrix

Kofaktor, oder auch

algebraisches

Komplement

Determinante einer Matrix

Nur für quadratische Matrizen

Berechnet nach Entwicklungssatz von Laplace

abgekürzt mit ‚det A‘ oder |A|

Ausgleichungsrechnung I

Gerhard Navratil


Regeln ber determinanten
Regeln über Determinanten

  • Vertauschen zweier Zeilen (Spalten) wechselt das Vorzeichen

  • Addition (Subtraktion) eines Vielfachen einer Zeile (Spalte) zu einer anderen Zeile (Spalte) lässt die Determinante unverändert

  • Determinante einer Dreiecks- oder Diagonal-matrix ist das Produkt der Hauptdiagonal-Elemente

  • verschwindende Determinante: Sind zwei Zeilen (Spalten) gleich oder proportional, so wird det(A)=0 (die Determinante verschwindet)

Ausgleichungsrechnung I

Gerhard Navratil


Regul re und singul re matrizen
Reguläre und singuläre Matrizen

  • Singuläre Matrix: Quadratische Matrix mit verschwindender Determinante – det(A)=0

  • Reguläre Matrix: Quadratische Matrix, bei der die Determinante nicht verschwindet

Ausgleichungsrechnung I

Gerhard Navratil


Spezialf lle

+

+

+

-

-

-

Spezialfälle

(2,2)-Matrix

(3,3)-Matrix: Regel von Sarrus

Ausgleichungsrechnung I

Gerhard Navratil


Matrizenoperationen
Matrizenoperationen

  • Transposition

  • Addition/Subtraktion

  • Multiplikation mit einem Skalar

  • Multiplikation zweier Matrizen

Ausgleichungsrechnung I

Gerhard Navratil


Transposition
Transposition

Elemente wechseln ihre Position durch Vertauschen des Zeilen- und Spaltenindex

Abgekürzt mit AT

Spaltenvektor wird zu Zeilenvektor und umgekehrt

Ausgleichungsrechnung I

Gerhard Navratil


Symmetrie und transposition
Symmetrie und Transposition

  • Symmetrische Matrix:

  • Schiefsymmetrische Matrix:

Ausgleichungsrechnung I

Gerhard Navratil


Aufspaltung einer quadratischen matrix
Aufspaltung einer quadratischen Matrix

Jede quadratische Matrix kann aufgespalten werden in eine symmetrische und eine schiefsymmetrische Matrix:

Ausgleichungsrechnung I

Gerhard Navratil


Addition und subtraktion
Addition und Subtraktion

Elementweises addieren/subtrahieren

Addition ist assoziativ

Addition ist kommutativ

Addition hat Nullelement

Transposition einer Summe

Ausgleichungsrechnung I

Gerhard Navratil


Multiplikation matrix skalar
Multiplikation Matrix-Skalar

Jedes Element wird mit dem Skalar multipliziert

Es gilt:

Ausgleichungsrechnung I

Gerhard Navratil


Matrizenmultiplikation
Matrizenmultiplikation

Element an Position (i,j) ist Produkt aus Zeilenvektor ai und Spaltenvektor bj

Potenzen nur für quadratische Matrizen möglich

AB=0 bedeutet, dass mindestens eine Matrix singulär (nicht: Nullmatrix!)

Ausgleichungsrechnung I

Gerhard Navratil


Eigenschaften der multiplikation

Kroneckersymbol

Eigenschaften der Multiplikation

Assoziativ: (AB)C = A (BC)

Neutrales Element ist Einheitsmatrix I (E) mit

Multiplikation mit Einheitsmatrix ist kommutativ

Sonst NICHT kommutativ (ABBA)

Multiplikation ist distributiv: A(B+C)=AB+AC

Ausgleichungsrechnung I

Gerhard Navratil


Potenzieren von matrizen
Potenzieren von Matrizen

Ausgleichungsrechnung I

Gerhard Navratil


Skalarmultiplikation
Skalarmultiplikation

Mit Einheitsmatrix kann die Skalarmultiplikation in eine Matrizenmultiplikation rückgeführt werden:

Ausgleichungsrechnung I

Gerhard Navratil


Transponieren von produkten
Transponieren von Produkten

Ausgleichungsrechnung I

Gerhard Navratil


Falk sches schema

p

B

D

n

n

A

C=AB

C

CD

B

BCD

m

A

ABCD

Falk‘sches Schema

Ausgleichungsrechnung I

Gerhard Navratil


Determinante und spur von matrizenprodukten
Determinante und Spur von Matrizenprodukten

  • Determinante einer (n,n)-Matrix:

  • Spur einer Matrix:

Ausgleichungsrechnung I

Gerhard Navratil


Gau sche transformation
Gauß‘sche Transformation

Produkt

N ist quadratisch, symmetrisch

Elemente nij von N: Skalarprodukt der Spalten i und j von A

Diagonalelemente positiv (Quadrate!)

Matrix positiv definit (bzw. semidefinit wenn auch Null in Hauptdiagonale)

Auch für Produkte möglich:

Ausgleichungsrechnung I

Gerhard Navratil


Positiv definit
Positiv definit

Alle Subdeterminanten, die durch Streichung der letzten k Zeilen und Spalten entstehen (Minoren) sind 0

Hinweise auf positive definite Matrix:

  • Diagonalelemente positive reelle Zahlen

  • Jede Untermatrix ist positiv definit

  • Spur, Determinante und Minoren positiv

  • A+B positiv definit, wenn A und B positiv definit

  • Symmetrische Matrix mit positiven Eigenwerten ist positiv definit

Ausgleichungsrechnung I

Gerhard Navratil


Orthogonale matrizen
Orthogonale Matrizen

Quadratische Matrix

Skalarprodukt aus beliebigen Spaltenvektoren (Zeilenvektoren) ist 0 oder 1  orthonormal

Es gilt

Determinante ist ±1

Determinante +1: eigentlich orthogonal

Determinante -1: uneigentlich orthogonal

Multiplikation orthogonaler Matrizen ist kommutativ

Ausgleichungsrechnung I

Gerhard Navratil


Inversion
Inversion

Inverse Matrix (Kehrmatrix) von A ist definiert über

Matrix A quadratisch mit Determinante 0

Inverse ist eindeutig

A*: Adjungierte Matrix zu A, transponierte Matrix der Kofaktoren von A

Ausgleichungsrechnung I

Gerhard Navratil


Inversion einer 2 2 matrix
Inversion einer (2,2)-Matrix

Ausgleichungsrechnung I

Gerhard Navratil


Weitere regeln
Weitere Regeln

orthogonale Matrizen

A symmetrisch  A-1 symmetrisch

A Diagonalmatrix  A-1 Diagonalmatrix mit

Diagonalmatrix mit weiterer Zeile/Spalte besetzt

Ausgleichungsrechnung I

Gerhard Navratil


Submatrizen1
Submatrizen

Ausgleichungsrechnung I

Gerhard Navratil


Spezialf lle von submatrizen
Spezialfälle von Submatrizen

Ausgleichungsrechnung I

Gerhard Navratil


Neumann sche reihe
Neumann‘sche Reihe

Matrizeninversion kann auch über Reihenentwicklung berechnet werden:

Beweis: Von links mit (I+A) multiplizieren

Konvergenz, wenn Ai bei wachsendem i gegen Nullmatrix strebt

Ausgleichungsrechnung I

Gerhard Navratil


Aufl sen von gleichungssystemen
Auflösen von Gleichungssystemen

Gegeben: Ax=b

Multiplikation von links mit A-1:

A-1Ax= A-1b

ergibt: (I)x= A-1b

Voraussetzungen:

Anzahl der Zeilen in A = Anz. Zeilen in b

Anzahl der Spalten in A = Anz. Zeilen in x

A invertierbar (quadratisch, Determinante  Null)

Ausgleichungsrechnung I

Gerhard Navratil


Aufl sung wenn nicht quadratisch
Auflösung wenn nicht quadratisch

Gauß‘sche Transformation:Multiplikation von links mit AT:ATAx=ATbAuch: Normalgleichungen

Jetzt quadratisch und symmetrisch, wenn regulär ist das System lösbar

Abkürzung N=ATANormalgleichungsmatrix

Ausgleichungsrechnung I

Gerhard Navratil


Lineare abh ngigkeit
Lineare Abhängigkeit

  • Vektorrechnung: Ein k-Tupel von Vektoren heißt linear abhängig wenn gilt mit (l1, …, ln) 0

  • Matrizenrechnung: Lineare Abhängig-keiten zwischen Zeilenvektoren bzw. Spaltenvektoren

Ausgleichungsrechnung I

Gerhard Navratil


Mathematische grundlagen
Rang

Rang: Anzahl der linear unabhängigen Vektoren – rank(A)

Zeilen- und Spaltenrang sind immer gleich

Es gilt: rank(A)=rank(AT)

Ausgleichungsrechnung I

Gerhard Navratil


Rangdefekt
Rangdefekt

Anzahl der linearen Abhängigkeiten: Rangdefizit oder Rangdefekt d

rank(A)=n-d

Ausgleichungsrechnung I

Gerhard Navratil


Rang einer matrix
Rang einer Matrix

Maximaler Rang einer (n,n)-Matrix: nDann: d = 0 (voller Rang) und det(A) 0Also: Matrix invertierbar!

Wenn d > 0, dann det(A)= 0

Maximaler Rang einer (n,m)-Matrix: min(n,m)

Ausgleichungsrechnung I

Gerhard Navratil


Rang bei gleichungssystemen
Rang bei Gleichungssystemen

Gleichungssystem Ax=b

(n,n)-Matrix A muss Rang nhaben

Zusätzlich: rank(A)=rank(A,b)

Ausgleichungsrechnung I

Gerhard Navratil


Bestimmung des ranges 1
Bestimmung des Ranges (1)

Gauß‘scher Algorithmus: Man bringt die Matrix auf Treppen-(Dreiecks-)Form

Erlaubte elementare Umformungen:

  • Vertauschen von Zeilen/Spalten

  • Multiplizieren mit Skalar

  • Addieren einer mit einem Skalar multiplizierten Zeile/Spalte zu einer anderen Zeile/Spalte

Ausgleichungsrechnung I

Gerhard Navratil


Bestimmung des ranges 2
Bestimmung des Ranges (2)

Zeilen/Spalten, die das Vielfache anderer Zeilen/Spalten sind, werden eliminiert

Anzahl der nicht verschwindenden Zeilen/ Spalten ist der Rang

Verschwindende Zeilen: Nullen in Hauptdiagonale  Determinante wird Null

Algorithmus auch zur Lösung von Gleichungssystemen verwendbar

Ausgleichungsrechnung I

Gerhard Navratil


Elementare umformungen
Elementare Umformungen

Sind auch über Matrizenmultiplikationen möglich: z.B. Vertauschung von Zeilen

Ausgleichungsrechnung I

Gerhard Navratil


Gau jordan verfahren
Gauß-Jordan-Verfahren

Basiert auf Gauß‘schem Algorithmus

Nur Umformungen der Zeilen

Ziel ist Zeilennormalform:

  • Elemente unterhalb der Hauptdiagonale Null

  • Erstes nicht verschwindendes Element jeder Zeile Eins

  • Oberhalb dieser nicht verschwindenden Elemente stehen nur Nullen

Ausgleichungsrechnung I

Gerhard Navratil


Vorgangsweise

Zeile durch diesen Wert dividieren

Zeilen

vertauschen

größtes Element (Pivotelement)

Erste vom Nullvektor verschiedene Spalte

Vorgangsweise

Ausgleichungsrechnung I

Gerhard Navratil


Hinweis
Hinweis

Gauß-Jordan-Verfahren kann auch zur Matrizeninversion verwendet werden

Beginn: A | I

Umwandlung der Matrix A, wobei jede Umformung auf beide Matrizen angewendet wird

Resultat: I | A-1

Ausgleichungsrechnung I

Gerhard Navratil


Einfaches eigenwertproblem 1
Einfaches Eigenwertproblem (1)

Quadratische Matrix A, gesucht sind die Vektoren x, für die giltAx=lxmit dem Skalar l

Umgeformt: (A-lI)x=0(charakteristische Gleichung)

Annahme: (A-lI) ist invertierbar: (A-lI)-1(A-lI)x=(A-lI) -10  x=0triviale Lösung

Ausgleichungsrechnung I

Gerhard Navratil


Einfaches eigenwertproblem 2
Einfaches Eigenwertproblem (2)

Nicht-triviale Lösungen, wenn (A-lI) singulär, alsodet(A-lI)=0

charakteristische Determinante vonA

Ausgleichungsrechnung I

Gerhard Navratil


Eigenwertproblem
Eigenwertproblem

allgemeine Form des Eigenwertproblems:Ax=lBx (für uns nicht wichtig)

Außerdem existiert jeweils eine zweite Art (Multiplikation mit dem Vektor von links)

Für uns ist bei Eigenwertproblem immer das einfache Eigenwertproblem erster Art gemeint

Ausgleichungsrechnung I

Gerhard Navratil


Eigenwerte
Eigenwerte

Lösung der charakteristischen Gleichung für eine (n, n)-Matrix liefert n Werte l1 bis ln (Eigenwerte)

Eigenwerte im Allgemeinen konjugiert komplex

n ungerade: mindestens ein reeller Eigenwert

einfache, zweifache und mehrfache Eigenwerte

Ausgleichungsrechnung I

Gerhard Navratil


Kontrolle der eigenwerte
Kontrolle der Eigenwerte

Ausgleichungsrechnung I

Gerhard Navratil


Weitere eigenschaften
Weitere Eigenschaften

det(A)=0 mindestens ein Eigenwert gleich Null

Rangdefizit d  d Eigenwerte gleich Null

Die Eigenwerte einer Dreiecks- oder Diagonalmatrix sind die Hauptdiagonal-elemente

A und AT haben dieselben Eigenwerte

A, li An, (li) n (speziell: Inverse!)

A, li A+cI, li+c; cA, cli

Ausgleichungsrechnung I

Gerhard Navratil


Eigenvektoren
Eigenvektoren

Zu den Werten l gehörende nicht triviale Lösungen für x

Eigenvektor zum Eigenwert l

Da (A-liI) singulär, ist der Eigenvektor nicht eindeutig!

Rangdefizit von 1: Eigenrichtung (Vektor auf Länge 1 bringen um einheitliche Lösung zu erhalten – Normieren liefert Eigenvektor)

Rangdefizit >1: Entsprechende Anzahl linear unabhängiger Eigenrichtungen

Ausgleichungsrechnung I

Gerhard Navratil


Begriffe
Begriffe

Menge aller Eigenwerte: Spektrum der Matrix

Betragsmäßig größter Eigenwert: Spektralradius

Eigenwerte werden in SpektralmatrixL zusammengefasst (Diagonalmatrix)

Eigenvektoren als Spaltenvektoren in ModalmatrixX zusammengefasst

Ausgleichungsrechnung I

Gerhard Navratil


Eigenschaften von l und x
Eigenschaften von L und X

A = XLX-1 (Eigenwertzerlegung)

X-1AX = L (Hauptachsentransformation)

AX = XL

A und L sind ähnliche Matrizen:Es gibt eine Matrix U für die gilt:A = U-1LU oder allgemein: S = U-1RU (Ähnlichkeitstransformation)

A symmetrisch X orthogonal A = XLXT und XTAX = L

Ausgleichungsrechnung I

Gerhard Navratil


Weitere eigenschaften1
Weitere Eigenschaften

Ist A eine Diagonalmatrix, so giltL = A und X= I

A und Am haben dieselben Eigenvektoren

Bei einer symmetrischen Matrix A gilt:A2= ATA, die Matrix ATA hat dieselben Eigenvektoren, die Eigenwerte sind die Quadrate der Eigenwerte von A

Ausgleichungsrechnung I

Gerhard Navratil


Geometrische interpretation
Geometrische Interpretation

Darstellung einer Ellipse ist möglich mit

Eigenvektoren von A:Richtung der Haupt- und Nebenachse

Eigenwerte von A:Länge von Haupt- und Nebenachse

Modalmatrix dreht die Ellipse in Hauptlage

Ausgleichungsrechnung I

Gerhard Navratil


Singul rwertzerlegung
Singulärwertzerlegung

Ähnlich der Eigenwertzerlegung

Auch für rechteckige Matrizen definiert

Die (m,n)-Matrix A zerlegen wir in

  • eine orthogonale (m,m)-Matrix U,

  • eine orthogonale (n,n)-Matrix V und

  • eine (m,n)-Diagonalmatrix S.

    Bedingung für die Zerlegung: A = USVT

Ausgleichungsrechnung I

Gerhard Navratil


Bestimmung der matrizen 1
Bestimmung der Matrizen (1)

Gauß‘sche Transformation

Weil U orthogonal gilt UTU=I

Mit der AbkürzungD=STS=S2 erhalten wir

Rechter Teil entspricht formal einer Eigenwertzerlegung von ATA.

Ausgleichungsrechnung I

Gerhard Navratil


Bestimmung der matrizen 2

D=SST=S2

Bestimmung der Matrizen (2)

Somit D Diagonalmatrix mit Eigenwerten von ATA.

S hat die Wurzeln der Eigenwerte in der Hauptdiagonale, mit Nullen aufgefüllt zur richtigen Dimension

V aus Eigenvektoren von ATA.

U über AAT=USVT(USVT)T=USSTUT

Singular Value Decomposition (SVD)

Ausgleichungsrechnung I

Gerhard Navratil


Inversion singul rer matrizen generalisierte inverse
Inversion singulärer Matrizen (Generalisierte Inverse)

Moore-Penrose Inverse

Bestimmung über Singulärwertzerlegung:Da nur für reguläre Matrizen (li0) möglich, Eigenwerte gleich Null gestrichen

Ausgleichungsrechnung I

Gerhard Navratil


Numerische l sung
Numerische Lösung

Bisher gesehene Verfahren und Formeln sehr rechenintensiv und fehleranfällig

Im Allgemeinen sollte auf vorhandene, getestete Programme zurückgegriffen werden

Im Weiteren einige wichtige Methoden

Ausgleichungsrechnung I

Gerhard Navratil


L sung von gleichungssystemen
Lösung von Gleichungssystemen

  • Eliminationsverfahren nach Gauß

  • Eliminationsverfahren nach Gauß-Jordan

  • LU-Verfahren

  • Cholesky-Verfahren

  • Gauß-Seidel-Verfahren

Ausgleichungsrechnung I

Gerhard Navratil


Eliminationsverfahren nach gau
Eliminationsverfahren nach Gauß

Koeffizientenmatrix durch elementare Umformungen in Dreiecks- oder Treppenform bringen  liefert eine Unbekannte

Rückwärtseinsetzen in das umgeformte Gleichungssystem

Ausgleichungsrechnung I

Gerhard Navratil


Eliminationsverfahren nach gau jordan
Eliminationsverfahren nach Gauß-Jordan

Koeffizientenmatrix durch elementare Umformungen in Zeilennormalform gebracht

Direkte Ermittlung der Unbekannten

Ausgleichungsrechnung I

Gerhard Navratil


Lu verfahren lr verfahren
LU-Verfahren (LR-Verfahren)

Lower-Upper-Decomposition

(n,n)-Matrix A in obere (U) und untere (L) Dreiecksmatrix zerlegt: A = LU

Ax = (LU)x = L(Ux) = b  Ly = b

Vorteil: Zerlegte Matrix A kann mit jedem Konstantenvektor b ohne neuerliche Auflösung verwendet werden

Ausgleichungsrechnung I

Gerhard Navratil


Cholesky verfahren
Cholesky-Verfahren

Anwendung des LU-Verfahrens auf symmetrische, positiv definite Matrizen

A = UTU

Ax = b Ux = s mit

Ausgleichungsrechnung I

Gerhard Navratil


Partielle reduktion mit dem cholesky verfahren 1
Partielle Reduktion mit dem Cholesky-Verfahren (1)

Ax = b aufgespaltet inA11x1 + A12x2 = b1 A21x1 + A22x2 = b2

Erlaubt Aufspaltung der Dreiecksmatrix in

Ausgleichungsrechnung I

Gerhard Navratil


Partielle reduktion mit dem cholesky verfahren 2
Partielle Reduktion mit dem Cholesky-Verfahren (2)

Aus A = UTU können wir ableiten:

Ausgleichungsrechnung I

Gerhard Navratil


Partielle reduktion mit dem cholesky verfahren 3
Partielle Reduktion mit dem Cholesky-Verfahren (3)

Ausgleichungsrechnung I

Gerhard Navratil


Gau seidel verfahren
Gauß-Seidel-Verfahren

Schwach besetzte Matrix: An vielen Stellen Null

Iterative Verfahren gut geeignetz.B. Gauß-Seidel-Verfahren

Näherungslösung so lange verbessert, bis gewünschte Genauigkeit erreicht

Nachteil: Iteration nicht immer konvergent

Ausgleichungsrechnung I

Gerhard Navratil


Bestimmung von eigenwerten und vektoren
Bestimmung von Eigenwerten und –Vektoren

  • QR-Algorithmus – Zerlegung in ortho-gonale Matrix Q und Dreiecksmatrix RA = QR, Iteration Ak+1= RkQk, Haupt-diagonalelemente von Ak kovergieren zu Eigenwerten

  • Jacobi-Verfahren – Symmetrische Matrix wird näherungsweise in eine Diagonal-matrix übergeführt (Eigenwerte in Hauptdiagonale)

Ausgleichungsrechnung I

Gerhard Navratil


Matrixnorm
Matrixnorm

Reelle Funktion der Elemente mit der Eigenschaft

||A||0 mit ||A|| = 0 für A=0

Unterschiedliche Normen vorhanden

… für quadratische

Matrizen

Ausgleichungsrechnung I

Gerhard Navratil


Wichtige matrixnormen

maximaler Eigenwert

Wichtige Matrixnormen

  • Frobenius/Schur-Norm (Euklidische Norm)

  • Spektral-/Hilbert-Norm

Ausgleichungsrechnung I

Gerhard Navratil


Gest rte gleichungssysteme
Gestörte Gleichungssysteme

Störung eines Gleichungssystems durch kleine Abweichungen eines oder mehrerer Parameter

Frage: Wie wirken sich die Störungen auf die Lösung aus?

Ausgleichungsrechnung I

Gerhard Navratil


Beispiel

gestörtes System:

Differenz:

Beispiel

Bei a nahe 1 wirkt sich ein geringer Fehler d

bereits stark aus!

Ausgleichungsrechnung I

Gerhard Navratil


Allgemeine behandlung

Kondition kp der Matrix A

Allgemeine Behandlung

Bestimmung von

Ergebnis: Für kleine Störungen wird der relative

Fehler um den Faktor verstärkt.

Gut konditioniert: kleine Eingangsfehler bewirken

kleine Ergebnisfehler

Schlecht konditioniert: kleine Eingangsfehler

bewirken unverhältnismäßig große Ergebnisfehler

Ausgleichungsrechnung I

Gerhard Navratil


Kondition einer matrix
Kondition einer Matrix

k(A)1

Große Konditionszahl weist auf unangenehme numerische Eigenschaften der Matrix hin  eventuell Probleme beim Auflösen des Gleichungssystems

Singuläre Matrizen erhalten k=

Symmetrische Matrizen: k(A)=|lmax|/|lmin|

Ausgleichungsrechnung I

Gerhard Navratil


Differentialrechnung
Differentialrechnung

Funktion: Abbildung xf(x)

Differenzenquotient:Steigung der Sekante im Intervall [x,x0]

Differentialquotient (erste Ableitung)Steigung der Funktion im Punkt x

Lineare Funktionen: Steigung und Sekante in jedem Punkt gleich

Ausgleichungsrechnung I

Gerhard Navratil


Rechenregeln
Rechenregeln

  • Konstantenregel

  • Faktorregel

  • Potenzregel

  • Summenregel

  • Produktregel

  • Quotientenregel

  • Kettenregel

Ausgleichungsrechnung I

Gerhard Navratil


Numerische differentiation
Numerische Differentiation

Wenn analytische Ableitung aufwendig

Differentialquotient durch Differenzen-quotient angenähert

oder (numerisch besser)

mit 10-8h 10-4

Ausgleichungsrechnung I

Gerhard Navratil


H here ableitungen
Höhere Ableitungen

Zweite Ableitung: Erste Ableitung der ersten Ableitung – f‘‘(x)=(f‘(x))‘

Ebenso dritte Ableitung etc.

Allgemein:

Ausgleichungsrechnung I

Gerhard Navratil


Taylorreihe 1

n-tes Taylorpolynom

Taylorreihe (1)

Approximation durch Potenzreihenz.B.

Funktionswerte einer differenzierbaren Funktion f in der Umgebung der Stelle x0 näherungsweise berechenbar

unendliche Potenzreihe (n ): Taylorreihe

Ausgleichungsrechnung I

Gerhard Navratil


Taylorreihe 2
Taylorreihe (2)

Auch geschrieben als

Voraussetzung: Funktion (n+1)-fach differenzierbar

Entwicklung um x0=0: Maclaurin-Formel

Beispiele: Sinus-/Cosinusentwicklung

Ist Dx klein: Abbruch nach ersten beiden Gliedern - Linearisierung

Ausgleichungsrechnung I

Gerhard Navratil


Funktionen in mehreren variablen
Funktionen in mehreren Variablen

Abbildung, die jedem Vektor x eine (reelle) Zahl f(x) zuordnet

Funktion in n Variablen entsprechend der Dimension des Vektors

Ausgleichungsrechnung I

Gerhard Navratil


Partielle ableitungen
Partielle Ableitungen

Alle Parameter außer xieiner Funktion in n Variablen als Konstante angesehen

Ableitung nach diesem Parameter heißt partielle Ableitung (erster Ordnung) nach xian der Stelle x

Analog partielle Ableitungen höherer Ordnung

Ausgleichungsrechnung I

Gerhard Navratil


Totales differential
Totales Differential

Totales Differential der Funktion f an der Stelle x:

Ausgleichungsrechnung I

Gerhard Navratil


Taylorentwicklung f r funktion in zwei variablen
Taylorentwicklung für Funktion in zwei Variablen

Wobei die Klammerausdrücke nach dem binomischen Lehrsatz aufzulösen sind:

und folgendes gilt:

Ausgleichungsrechnung I

Gerhard Navratil


Linearisieren einer funktion in mehreren variablen
Linearisieren einer Funktion in mehreren Variablen

Taylorentwicklung

Abbruch nach der ersten Ableitung

Anwendbar nur in einer entsprechend kleinen Umgebung um x0 (Glieder höherer Ableitungen vernachlässigbar klein)

Ausgleichungsrechnung I

Gerhard Navratil


Differentiation von matrizenfunktionen
Differentiation von Matrizenfunktionen

Formal gleich bzw. ähnlich den gewöhnlichen Differentiationsregeln

Hier nur für Ausgleichung wichtige Fälle

Differentialvektor: dxT=(dx1 dx2 … dxn)

f=aTxdf=aTdx

Ausgleichungsrechnung I

Gerhard Navratil


Ableitung der bilinearform
Ableitung der Bilinearform

Bilinearform: Produkt der FormZeilenvektor-Matrix-Spaltenvektor

f=xTAldf=dxTAl =lTATdx

Sonderfall: Vektoren identisch – Quadratische Form

f=xTAxdf=dxTAx +xTAdx=xT(AT+A)dx

Symmetrische Matrizen: df=2xTAdx

Ausgleichungsrechnung I

Gerhard Navratil


Optimierung
Optimierung

Festlegung von Parametern so, dass eine Funktion der Parameter einen extremen Wert annimmt (Maximum oder Minimum)

z.B. kürzester Weg zwischen zwei Punkten, maximale Fläche bei gegebenem Umfang

Eindimensionaler Fall: Erste Ableitung gleich Null setzen – liefert Extremwert

Mehrdimensionaler Fall: Ersten partiellen Ableitungen gleich Null gesetzt

Ausgleichungsrechnung I

Gerhard Navratil


Unterscheidung maximum minimum
Unterscheidung Maximum-Minimum

Zweite Ableitung

Bei Funktion in mehreren Variablen: Hesse-Matrix

  • positiv definit: Minimum(alle Eigenwerte positiv)

  • negativ definit: Maximum (alle Eigenwerte negativ)

Ausgleichungsrechnung I

Gerhard Navratil


Nebenbedingungen
Nebenbedingungen

Gesucht: lokale Extrema von f(x1…xn), Bedingung g(x1…xn) muss erfüllt sein

  • fZielfunktion

  • gNebenbedingung

Ausgleichungsrechnung I

Gerhard Navratil


Beispiel 1
Beispiel (1)

f(x1,x2)=x12+2x22

g(x1,x2)=x1+x2-3=0

Lösung: x1in g durch x2ausdrücken und in f einsetzen – liefert quadratische Gleichung in einer Unbekannten

Diese einfache Lösung nicht immer möglich!

Ausgleichungsrechnung I

Gerhard Navratil


Beispiel 2
Beispiel (2)

Graphische Lösung: Nebenbedingung berührt Niveaulinie

Ausgleichungsrechnung I

Gerhard Navratil


Beispiel 3
Beispiel (3)

Mathematisch: Nebenbedingung und Niveaulinie in diesem Punkt parallel

Somit: Gradienten von fund g haben gleiche Richtung:bzw.

Ausgleichungsrechnung I

Gerhard Navratil


Beispiel 4
Beispiel (4)

Somit erhalten wir das Gleichungssystem

Ausgleichungsrechnung I

Gerhard Navratil


Beispiel 5

Lagrange-Multiplikator

Beispiel (5)

Formal gleiche Lösung: Lagrange-Funktion

Ableitung der Lagrange-Funktion nach allen

Variablen x1, …, xn und lund gleich Null

setzen liefert dasselbe Gleichungssystem

wie vorher.

Ausgleichungsrechnung I

Gerhard Navratil


Zusammenfassung 1
Zusammenfassung (1)

Gleichungssysteme können mit Matrizen einfach angeschrieben und behandelt werden

Eigenschaften durch Kennzahlen beschrieben (Determinante, Rang, etc.)

Linearisieren von Funktionen geschieht mit Taylorreihen

Zum Optimieren mit Nebenbedingungen nimmt man die Lagrange-Funktion

Ausgleichungsrechnung I

Gerhard Navratil


Zusammenfassung 2
Zusammenfassung (2)

Vorsicht bei numerischen Problemen: Die Hälfte aller vom Computer darstellbarer Zahlen liegt zwischen -1 und 1

Schlechte Numerik kann den Rechengang empfindlich stören, daher die Ergebnisse IMMER kritisch hinterfragen

Ausgleichungsrechnung I

Gerhard Navratil